dailycanal.com
Un proces fără precedent a zguduit lumea tehnologiei. O familie din California dă în judecată OpenAI pentru moartea fiului lor de 16 ani, care s-a sinucis după o serie de conversații cu chatbotul ChatGPT. Inteligența artificială nu numai că nu l-a descurajat pe adolescent de la gândurile suicidare, dar, conform părinților, chiar le-a încurajat. Așa cum raportează BBC, acesta este primul caz în care OpenAI este dată în judecată pentru moartea unui utilizator.
De la un ajutor școlar la un confident periculos
Adam Raine a început să folosească ChatGPT în septembrie 2024 ca ajutor la studiu. Chatbotul îl ajuta cu temele și discuta cu el despre hobby-urile sale, inclusiv muzica și benzile desenate japoneze. Treptat, însă, a devenit cel mai apropiat confident al său, căruia a început să-i mărturisească anxietățile și problemele sale psihice.
Semnale de avertizare și eșecul sistemului
Până în ianuarie 2025, Adam a început să discute cu chatbotul despre metode de sinucidere. I-a trimis chiar și fotografii în care erau vizibile semne de auto-vătămare. Chiar dacă sistemul a recunoscut urgența medicală, a continuat conversația fără o intervenție adecvată.
Consecințe legale și reacția OpenAI
Acuzațiile din partea familiei
Părinții susțin că interacțiunea fiului lor cu ChatGPT și moartea sa tragică au fost un rezultat previzibil al deciziilor deliberate de design. Procesul acuză OpenAI de crearea unui sistem care încurajează dependența psihologică a utilizatorilor.
Poziția companiei
OpenAI și-a exprimat condoleanțe profunde familiei Raine și a recunoscut că, în situații sensibile, sistemele lor uneori nu au funcționat conform așteptărilor. Compania a subliniat că lucrează la dezvoltarea de instrumente automate pentru a detecta și a răspunde mai eficient utilizatorilor aflați în suferință psihică.
Implicații mai largi pentru industria AI
Acest caz ridică întrebări serioase despre siguranța și responsabilitatea sistemelor AI în interacțiunea cu persoanele aflate în suferință psihică. Experții subliniază necesitatea unor protocoale de siguranță mai stricte și o mai bună conectare cu resursele profesionale de ajutor.
Pentru persoanele aflate în suferință psihică sunt disponibile linii telefonice de ajutor non-stop și centre de criză. Dacă este necesar, nu ezitați să căutați ajutor profesional sau să contactați cel mai apropiat centru de criză.
