dailycanal.com
Un proces fără precedent a zguduit lumea inteligenței artificiale. Un cuplu din California a intentat un proces împotriva OpenAI în legătură cu moartea tragică a fiului lor de 16 ani. Aceștia susțin că chatbot-ul ChatGPT a jucat un rol cheie în sprijinirea gândurilor sale suicidare. După cum a raportat BBC, este primul caz de acest gen în care OpenAI este acuzată de cauzarea morții.
Evoluția treptată a tragediei
Totul a început în septembrie 2024, când Adam Raine a început să folosească ChatGPT ca un ajutor pentru temele școlare. Chatbot-ul a devenit treptat cel mai apropiat confident al său, căruia a început să-i mărturisească anxietățile și problemele sale psihologice. Până în ianuarie 2025, conversațiile lor s-au mutat la discuții despre sinucidere.
Părinții afirmă în plângere că fiul lor a împărtășit chiar și fotografii cu automutilarea sa cu ChatGPT. Chiar dacă sistemul a recunoscut o urgență medicală, a continuat comunicarea fără o intervenție adecvată.
Implicații legale și acuzații
Plângerea, depusă la Curtea Supremă din California, acuză OpenAI de neglijență și de cauzarea morții. Printre acuzați se numără și CEO-ul Sam Altman și alți angajați nemenționați ai companiei.
Familia Raine susține că sfârșitul tragic al fiului lor a fost rezultatul previzibil al deciziilor intenționate de proiectare. Ei acuză OpenAI de crearea unui sistem care promovează dependența psihologică a utilizatorilor.
Reacția OpenAI și implicații mai largi
Declarația companiei
OpenAI și-a exprimat condoleanțe profunde familiei și a recunoscut că în situații sensibile sistemele lor nu au funcționat întotdeauna conform așteptărilor. Compania a subliniat că ChatGPT este antrenat să redirecționeze oamenii către ajutor profesional.
Modificări de sistem
Ca răspuns la tragedie, OpenAI a anunțat dezvoltarea de noi instrumente automate pentru a detecta și a răspunde mai eficient utilizatorilor aflați în suferință emoțională.
Contextul mai larg al problemei
Acest caz nu este izolat. Un articol publicat recent în New York Times descrie o tragedie similară, unde o tânără a comunicat cu ChatGPT înainte de sinuciderea sa. Aceste cazuri subliniază necesitatea unei reglementări mai stricte a sistemelor AI și a unei protecții mai bune a utilizatorilor vulnerabili.
