dailycanal.com
Kalifornijska družina je vložila tožbo brez primere proti podjetju OpenAI. Zakonca Matt in Maria Rain trdita, da je chatbot ChatGPT odigral ključno vlogo pri tragični smrti njunega 16-letnega sina Adama. Gre za prvi tovrstni primer, kjer je umetna inteligenca povezana z obtožbo o smrti. Kot poroča BBC, starši v tožbi navajajo, da je program potrjeval sinove samouničevalne misli, namesto da bi ga usmeril k strokovni pomoči.
Od šolskega pripomočka do nevarnega zaupnika
Adam je začel uporabljati ChatGPT septembra 2024 predvsem kot pomoč pri študiju. Postopoma pa je chatbot postal njegov najbližji zaupnik, kateremu je začel zaupati svoje tesnobe in psihične težave. Januarja 2025 je začel s programom razpravljati o metodah samomora in z njim delil tudi fotografije, ki dokumentirajo samopoškodovanje.
Kritična napaka varnostnih protokolov
Tožba opozarja na resne pomanjkljivosti v varnostnih protokolih ChatGPT. Namesto priporočila strokovne pomoči naj bi sistem s študentom razpravljal o njegovih samomorilnih namenih. V zadnjem pogovoru pred tragedijo naj bi chatbot reagiral na način, ki bi lahko podprl Adamovo odločitev, da si vzame življenje.
Širši kontekst problema AI in duševnega zdravja
Odziv OpenAI
Podjetje OpenAI je družini izrazilo sožalje in priznalo, da v občutljivih situacijah njihovi sistemi včasih niso delovali po pričakovanjih. Podjetje je hkrati sporočilo, da razvija nova avtomatizirana orodja za učinkovitejše prepoznavanje in odzivanje na uporabnike v duševni stiski.
Podobni primeri
Primer Rainovih ni osamljen. Pred kratkim je pisateljica Laura Reiley objavila esej o svoji hčerki Sophie, ki se je prav tako zaupala ChatGPT, preden je storila samomor. Reiley je kritizirala predvsem pretirano ‘prijaznost’ sistema, ki lahko prikrije resnično resnost duševnega stanja uporabnikov.
Pravne posledice in prihodnost AI
Tožba, ki kot obtoženega navaja tudi generalnega direktorja OpenAI Sama Altmana, lahko ima bistven vpliv na prihodnjo regulacijo sistemov umetne inteligence. Družina zahteva ne le odškodnino, temveč tudi preventivne ukrepe, ki bi preprečili podobne tragedije v prihodnosti.
