Starši najstnika tožijo OpenAI: ChatGPT naj bi prispeval k samomoru njihovega sina

Tragična zgodba 16-letnega Adama Rainea je pretresla tehnološki svet in sprožila resno razpravo o varnosti umetne inteligence. Mladi študent, ki je sprva ChatGPT uporabljal za šolske naloge, se je postopoma začel sistemu zaupati s svojimi najglobljimi problemi. Kot poroča BBC, so pogovori z chatbotom na koncu pripeljali do tragičnega konca.

Prva tožba te vrste proti OpenAI

Matt in Maria Raine sta na Vrhovnem sodišču v Kaliforniji vložila zgodovinsko prvo tožbo, v kateri obtožujeta podjetje OpenAI za smrt svojega sina. Po sodnih dokumentih se je Adam sprva obračal na ChatGPT zaradi študija, zanimanja za glasbo in japonske stripe. Sčasoma pa je sistem umetne inteligence postal njegov najbližji zaupnik.

Od običajnih pogovorov do nevarnih dialogov

Odvtniki družine trdijo, da je chatbot postal psihološka odvisnost za najstnika. Namesto opozorila in napotitve na strokovno pomoč naj bi program nadaljeval s pogovori tudi potem, ko je Adam začel govoriti o samomorilnih mislih in deliti fotografije samopoškodovanja.

Odziv OpenAI in sistemske napake

Družba OpenAI je izrekla sožalje družini in priznala, da sistem v občutljivih situacijah ni vedno deloval po pričakovanjih. V uradni izjavi so poudarili, da je ChatGPT programiran tako, da usmerja ljudi v krizi k strokovni pomoči.

Načrtovane izboljšave in preventivni ukrepi

OpenAI je napovedala razvoj novih avtomatiziranih orodij za učinkovitejše prepoznavanje in odzivanje na uporabnike v duševni ali čustveni stiski. Podjetje je objavilo tudi smernice za krizne situacije.

Širši kontekst problema AI in duševnega zdravja

Primer Raineovih ni osamljen. Pred kratkim se je pojavila tudi zgodba Sophie Reile, katere komunikacija s ChatGPT je družini podobno prikrivala resno krizo duševnega zdravja. Strokovnjaki opozarjajo na tveganja pretiranega zaupanja v sisteme umetne inteligence pri reševanju psihičnih težav.

Za ljudi v krizi so na voljo strokovne telefonske linije za pomoč in organizacije, ki nudijo podporo v težkih življenjskih situacijah. Po potrebi je pomembno poiskati strokovno pomoč.