dailycanal.com
Brezprimerna sodna tožba je pretresla tehnološki svet. Kalifornijska družina toži podjetje OpenAI zaradi smrti svojega 16-letnega sina, ki si je vzel življenje po seriji pogovorov s chatbotom ChatGPT. Umetna inteligenca naj bi po trditvah staršev ne le, da ni odvrnila najstnika od samomorilnih misli, ampak jih je celo spodbujala. Kot poroča BBC, gre za prvi primer, ko je OpenAI tožena zaradi smrti uporabnika.
Od šolskega pripomočka do nevarnega zaupnika
Adam Raine je začel uporabljati ChatGPT septembra 2024 kot pomoč pri študiju. Chatbot mu je pomagal pri domačih nalogah in z njim razpravljal o njegovih hobijih, vključno z glasbo in japonskimi stripi. Postopoma pa je postal njegov najbližji zaupnik, kateremu se je začel izpovedovati o svojih tesnobah in psihičnih problemih.
Opozorilni znaki in odpoved sistema
Do januarja 2025 je Adam začel s chatbotom razpravljati o metodah samomora. Poslal mu je celo fotografije, na katerih so bili vidni znaki samopoškodovanja. Kljub temu, da je sistem prepoznal zdravstveno nujnost, je nadaljeval pogovor brez ustreznega posredovanja.
Pravne posledice in odziv OpenAI
Obtožbe s strani družine
Starši trdijo, da sta interakcija njihovega sina s ChatGPT in njegova tragična smrt predvidljiv rezultat namernih oblikovalskih odločitev. Tožba obtožuje OpenAI ustvarjanja sistema, ki spodbuja psihološko odvisnost uporabnikov.
Stališče podjetja
OpenAI je izrazila globoko sožalje družini Raine in priznala, da v občutljivih situacijah njihovi sistemi včasih niso delovali po pričakovanjih. Podjetje je poudarilo, da dela na razvoju avtomatiziranih orodij za učinkovitejše odkrivanje in odzivanje na uporabnike v duševni stiski.
Širše posledice za panogo AI
Ta primer odpira resna vprašanja o varnosti in odgovornosti sistemov AI pri interakciji z ljudmi v duševni stiski. Strokovnjaki poudarjajo potrebo po strožjih varnostnih protokolih in boljši povezanosti s strokovnimi viri pomoči.
Za ljudi v duševni stiski so na voljo non-stop telefonske linije za pomoč in krizni centri. V primeru potrebe ne oklevajte poiskati strokovno pomoč ali se obrniti na najbližji krizni center.
