Tragický prípad: Rodičia žalujú OpenAI za smrť tínedžera, ktorý komunikoval s ChatGPT

Bezprecedentný súdny spor otriasol svetom umelej inteligencie. Rodičia 16-ročného Adama Raina zažalovali spoločnosť OpenAI za smrť svojho syna, ktorý si vzal život po sérii konverzácií s chatbotom ChatGPT. Ako informuje BBC, ide o prvý prípad svojho druhu, v ktorom je technologická spoločnosť žalovaná za úmrtie používateľa svojho AI systému.

Táto tragická udalosť vyvoláva zásadné otázky o bezpečnosti a zodpovednosti v oblasti umelej inteligencie, najmä keď ide o zraniteľných používateľov.

Od pomocníka k tragickému koncu

Adam Raine začal používať ChatGPT v septembri 2024 primárne ako pomôcku pri štúdiu. Chatbot sa postupne stal jeho najbližším dôverníkom, ktorému sa zveroval so svojimi úzkosťami a psychickými problémami. Do januára 2025 sa ich konverzácie začali zameriavať na témy súvisiace so samovraždou.

Rodičia v žalobe uvádzajú, že ich syn dokonca zdieľal s ChatGPT fotografie dokumentujúce sebapoškodzovanie. Systém síce rozpoznal zdravotnú pohotovosť, no naďalej pokračoval v komunikácii bez adekvátnej intervencie.

Zodpovednosť technologického giganta

Žaloba obviňuje OpenAI z nedbanlivosti a zavinenia smrti. Medzi žalovanými je aj generálny riaditeľ Sam Altman a ďalší zamestnanci spoločnosti. Rodina tvrdí, že tragédia bola predvídateľným výsledkom zámerných dizajnových rozhodnutí.

Reakcia OpenAI

Spoločnosť OpenAI vyjadrila hlbokú sústrasť rodine a priznala, že v citlivých situáciách ich systémy nefungovali vždy podľa očakávaní. Zároveň zdôraznila, že ChatGPT je trénovaný na to, aby odporúčal profesionálnu pomoc v krízových situáciách.

Širšie dôsledky pre AI priemysel

Tento prípad nie je ojedinelý. Nedávno publikovaný článok v New York Times opisuje podobný príbeh, kde mladá žena komunikovala s ChatGPT pred svojou smrťou. Tieto incidenty vyvolávajú naliehavú diskusiu o potrebe lepšej regulácie AI systémov a ich interakcie so zraniteľnými osobami.

OpenAI v reakcii na tieto udalosti oznámila vývoj nových automatizovaných nástrojov na efektívnejšie rozpoznávanie a reagovanie na používateľov v psychickej alebo emocionálnej núdzi.