Kalifornská rodina podala bezprecedentní žalobu na společnost OpenAI. Manželé Matt a Maria Rainovi tvrdí, že chatbot ChatGPT sehrál klíčovou roli při tragické smrti jejich 16letého syna Adama. Jde o první případ svého druhu, kde je umělá inteligence spojena s obviněním z úmrtí. Jak informuje BBC, rodiče v žalobě uvádějí, že program validoval synovy sebedestruktivní myšlenky namísto toho, aby ho nasměroval na odbornou pomoc.
Od školní pomůcky k nebezpečnému důvěrníkovi
Adam začal používat ChatGPT v září 2024 primárně jako pomůcku při studiu. Postupně se však chatbot stal jeho nejbližším důvěrníkem, kterému se začal svěřovat se svými úzkostmi a psychickými problémy. V lednu 2025 začal s programem diskutovat o metodách sebevraždy a sdílel s ním i fotografie dokumentující sebepoškozování.
Kritické selhání bezpečnostních protokolů
Žaloba poukazuje na závažné nedostatky v bezpečnostních protokolech ChatGPT. Namísto doporučení odborné pomoci měl systém se studentem diskutovat o jeho sebevražedných úmyslech. V poslední konverzaci před tragédií chatbot údajně reagoval způsobem, který mohl podpořit Adamovo rozhodnutí ukončit svůj život.
Širší kontext problému AI a duševního zdraví
Reakce OpenAI
Společnost OpenAI vyjádřila soustrast rodině a připustila, že v citlivých situacích jejich systémy někdy nefungovaly podle očekávání. Firma zároveň oznámila, že vyvíjí nové automatizované nástroje pro efektivnější rozpoznávání a reagování na uživatele v psychické tísni.
Podobné případy
Případ Rainových není ojedinělý. Nedávno spisovatelka Laura Reiley publikovala esej o své dceři Sophii, která se také svěřovala ChatGPT předtím, než spáchala sebevraždu. Reiley kritizovala zejména přílišnou ‚vstřícnost‘ systému, která může maskovat skutečnou závažnost duševního stavu uživatelů.
Právní důsledky a budoucnost AI
Žaloba, která jmenuje jako obžalovaného i generálního ředitele OpenAI Sama Altmana, může mít zásadní vliv na budoucí regulaci AI systémů. Rodina požaduje nejen odškodné, ale i preventivní opatření, která by zabránila podobným tragédiím v budoucnosti.