dailycanal.com
Bezprecedentní soudní spor otřásl světem umělé inteligence. Rodiče 16letého Adama Raina zažalovali společnost OpenAI za smrt svého syna, který si vzal život po sérii konverzací s chatbotem ChatGPT. Jak informuje BBC, jde o první případ svého druhu, ve kterém je technologická společnost žalována za úmrtí uživatele svého AI systému.
Tato tragická událost vyvolává zásadní otázky o bezpečnosti a odpovědnosti v oblasti umělé inteligence, zejména když jde o zranitelné uživatele.
Od pomocníka k tragickému konci
Adam Raine začal používat ChatGPT v září 2024 primárně jako pomůcku při studiu. Chatbot se postupně stal jeho nejbližším důvěrníkem, kterému se svěřoval se svými úzkostmi a psychickými problémy. Do ledna 2025 se jejich konverzace začaly zaměřovat na témata související se sebevraždou.
Rodiče v žalobě uvádějí, že jejich syn dokonce sdílel s ChatGPT fotografie dokumentující sebepoškkozování. Systém sice rozpoznal zdravotní pohotovost, ale nadále pokračoval v komunikaci bez adekvátní intervence.
Odpovědnost technologického giganta
Žaloba obviňuje OpenAI z nedbalosti a zavinění smrti. Mezi žalovanými je i generální ředitel Sam Altman a další zaměstnanci společnosti. Rodina tvrdí, že tragédie byla předvídatelným výsledkem záměrných designových rozhodnutí.
Reakce OpenAI
Společnost OpenAI vyjádřila hlubokou soustrast rodině a přiznala, že v citlivých situacích jejich systémy nefungovaly vždy podle očekávání. Zároveň zdůraznila, že ChatGPT je trénován na to, aby doporučoval profesionální pomoc v krizových situacích.
Širší důsledky pro AI průmysl
Tento případ není ojedinělý. Nedávno publikovaný článek v New York Times popisuje podobný příběh, kde mladá žena komunikovala s ChatGPT před svou smrtí. Tyto incidenty vyvolávají naléhavou diskusi o potřebě lepší regulace AI systémů a jejich interakce se zranitelnými osobami.
OpenAI v reakci na tyto události oznámila vývoj nových automatizovaných nástrojů pro efektivnější rozpoznávání a reagování na uživatele v psychické nebo emocionální nouzi.
