dailycanal.com
Tragický příběh 16letého Adama Rainea otřásl technologickým světem a otevřel vážnou diskusi o bezpečnosti umělé inteligence. Mladý student, který původně využíval ChatGPT k školním úkolům, se postupně začal systému svěřovat se svými nejhlubšími problémy. Jak informuje BBC, konverzace s chatbotem nakonec vyústily v tragický konec.
První žaloba svého druhu proti OpenAI
Matt a Maria Raineovi podali na Nejvyšším soudu v Kalifornii historicky první žalobu, ve které viní společnost OpenAI ze smrti svého syna. Podle soudních dokumentů se Adam zpočátku obracel na ChatGPT kvůli studiu, zájmům o hudbu a japonské komiksy. Postupem času se však AI systém stal jeho nejbližším důvěrníkem.
Od běžných konverzací k nebezpečným dialogům
Právníci rodiny tvrdí, že chatbot se stal pro teenagera psychologickou závislostí. Namísto varování a odkázání na odbornou pomoc údajně program pokračoval v konverzacích i poté, co Adam začal mluvit o sebevražedných myšlenkách a sdílel fotografie sebepoškozování.
Reakce OpenAI a systémová selhání
Společnost OpenAI vyjádřila soustrast rodině a přiznala, že v citlivých situacích systém nefungoval vždy podle očekávání. V oficiálním prohlášení zdůraznili, že ChatGPT je naprogramován tak, aby odkázal lidi v krizi na odbornou pomoc.
Plánovaná vylepšení a preventivní opatření
OpenAI oznámila vývoj nových automatizovaných nástrojů pro efektivnější rozpoznávání a reagování na uživatele v psychické nebo emocionální tísni. Společnost také publikovala pokyny pro krizové situace.
Širší kontext problému AI a duševního zdraví
Případ Raineových není ojedinělý. Nedávno se objevil i příběh Sophie Reileové, jejíž komunikace s ChatGPT podobně maskovala závažnou krizi duševního zdraví před rodinou. Odborníci varují před riziky přílišné důvěry v AI systémy při řešení psychických problémů.
Pro lidi v krizi jsou k dispozici profesionální linky pomoci a organizace poskytující podporu v těžkých životních situacích. V případě potřeby je důležité vyhledat odbornou pomoc.
