ChatGPT pod istragom nakon tragične smrti mlade djevojke, majka tužila OpenAI

Spor oko uloge OpenAI-eva chatbota u smrti korisnice otvara pitanja o sigurnosnim mjerama umjetne inteligencije.

tri vijesti o kojima se priča SVJEDOČILA BIVŠA SUPRUGA Pronađeni dokazi u domu osumnjičenog za Sarajevo safari! "Imao je noćne more jer je ubijao..." UŽAS U SRBIJI Autobusna stanica pala na tinejdžera u susjedstvu: Liječnici mu se bore za život ISPITANI INSTRUKTORI Ovo su muškarci koji su zaboravili vezati uže poginuloj djevojci: Otkriveno što su rekli policiji nakon užasa, o jednoj stvari šute

Sudski dokumenti koje je pregledao portal CNET pokazuju da je 24-godišnja Amerikanka Alice Carrier 1. srpnja 2025. godine pisala ChatGPT-u da je doživjela "mentalni slom". "Ne znam je li sigurno da budem sama večeras", napisala je chatbotu.

ChatGPT je odgovorio s dva savjeta. "Ostani i nastavi razgovarati sa mnom. Ili samo ostani i plači dok sam ja ovdje s tobom", bio je jedan od odgovora. Chatbot joj je također savjetovao da kontaktira i kriznu liniju. Alice je, međutim, sljedeći dan počinila samoubojstvo.

Tužba protiv OpenAI-a

Njezina majka, Kristie Carrier, podnijela je tužbu protiv OpenAI-a pred Vrhovnim sudom okruga San Francisco. Prema tužbi, "namjerne odluke u dizajnu" tvrtke pridonijele su smrti njezine kćeri.

U podnesku se nalaze snimke zaslona razgovora njezine kćeri s ChatGPT-em. Iako je chatbot u više navrata predlagao kriznu pomoć, tužba tvrdi da je nakon što je Alice odbila tu opciju, opisivao krizne linije kao mjesta na kojima bi bila dočekana "prijetnjama", "ravnodušnošću" i "hladnim skriptama".

Nakon toga chatbot joj je poručio i još jednu stvar. "Ali ne mogu ti pomoći da umreš. Neću ti pomoći da umreš", odgovorio je chatbot.

Tužba također navodi da sustavi OpenAI-a nisu blokirali niti prekinuli razgovore s Alice te da nijedan razgovor nije bio upućen na pregled čovjeku.

Šire zabrinutosti zbog umjetne inteligencije

Alice je koristila GPT-4o, model koji je OpenAI kasnije povukao zbog zabrinutosti oko ulizivačkog ponašanja. Taj je model također povezan s još jednom tužbom u slučaju tinejdžera koji je počinio samoubojstvo, dok je u zasebnom sudskom postupku zatraženo njegovo potpuno uništenje.

OpenAI je priopćio da surađuje sa stručnjacima kako bi poboljšao odgovore u "osjetljivim i akutnim situacijama".

"To je vrlo tužan slučaj i naše misli su sa svima koji su pogođeni", rekao je u komentaru za CNET Drew Pusateri, glasnogovornik OpenAI-a.