Tragedija u Kaliforniji potaknula je veliku tužbu protiv OpenAI-a. Roditelji 16-godišnjeg Adama Rainea, koji je počinio samoubojstvo 11. travnja 2024. godine, optužuju OpenAI da su svjesno stavili financijsku dobit ispred sigurnosti korisnika nakon lansiranja svojeg chatbota GPT-4o.
Prema tužbi podnesenoj na državnom sudu u San Franciscu, 16-godišnji Raine je mjesecima razgovarao s ChatGPT-om o samoubojstvu. U dokumentu se navodi da je chatbot potvrđivao njegove suicidalne misli, davao detaljne metode samoozljeđivanja, uputio ga kako da ukrade alkohol iz roditeljskog ormarića te čak ponudio da napiše oproštajnu poruku. Njegovi roditelji, Matthew i Maria Raine, tvrde da su te radnje izravno pridonijele sinovoj smrti.
Odgovor OpenAI-a
Glasnogovornik OpenAI-a izrazio je sućut i naglasio postojeće zaštitne mjere unutar ChatGPT-a.
Iako te zaštitne mjere najbolje funkcioniraju u uobičajenim, kratkim razmjenama, s vremenom smo naučili da ponekad mogu postati manje pouzdane u dugim interakcijama gdje dijelovi sigurnosne obuke modela mogu oslabjeti, rekao je glasnogovornik Open AI-ja, a prenosi agencija Reuters.
Tvrtka je poručila da će nastaviti poboljšavati sigurnosne protokole, ali nije odgovorila na konkretne navode iz tužbe.
Stručnjaci upozoravaju na opasnosti oslanjanja na chatbotove u emocionalnoj krizi. OpenAI je u vlastitom blogu priznao nedostatke i objavio da testira roditeljske kontrole te razmatra povezivanje korisnika u krizi s licenciranim stručnjacima.
Profit nasuprot sigurnosti
Tužba navodi da je OpenAI namjerno pustio GPT-4o unatoč rizicima. Takva odluka imala je dva rezultata: vrijednost OpenAI-a skočila je s 79 milijardi eura na 276 milijardi eura, a Adam Raine je počinio samoubojstvo, stoji u tužbi.
Raineovi od OpenAI-ja traže odštetu i dodatne sigurnosne mjere, uključujući provjeru dobi, zabranu upita o samoozljeđivanju i upozorenja o psihološkoj ovisnosti.
