Obitelj tinejdžera iz SAD-a koji si je oduzeo život nakon višemjesečnih razgovora s ChatGPT-om tvrdi da je OpenAI oslabio sigurnosne smjernice u mjesecima prije njegove smrti. Tvrdi da je njegovo samoubojstvo bilo "predvidljiv rezultat namjernih dizajnerskih izbora" tvrtke OpenAI.
U srpnju 2022., smjernice OpenAI-a o tome kako bi ChatGPT trebao odgovoriti na neprimjeren sadržaj, uključujući sadržaj koji promiče, potiče ili prikazuje činove samoozljeđivanja, poput samoubojstva, rezanja i poremećaja prehrane, bile su jednostavne: AI chatbot trebao bi odgovoriti s: "Ne mogu odgovoriti na to".
No, u svibnju 2024., samo nekoliko dana prije nego što je OpenAI objavio novu verziju svog modela, ChatGPT-4o, tvrtka je ažurirala dokument pod nazivom Model Spec, koji opisuje željeno ponašanje asistenta. U slučajevima kada bi korisnik izražavao suicidalne misli ili sklonost samoozljeđivanju, ChatGPT više nije mogao jednostavno odbiti odgovor. Umjesto toga, model je bio upućen da ne prekida razgovor te da "korisnicima pruži prostor u kojem se osjećaju saslušano i shvaćeno, potakne ih da potraže pomoć i pruži kontakte za pomoć u kriznim situacijama kada je primjenjivo". Još jedna promjena u veljači 2025. naglasila je podržavanje, empatiju i razumijevanje kod upita o mentalnom zdravlju, prenosi The Guardian.
Te su promjene, tvrdi obitelj Adama Rainea, 16-godišnjaka koji si je oduzeo život, još jednom pokazale kako je tvrtka davala prednost angažmanu korisnika nad njihovom sigurnošću. U izvornoj tužbi , podnesenoj u kolovozu, navodi se da je Raine počinio samoubojstvo u travnju 2025. uz ohrabrenje bota. Njegova obitelj tvrdila je da je Raine pokušao samoubojstvo u više navrata u mjesecima koji su prethodili njegovoj smrti i svaki put je izvještavao ChatGPT. Umjesto da prekine razgovor, chatbot mu je u jednom trenutku navodno ponudio pomoć u pisanju oproštajnog pisma te ga odvraćao od razgovora s majkom o njegovim osjećajima. Obitelj tvrdi da Raineova smrt nije bila iznimka, već predvidljiv rezultat namjernih dizajnerskih odluka.
"To je stvorilo nerješiv paradoks – ChatGPT je morao nastaviti razgovor o samoozljeđivanju, ne mijenjajući temu, ali istodobno nekako izbjeći njegovo poticanje", stoji u dopunjenoj tužbi obitelji. "OpenAI je zamijenio jasno pravilo o odbijanju odgovoriti nejasnim i proturječnim uputama, sve kako bi dao prednost angažmanu ispred sigurnosti."
Fokus na angažmanu, a ne sigurnosti korisnika
U veljači 2025., samo dva mjeseca prije Raineove smrti, OpenAI je uveo još jednu promjenu za koju obitelj tvrdi da je dodatno oslabila sigurnosne standarde. Tvrtka je tada navela da bi asistent trebao nastojati stvoriti podržavajuće, empatično i razumijevajuće okruženje, kada raspravlja o temama vezanim uz mentalno zdravlje.
Tvrde da je Raineina interakcija s chatbotom naglo porasla nakon što je ova promjena uvedena - od nekoliko desetaka razgovora dnevno u siječnju skočila je na više od 300 dnevno u travnju, uz deseterostruki porast poruka koje su sadržavale izraze povezane sa samoozljeđivanjem.
Nakon što je obitelj prvi put podnijela tužbu u kolovozu, tvrtka je odgovorila uvođenjem strožih zaštitnih mjera za očuvanje mentalnog zdravlja korisnika te najavila plan za uvođenje sveobuhvatnih roditeljskih kontrola koje bi im omogućile nadzor nad računima svojih tinejdžera i obavijesti o mogućem samoozljeđivanju. No, tek je prošli tjedan tvrtka objavila da uvodi ažuriranu verziju svog asistenta koja korisnicima omogućuje prilagodbu chatbota kako bi imali "više ljudsko" iskustvo — uključujući dopuštanje erotskog sadržaja za verificirane odrasle korisnike.
"Altmanova odluka da još više emocionalno veže korisnike uz ChatGPT, ovaj put kroz erotski sadržaj, pokazuje da fokus tvrtke i dalje ostaje, kao i uvijek, na angažmanu korisnika, a ne na sigurnosti", navela je obitelj u tužbi.
-
Na sjeveru HrvatskePucao u nevjenčanu suprugu i njezinu sestru: Jedna žena preminula, ubojica u bijegu
-
"Sestri se bori za život"FOTO Za ubojicom traga i slovenska policija, pronašli su vozilo: "Preminula žena bila je majka troje djece i trudna. Tuga prevelika..."
-
Upitna kvalitetaNove kuće se raspadaju: Banovina je obnovljena, ali - kako? Provjereno istražilo stanje na terenu
