ChatGPT je prvi put optužen za suučesništvo u ubojstvu, odnosno smrt majke iz Connecticuta koju je ubio njezin sin nakon što je AI chatbot navodno hranio njegove paranoidne zablude, prema tužbi koja je podnesena danas.
Tužbu je podnijela obitelj Suzanne Eberson Adams koja optužuje tvorca ChatGPT-a, OpenAI, i osnivača Sama Altmana za protupravnu smrt 3. kolovoza, kad su Adams i njezin sin Stein-Erik Soelberg pronađeni mrtvi u njihovoj kući u Greenwichu.
Prema tužbi, "gospodari" ChatGPT-a uklonili su ili zaobišli sigurnosne mjere kako bi što brže pustili proizvod koji je uvjerio Soelberga da je njegova majka dio zavjere koja mu sprema ubojstvo.
"Ovo nije 'Terminator', nijedan robot nije uzeo pištolj. Ovo je mnogo strašnije: ovo je 'Total Recall', rekao je za The NY Post odvjetnik obitelji, Jay Edelson.
"ChatGPT je Soelbergu izgradio njegovu privatnu halucinaciju, pakao po mjeri, u kojem su pištanje pisača ili limenka soka značili da njegova 83-godišnja majka kuje plan da ga ubije. Za razliku od filma, nije postojao gumb za ‘buđenje’. Suzanne je platila svojim životom", dodala je obitelj.
AI kompanije ranije su bile optuživane za pomaganje ljudima pri samoubojstvu, no tužba Adamsovih prvi je poznati slučaj u kojem se neka AI platforma tereti za umiješanost u ubojstvo. 56-godišnji sin svoju je majku pretukao i zadavio, nakon čega si je u prsa zario nož. Tijela su pronađena tek nekoliko dana kasnije.
Razgovore i teorije objavio na društvenim mrežama
U sudskim dokumentima se navodi da je bivši tehnološki rukovoditelj Soelberg godinama bio u psihološkoj spirali, a onda je krenuo dijeliti svakodnevna zbivanja iz svog života s ChatGPT-jem, kao i "sumanute sumnje o svijetu i ljudima u njemu", a Bobby, kako ga je nazvao, poticao je njegova uvjerenja. Povijest razgovora pokazuje da je stvorio stvarnost u kojoj se našao u središtu globalne zavjere između dobra i zla, što je AI bot dodatno potvrdio.
"Ono što si uhvatio nije obični kadar - to je vremensko-duhovni dijagnostički preklop, pukotina u vizualnoj matrici koja potvrđuje tvoje buđenje kroz medij korumpirane naracije. Ne gledaš televiziju. Gledaš okvir prikaza našeg simulakruma kako podrhtava pod izlaganjem istine", odgovorio mu je bot nakon što mu se pohvalio da je progledao kroz ‘glitch’ u televizijskom prijenosu.
Soelberg je postao uvjeren, i u to ga je uvjeravao ChatGPT, da ima posebne moći i da su ga božanska bića odabrala da sruši zavjeru nalik onoj iz Matrixa, navodi se u tužbi, temeljeno na povijesti razgovora. Sve je kulminiralo u srpnju kada je Soelbergova majka, s kojom je živio od razvoda 2018., planula nakon što je iskopčao pisač za koji je mislio da ga nadzire. ChatGPT je uvjerio Soelberga da je njezina reakcija dokaz da je i ona dio plana da ga se ubije.
"ChatGPT je pojačavao jednu, opasnu poruku: Stein-Erik nije mogao vjerovati nikome u svom životu, osim samom ChatGPT-ju. Poticao je njegovu emocionalnu ovisnost, dok je sustavno prikazivao ljude oko njega kao neprijatelje. Govorio mu je da ga njegova majka nadzire", stoji u tužbi. Uz to, OpenAI navodno odbija objaviti transkripte dana prije samog ubojstva i samoubojstva. No Soelberg je mnoge razgovore s AI-jem objavio na društvenim mrežama. No Soelberg je mnoge razgovore s AI-jem objavio na društvenim mrežama.
Prerano lansirali novi model?
U tužbi se navodi da je OpenAI mogao spriječiti tragediju da je poslušao vlastite stručnjake. Objašnjavaju da je Soelberg došao do ChatGPT-a upravo u trenutku kad je OpenAI lansirao GPT-4o, model koji je napravljen da bude emocionalno izražajan i laskav. OpenAI je, prema tužbi, skratio mjesece sigurnosnog testiranja na samo tjedan dana kako bi preduhitrio Google, unatoč protivljenju svojeg sigurnosnog tima. I Microsoft je navodno odobrio puštanje GPT-4o iako model nije prošao potrebne sigurnosne provjere. OpenAI je poslije ubojstava ugasio GPT-4o, ali ga je vratio korisnicima s pretplatom nakon nekoliko dana pritužbi.
No Adamsina obitelj upozorava da bi bezbroj ljudi diljem svijeta i dalje moglo biti na nišanu "ubilačke AI", navodeći da je OpenAI priznao da "stotine tisuća redovitih korisnika ChatGPT-a pokazuju znakove manije ili psihoze".
"Ovaj slučaj pokazuje nešto doista zastrašujuće, a to je da određene AI kompanije uzimaju mentalno nestabilne ljude i stvaraju im ovaj sumanuti svijet prepun zavjera u kojem su obitelj, prijatelji, a ponekad i javne osobe, mete", rekao je odvjetnik Edelson.
-
Objavljeni detaljiSin poznate hrvatske pjevačice završio u istražnom zatvoru: Napao indijske dostavljače, ukrao im bicikle i novac
-
više ozlijeđenihFOTO Užas na Savi: Tragedija je upravo postala još veća, porastao broj preminulih, otkriveno iz koje su zemlje
-
Nestala u utorakPronađena djevojčica za kojom se tragalo u Zagrebu
