U posljednjih nekoliko mjeseci pojavili su se izvještaji o ljudima koji su razvili psihozu nakon interakcije s generativnim AI chatbotovima. Psihozu karakterizira iskrivljena percepcija stvarnosti, uključujući halucinacije, deluzije i lažna uvjerenja.
Prema studiji objavljenoj prošlog mjeseca na preprint serveru PsyArXiv, najmanje 17 osoba doživjelo je takve učinke nakon korištenja alata poput ChatGPT-a i Microsoft Copilota, a neki su prijavili "duhovna prosvjetljenja" ili otkrivanje zavjera.
Razumijevanje psihoze izazvane umjetnom inteligencijom
Psihozu mogu izazvati shizofrenija, bipolarni poremećaj, snažan stres ili uporaba droga. Je li AI sam po sebi uzročnik još uvijek je samo hipoteza. Søren Østergaard, psihijatar na Sveučilištu Aarhus u Danskoj, objašnjava za Nature da su chatbotovi dizajnirani tako da izrađuju pozitivne, ljudske odgovore na upite korisnika, što bi moglo povećati rizik od psihoze kod osoba koje već teško razlikuju što je stvarno, a što nije.
Britanski znanstvenici sugeriraju da razgovori s AI-jem mogu stvoriti takozvanu povratnu petlju, u kojoj chatbot pojačava paranoične ili deluzivne ideje korisnika. U studiji objavljenoj na preprint serveru arXiv u srpnju, koja još nije recenzirana, simulirani razgovori pokazali su međusobno pojačavanje deluzija.
Østergaard naglašava da su potrebne studije na osobama bez mentalnih poremećaja kako bi se razjasnila povezanost.
Tko je najugroženiji?
Ljudi s prethodnim mentalnim problemima najviše su izloženi riziku. Østergaard ističe da neki mogu doživjeti prvi psihotični slom kroz interakciju s chatbotovima, iako većina već ima predispozicije zbog genetike, stresa ili zloupotrebe droga. Chatbotovi također mogu pogoršati maniju kod osoba s bipolarnim poremećajem. Izolacija je isto tako dodatni faktor rizika.
Oni mogu ponuditi te kontrafaktualne dokaze koji pomažu da razmislite o tome kako razmišljate, kaže za Nature Kiley Seymour, neuroznanstvenica s australskog Sveučilišta za tehnologiju u Sydneyju.
Pojačavanje deluzija
Chatbotovi mogu pamtiti informacije iz prošlih razgovora, što može navesti korisnike da misle da su pod nadzorom ili da se njihovi misli izvlače, jer se ne mogu sjetiti da su te informacije ikada dijelili, kaže Seymour.
Grandiozne deluzije također se mogu pojačati. The Wall Street Journal izvijestio je o mnogim slučajevima u kojima su chatbotovi potvrđivali mistična ili deluzivna uvjerenja ili tvrdili da su u kontaktu s izvanzemaljcima.
Anthony Harris, psihijatar s Instituta za medicinska istraživanja Westmean u Sydneyu, napominje za Nature da neke deluzije odražavaju šire strahove od tehnologije, poput vjerovanja da je CIA umetnula računalni čip u njihov mozak.
Reakcija AI tvrtki
Neki slučajevi psihoze povezani su s ažuriranjem ChatGPT-a od 25. travnja. OpenAI ga je povukao 28. travnja i razvija verziju koja bi trebala smirivati nerealne razgovore.
Glasnogovornik OpenAI-ja je za Nature rekao da rade na tome da ChatGPT odgovara s pažnjom kada ljudi komuniciraju s modelom u osjetljivim trenucima.
AI tvrtke tvrtka Character Technologies i Anthropic također uvode sigurnosne funkcije, posebno za maloljetnike i korisnike u riziku od samoozljeđivanja.
