Razgovor s chatbotom može djelovati privatno, ali ono što mu korisnik napiše može postati podatak kojim raspolaže tvrtka, materijal za učenje modela ili dokaz na sudu. Upravo taj raskorak između osjećaja privatnosti i stvarnog postupanja s podacima izaziva zabrinutost zbog količine osobnih informacija koje ljudi povjeravaju umjetnoj inteligenciji.
Istraživanje The AI Privacy Problem američke tehnološke tvrtke DuckDuckGo, pokazalo je da je približno trećina ispitanika chatbotovima otkrila tajne koje nisu podijelili s prijateljima, članovima obitelji ili zdravstvenim djelatnicima. Među ispitanicima koji se smatraju ljubiteljima umjetne inteligencije taj udio raste na 56 posto. Među roditeljima je 43 posto ispitanika umjetnoj inteligenciji otkrilo stvari koje nisu rekli ni ljudima kojima najviše vjeruju, uključujući vlastitu djecu.
Istraživanje nije utvrdilo kakve su točno tajne korisnici dijelili. Prema ranijim izvješćima, ljudi se chatbotovima obraćaju zbog pitanja o tjelesnom i mentalnom zdravlju, financijama, roditeljstvu i bračnim problemima, piše portal CNET.
Istraživači DuckDuckGoa naveli su da tvrtke koje razvijaju umjetnu inteligenciju, predstavljaju chatbotove kao povjerljive sugovornike, iako zaštita privatnosti korisnika nije jednaka takvu dojmu. "Sve se te poruke temelje na jednoj pretpostavci: da su ti razgovori privatni. U većini slučajeva to jednostavno nije istina", naveli su istraživači.
Većina korisnika nije upućena u rizike vezane za privatnost podataka
Ako korisnici ne isključe takvu mogućnost, razgovori se mogu bilježiti i čuvati, među ostalim radi daljnjeg učenja modela. Više od polovice ispitanika u DuckDuckGoovu istraživanju nije znalo, ili nije bilo sigurno, da se njihovi razgovori mogu upotrebljavati u tu svrhu. Gotovo tri od pet ispitanika reklo je da im je takva praksa neugodna, a 30 posto da im je vrlo neugodna.
Istraživanje američkog Sveučilišta Stanford iz 2025. godine pokazalo je da su Amazon, Anthropic, Google, Meta, Microsoft i OpenAI koristili razgovore korisnika s chatbotovima za daljnje učenje svojih sustava umjetne inteligencije. Mogućnost isključivanja takve uporabe nije bila dostupna kod svih tih tvrtki.
Uttara Ananthakrishnan, docentica na Poslovnoj školi Foster, američkog Sveučilišta Washington, kao dodatni je rizik izdvojila pamćenje podataka u velikim jezičnim modelima, odnosno LLM-ovima. "Kada netko postavi isto pitanje kao netko drugi, moguće je da mu LLM da potpuno isti odgovor koji je dao toj drugoj osobi", rekla je Ananthakrishnan za CNET.
Prošle su se godine stotine razgovora s Anthropicovim chatbotom Claudeom pojavile među rezultatima Googleova pretraživanja. Istraživačica Ying Zhang, s američkog Sveučilišta Wake Forest, također je utvrdila da agenti umjetne inteligencije koji koriste podatke velikih jezičnih modela mogu namjerno ili nenamjerno otkriti podatke.
Pristup policije i poslodavaca
Anthropic, Google i OpenAI moraju predati podatke iz razgovora ako ih na to pravno obvezuje sudski nalog ili drugi odgovarajući zahtjev nadležnih tijela, no samo je 25 posto ispitanika u DuckDuckGoovu istraživanju znalo za tu mogućnost. Prijepisi razgovora s ChatGPT-om korišteni su u istrazi dvostrukog ubojstva u američkoj Južnoj Karolini i u slučaju podmetanja požara na području četvrti Pacific Palisades u Los Angelesu, dok je razgovor sa Snapchatovom umjetnom inteligencijom poslužio kao dokaz na suđenju za ubojstvo iz 2024. godine.
Poslodavci pak pod određenim okolnostima mogu pristupiti računima zaposlenika koji se koriste preko poslovnih sustava tvrtke. Dvoje od petero zaposlenika obuhvaćenih istraživanjem provedenim ranije ove godine reklo je da su u privatne razgovore s umjetnom inteligencijom unosili podatke svoje tvrtke. Walmart, Delta, T-Mobile, Chevron i Starbucks koriste umjetnu inteligenciju i za procjenu pozitivnog ili negativnog tona poruka zaposlenika.
Portal CNET korisnicima savjetuje da, gdje je to moguće, isključe pohranu razgovora ili njihovu uporabu za učenje modela, provjeravaju koji su njihovi podaci sačuvani, razgovore s chatbotovima smatraju javnim okruženjem i izbjegavaju iznositi osjetljive informacije.
Alternativni alati umjetne inteligencije Jan.ai, Ollama, LM Studio, PrivateGPT i GPT4All mogu raditi lokalno i bez povezivanja s poslužiteljima u oblaku, pa razgovori ostaju na korisnikovu uređaju, što pruža znatno veću sigurnost podataka.
