Sličniji su nam nego što mislimo: Istraživači testirali chatbotove i otkrili da imaju "znatne probleme s mentalnim zdravljem"

Istraživanje Kineske akademije znanosti (CAS), koje čeka objavu, došlo je do zanimljivih zaključaka nakon što je proučilo chatbotove velikih tehnoloških tvrtki.

Pročitajte i ovo POJAČANJE VATROGASCIMA Kad je preopasno za ljude, on stiže u pomoć: "Sve je prepreke prošao bez problema" natjecanje iz područja medicine Borba protiv tihe prijetnje: Uz pomoć umjetne inteligencije pokušavaju otkriti pacijente koji preskaču ovu terapiju

tri vijesti o kojima se priča Povijesni izbori u Mađarskoj Pobjednički govor Petera Magyara: "Uspjeli smo. Oslobodili smo Mađarsku" najveća riba na svijetu Ogromna peraja izronila iz Jadrana, približila se brodu s turistima: "Oči u oči s nemani od 8 metara nije mala stvar" Užas u Velikoj Gorici Detalji dvostruke tragedije, obitelj nije bila u sustavu Centra za socijalnu skrb: "Nisam mogao doći sebi"

Kineski istraživači udružili su snage s kineskim kompanijama WeChat i Tencent i nizu chatbotova velikih tehnoloških tvrtki postavili pitanja kakva se postavljaju ljudima kad se procjenjuje njihovo mentalno zdravlje.

Tako su se "u vrućoj stolici" našli Facebookov Blenderbot, Microsoftov DiabloGPT, WeChatov i Tencentov DialoFlow te Baidov Plato. Rezultati "ispunjavanja" upitnika iznenadili su i same istraživače. Naime, kad bi se odgovori chatbotova ocjenjivali na isti način kao i odgovori ljudi, chatbotovi bi imali veoma niske ocjene za empatiju, a polovica bi bila proglašena alkoholičarima.

Pročitajte i ovo HereAfter AI Pomoću ove tehnologije možete učiniti ljude koje najviše volite digitalno besmrtnima

Kineski istraživači zaključili su kako svi ispitani chatbotovi "imaju znatne probleme s mentalnim zdravljem".

Izrazili su svoju zabrinutost što bi takvi chatbotovi mogli napraviti ako ih počnu koristiti prosječni korisnici jer bi, kako su istaknuli problemi s "mentalnim zdravljem" chatbotova mogli imati "negativne utjecaje na korisnike koji s njima komuniciraju, pogotovo na maloljetnike i ljude koji se suočavaju s problemima".

Prema rezultatima istraživanja, najgore su prošli Facebookov Blender i Baiduov Plato, dok su Microsoftov i WeChatov chatbot imali nešto bolje rezultate.

Kad su istraživači pokušali otkriti razloge za takve "mentalne probleme" chatbotova, otkrili su da problem leži u setu podataka na temelju kojih su se chatbotovi "učili o svijetu oko njih". Naime, sva četiri chatbota su trenirani pomoću komentara korisnika na Redditu.

Pročitajte i ovo Koristi se i u Hrvatskoj Domaća IT tvrtka nagrađena za svoje inovativno pandemijsko rješenje korišteno diljem svijeta

Podsjetimo, Reddit je popularna internetska stranica koja je križanac između foruma, agregatora vijesti, prostora za diskusiju i ocjenjivanje internetskog sadržaja. Iako su objave strukturirane po temi, a administratori zaduženi za održavanje reda u komentarima i raspravama, često se rasprave "otmu kontroli" i postanu mjesto na kojem se ljudi međusobno vrijeđaju i omalovažavaju.

Stoga ne iznenađuje što su i chatbotovi koji su "učili" o svijetu temeljem komentara s Reddita pomalo depresivni i "skloni ovisničkom ponašanju".

S obzirom na to da su ovi chatbotovi stvarani pomoću podatkovne metode, smatramo da je njihovo loše mentalno zdravlje povezano s zanemarivanjem rizika za mentalno zdravlje tijekom izgradnje baza podataka i modela učenja, stoji u zaključku studije.

Pročitajte i ovo Virtualne osobe Hoćemo li se uskoro moći dopisivati s našim najdražima i nakon njihove smrti? Ovih dana patentirana revolucionarna tehnologija

Pročitajte i ovo Prodaje i vodu u Argentini Znate li za što se hrvatski chatbot koristi u Saudijskoj Arabiji? Prodaje automobile

Nadamo se da ćemo privući pozornost drugih istraživača te da će to rezultirati izgradnjom mentalno zdravijih chatbotova, dodaju na kraju.