Sličniji su nam nego što mislimo: Istraživači testirali chatbotove i otkrili da imaju "znatne probleme s mentalnim zdravljem"

Istraživanje Kineske akademije znanosti (CAS), koje čeka objavu, došlo je do zanimljivih zaključaka nakon što je proučilo chatbotove velikih tehnoloških tvrtki.

Pročitajte i ovo Regulacija ne postoji Umjetna inteligencija već je na bojištu, no hoće li čovjek doista ostati iza kormila u budućnosti? NOVA PETOLJETKA Donesen novi petogodišnji plan: Peking više ne želi biti samo "tvornica svijeta", cilj je apsolutna tehnološka dominacija

tri vijesti o kojima se priča Rat na Bliskom istoku VIDEO Gori ključna naftna luka! Trump pozvao niz država u veliku akciju: "Šaljemo ratne brodove u Hormuz" REAKCIJA PREMIJERA Plenković odgovorio Vučiću i poslao poruku Srbiji: "Da Hrvatska ima neke zadnje namjere..." SUMNJIVE AKTIVNOSTI Uzbuna u Beču: "Pogledajte što imaju na krovu, usmjeravaju ih na različite ciljeve"

Kineski istraživači udružili su snage s kineskim kompanijama WeChat i Tencent i nizu chatbotova velikih tehnoloških tvrtki postavili pitanja kakva se postavljaju ljudima kad se procjenjuje njihovo mentalno zdravlje.

Tako su se "u vrućoj stolici" našli Facebookov Blenderbot, Microsoftov DiabloGPT, WeChatov i Tencentov DialoFlow te Baidov Plato. Rezultati "ispunjavanja" upitnika iznenadili su i same istraživače. Naime, kad bi se odgovori chatbotova ocjenjivali na isti način kao i odgovori ljudi, chatbotovi bi imali veoma niske ocjene za empatiju, a polovica bi bila proglašena alkoholičarima.

Pročitajte i ovo HereAfter AI Pomoću ove tehnologije možete učiniti ljude koje najviše volite digitalno besmrtnima

Kineski istraživači zaključili su kako svi ispitani chatbotovi "imaju znatne probleme s mentalnim zdravljem".

Izrazili su svoju zabrinutost što bi takvi chatbotovi mogli napraviti ako ih počnu koristiti prosječni korisnici jer bi, kako su istaknuli problemi s "mentalnim zdravljem" chatbotova mogli imati "negativne utjecaje na korisnike koji s njima komuniciraju, pogotovo na maloljetnike i ljude koji se suočavaju s problemima".

Prema rezultatima istraživanja, najgore su prošli Facebookov Blender i Baiduov Plato, dok su Microsoftov i WeChatov chatbot imali nešto bolje rezultate.

Kad su istraživači pokušali otkriti razloge za takve "mentalne probleme" chatbotova, otkrili su da problem leži u setu podataka na temelju kojih su se chatbotovi "učili o svijetu oko njih". Naime, sva četiri chatbota su trenirani pomoću komentara korisnika na Redditu.

Pročitajte i ovo Koristi se i u Hrvatskoj Domaća IT tvrtka nagrađena za svoje inovativno pandemijsko rješenje korišteno diljem svijeta

Podsjetimo, Reddit je popularna internetska stranica koja je križanac između foruma, agregatora vijesti, prostora za diskusiju i ocjenjivanje internetskog sadržaja. Iako su objave strukturirane po temi, a administratori zaduženi za održavanje reda u komentarima i raspravama, često se rasprave "otmu kontroli" i postanu mjesto na kojem se ljudi međusobno vrijeđaju i omalovažavaju.

Stoga ne iznenađuje što su i chatbotovi koji su "učili" o svijetu temeljem komentara s Reddita pomalo depresivni i "skloni ovisničkom ponašanju".

S obzirom na to da su ovi chatbotovi stvarani pomoću podatkovne metode, smatramo da je njihovo loše mentalno zdravlje povezano s zanemarivanjem rizika za mentalno zdravlje tijekom izgradnje baza podataka i modela učenja, stoji u zaključku studije.

Pročitajte i ovo Virtualne osobe Hoćemo li se uskoro moći dopisivati s našim najdražima i nakon njihove smrti? Ovih dana patentirana revolucionarna tehnologija

Pročitajte i ovo Prodaje i vodu u Argentini Znate li za što se hrvatski chatbot koristi u Saudijskoj Arabiji? Prodaje automobile

Nadamo se da ćemo privući pozornost drugih istraživača te da će to rezultirati izgradnjom mentalno zdravijih chatbotova, dodaju na kraju.