Istraživanje Kineske akademije znanosti (CAS), koje čeka objavu, došlo je do zanimljivih zaključaka nakon što je proučilo chatbotove velikih tehnoloških tvrtki.
PRIJETI ESKALACIJA
VIDEO Izraelci pokrenuli nove napade na Teheran pa objavili da su ubili 1500 Iranaca. Porastao i broj poginulih američkih vojnika
Dobro je znati
Koje su najsigurnije zemlje za život u slučaju trećeg svjetskog rata: Imamo popis
USKO GRLO SVIJETA
Iranska "nuklearna opcija": Ako to provedu, udarit će Trumpa tamo gdje je najslabiji
Kineski istraživači udružili su snage s kineskim kompanijama WeChat i Tencent i nizu chatbotova velikih tehnoloških tvrtki postavili pitanja kakva se postavljaju ljudima kad se procjenjuje njihovo mentalno zdravlje.
Tako su se "u vrućoj stolici" našli Facebookov Blenderbot, Microsoftov DiabloGPT, WeChatov i Tencentov DialoFlow te Baidov Plato. Rezultati "ispunjavanja" upitnika iznenadili su i same istraživače. Naime, kad bi se odgovori chatbotova ocjenjivali na isti način kao i odgovori ljudi, chatbotovi bi imali veoma niske ocjene za empatiju, a polovica bi bila proglašena alkoholičarima.
Pročitajte i ovo
HereAfter AI
Pomoću ove tehnologije možete učiniti ljude koje najviše volite digitalno besmrtnima
Kineski istraživači zaključili su kako svi ispitani chatbotovi "imaju znatne probleme s mentalnim zdravljem".
Izrazili su svoju zabrinutost što bi takvi chatbotovi mogli napraviti ako ih počnu koristiti prosječni korisnici jer bi, kako su istaknuli problemi s "mentalnim zdravljem" chatbotova mogli imati "negativne utjecaje na korisnike koji s njima komuniciraju, pogotovo na maloljetnike i ljude koji se suočavaju s problemima".
Prema rezultatima istraživanja, najgore su prošli Facebookov Blender i Baiduov Plato, dok su Microsoftov i WeChatov chatbot imali nešto bolje rezultate.
Kad su istraživači pokušali otkriti razloge za takve "mentalne probleme" chatbotova, otkrili su da problem leži u setu podataka na temelju kojih su se chatbotovi "učili o svijetu oko njih". Naime, sva četiri chatbota su trenirani pomoću komentara korisnika na Redditu.
Pročitajte i ovo
Koristi se i u Hrvatskoj
Domaća IT tvrtka nagrađena za svoje inovativno pandemijsko rješenje korišteno diljem svijeta
Podsjetimo, Reddit je popularna internetska stranica koja je križanac između foruma, agregatora vijesti, prostora za diskusiju i ocjenjivanje internetskog sadržaja. Iako su objave strukturirane po temi, a administratori zaduženi za održavanje reda u komentarima i raspravama, često se rasprave "otmu kontroli" i postanu mjesto na kojem se ljudi međusobno vrijeđaju i omalovažavaju.
Stoga ne iznenađuje što su i chatbotovi koji su "učili" o svijetu temeljem komentara s Reddita pomalo depresivni i "skloni ovisničkom ponašanju".
S obzirom na to da su ovi chatbotovi stvarani pomoću podatkovne metode, smatramo da je njihovo loše mentalno zdravlje povezano s zanemarivanjem rizika za mentalno zdravlje tijekom izgradnje baza podataka i modela učenja, stoji u zaključku studije.
Pročitajte i ovo
Virtualne osobe
Hoćemo li se uskoro moći dopisivati s našim najdražima i nakon njihove smrti? Ovih dana patentirana revolucionarna tehnologija
Pročitajte i ovo
Prodaje i vodu u Argentini
Znate li za što se hrvatski chatbot koristi u Saudijskoj Arabiji? Prodaje automobile
Nadamo se da ćemo privući pozornost drugih istraživača te da će to rezultirati izgradnjom mentalno zdravijih chatbotova, dodaju na kraju.