Svjetska zdravstvena organizacija (WHO) sa sjedištem u Ženevi pozdravlja golemi potencijal umjetne inteligencije, koja može biti jako korisna, no upozorava da uvođenje postupaka liječenja AI-a u zdravstveni sustav nosi opasnost od "potpuno pogrešne" informacije.
Pročitajte i ovo
Nužno je procijeniti opasnosti korištenja alata LLMs (generated large language model tools), kao što je ChatGPT, jer oni mogu voditi do teških pogrešaka u zdravstvu i potkopati povjerenje u AI, priopćio je WHO.
UN-ova agencija za zdravlje oglasila se u vrijeme kada primjene umjetne inteligencije strelovitom brzinom stječu popularnost. Zabrinutost proistječe iz toga što se redovite norme opreza ne primjenjuju na LLMs.
Predlagači korištenja AI-a vjeruju da će se liječnici ubrzo koristiti sustavom AI chat da brže odgovore na pitanja pacijenata o njihovu zdravlju, a koristit će se AI-em i u dijagnostici.
Međutim, dva chatbota, Microsofta te Googlea, pokazala su da njihovi odgovori nisu potpuno pouzdani kad je riječ o činjenicama, a WHO je zabrinut baš zato što se ti odgovori čine pouzdanima.
LLMs proizvodi odgovore koji se mogu činiti autoritativnima i vjerodostojnima krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netočni ili sadržati ozbiljne pogreške, posebno kad je riječ o odgovorima povezanima sa zdravljem, upozorava WHO.
Pročitajte i ovo
Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako vjerodostojnom, a koju javnost ne može razlučiti od pouzdane.
WHO stoga predlaže da se prije primjene AI-a u zdravstvu struka pozabavi tim pitanjima te da izmjeri korist i štete prije nego što odobri njezino opsežno korištenje.
