UNESCO upozorava na nove izazove: Umjetna inteligencija zloupotrebljava se za promicanje laži i dezinformacija

UNESCO je u svom nedavnom izvještaju upozorio na izazove u slučajevima kada se umjetna inteligencija zloupotrebljava za promicanje antisemitizma i laži o holokaustu, uz preporuke za suzbijanje dezinformacija s ciljem očuvanja povijesne istine u digitalno doba.

tri vijesti o kojima se priča MISTERIOZNA MRLJA Objavljena fotografija crvene mrlje na Trumpovom vratu: Oglasila se Bijela kuća PRIJETI ESKALACIJA VIDEO Izraelci pokrenuli nove napade na Teheran pa objavili da su ubili 1500 Iranaca. Porastao i broj poginulih američkih vojnika Dobro je znati Koje su najsigurnije zemlje za život u slučaju trećeg svjetskog rata: Imamo popis

Kako prenosi Muzejski dokumentacijski centar (MDC), u izvještaju "AI and the Holocaust: rewriting history? The impact of artificial intelligence on understanding the Holocaust", napravljenom u partnerstvu sa Svjetskim židovskim kongresom, navodi se kako sve više mladih kod umjetne inteligencije traži brze odgovore na pitanja o holokaustu.

Prema UN-ovoj studiji iz 2022. čak 80 posto mladih ljudi koristi te alate i usluge više puta dnevno za obrazovanje, zabavu i svakodnevne aktivnosti. U Hrvatskoj, prema online anketi UNICEF-a Hrvatska i Mreže mladih Hrvatske, 78 posto mladih od 16 do 25 godina koristi ju za učenje, pripremu ispita ili domaće zadaće, najčešće ChatGPT.

Pročitajte i ovo Sve veći problem Umjetna inteligencija čini deepfake videa jednostavnima za stvaranje i kompliciranima za otkrivanje

Zlonamjernici mogu iskoristiti poznavanje nedostataka u razvoju umjetne inteligencije za širenje lažnih informacija o povijesti holokausta, teorija zavjere te poticanje govora mržnje. 

Primjerice, kada se 2020. na Googleu pretraživao pojam "židovska dječja kolica“ dobio bi slike prijenosnih pećnica jer bi ga sustav kao odgovor na upit za nepostojeći proizvod usmjeravao na mrežne stranice s uvredljivim antisemitističkim sadržajem, zbog najbližeg podudaranja riječi pored slika s riječima iz pretrage.

Umjetna inteligencija može nedostatak informacija popuniti generiranim sadržajem koji nije potkrijepljen činjenicama, pa se znalo desiti i da izmisli događaje, ličnosti i čitave fenomene poput "holokausta utapanjem“, što je halucinacija proistekla od ChatGPT-ja. 

Ponekad tražilice imaju tendenciju fokusiranja na samo neke od aspekata holokausta što dovodi do pretjeranog pojednostavljivanja te izrazito kompleksne teme.

Razgovor s Hitlerom i deepfake Emme Watson koja čita Mein Kamp

Posebno je zabrinjavajuća mogućnost falsifikacije povijesnih dokaza i stvaranja dubokih krivotvorina (deepfakes) s ciljem zavaravanja korisnika, rehabilitacije i veličanja nacističke ideologije te normalizacije antisemitizma. 

Pročitajte i ovo I ne samo to Kako prepoznati "deepfake video"? Ovaj brand predstavio je zanimljivo AI rješenje tog problema

Tako aplikacija Historical Figures omogućuje razgovor s Adolfom Hitlerom ili Josephom Goebbelsom uz promicanje lažne tvrdnje da neki pojedinci, poput Goebbelsa, nisu bili namjerno uključeni u holokaust i da su pokušali spriječiti nasilje nad Židovima.

Na internetskoj stranici 4chan, na kojoj korisnici mogu anonimno objavljivati, pojavila se deepfake audiosnimka glumice Emme Watson kako čita "Mein Kampf". 

Sama svijest o tome da se sadržaj može generirati ili manipulirati pomoću UI-je dovodi do erozije povjerenja u autentične povijesne dokaze i iskustva preživjelih u holokaustu, istaknuto je.

Izvještaj donosi i preporuke tvorcima politika, obrazovnom sektoru, razvojnim programerima, istraživačima i baštinskim institucijama za suzbijanje širenja dezinformacija o holokaustu i promicanje etičkog razvoja i odgovornog korištenja UI-je, u skladu s Preporukom o etici umjetne inteligencije koju su 2021. usvojile 193 članice UNESCO-a.

Iz MDC-a napominju kako muzeji i ostale baštinske institucije mogu surađivati s programerima UI-je pomažući im da razumiju osjetljivost, povijesni kontekst i rizike korištenja njihovih baza podataka.

Također, digitalizacija muzejskih zbirki i povijesnih dokumenata vezanih uz holokaust povećava bazu (točnih) podataka za učenje sustava UI-je, apostrofira se i razvoj smjernica o tome koje informacije koristiti za dohvaćanje i generiranje rezultata te kako se nositi s pravnim pitanjima, autorskim pravima i privatnošću žrtava.

Pročitajte i ovo Rastući problem Tehnološki divovi sklapaju sporazum radi borbe protiv AI deepfake tehnologije i njezina utjecaja na političke izbore

Umjetna inteligencija ipak i koristi za istraživanje holokausta i olakšavanjanje pristupa povijesnom materijalu, pa se ona koristila i u Međunarodnom centru za proučavanje nacističkog progona (Arolsen Archives) kao pomoć pri indeksiranju arhivskih dokumenata koji su bili posebno složeni i dugotrajni za obradu. 

Može služiti i za nove načine učenja i interakcije s prošlošću, kao u projektu "Tell me, Inge" koji kroz proširenu stvarnost omogućava virtualni razgovor s Inge Auerbacher koja je preživjela holokaust.