Umjetna inteligencija čini deepfake videa jednostavnima za stvaranje i kompliciranima za otkrivanje

 Lažne video i audio snimke odnosno deepfake videa i audio, veoma su se brzo iz teoretske mogućnosti, pretvorile u stvarnu opasnost. Tehnologija koja imitira glas odnosno stvara uvjerljivu sliku neke osobe, odjednom je postala opasna i lako dostupna. Dovoljno je tek nešto guglanja.

tri vijesti o kojima se priča Čeka se Vladu Nakon utorka još jedan veliki šok za džepove građana? "Ako se održi ova situacija, onda će biti problema" Užas u Italiji Veliki požar na drugoj strani Jadrana: Stotine ljudi evakuirane morem Vrijeme u idućem tjednu Veliki preokret: U Hrvatsku stižu ekstremne vremenske prilike i kraj im se ne nazire

Prije nekoliko dana Taylor Swift našla se na udaru nepoželjnih videa, kad su se platformom X proširile njene fotografije i videa u pornografskom izdanju. Jasno je da se radilo o lažnim snimkama, no to nije spriječilo njihovo brzo širenje po internetu. Swift i platforma X su brzo reagirali i blokirali takav sadržaj na platformi, ali ovo je samo jedan primjer.

Pročitajte i ovo A što je s ostalima? Veliki igrači udružili snage u borbi protiv deepfakeova

I baš kao što postoje alati za stvaranje lažnih videa i audija, postoje i alati za njihovo otkrivanje. No oni su daleko od savršenih. Sustavi za detekciju deepfake videa i audija analiziraju uzorke i traže pogreške u frekvencijama do kojih često dolazi kad je audio umjetno stvoren. Često se fokusiraju i na sam govor i prate tempo kojim govornik govori te koliko se mijenja njegova intonacija.

Tvrtka Reality Defender, koja se bavi otkrivanjem lažnih videa, ističe kako za otkrivanje AI videa koriste upravo AI. No, pojašnjavaju, nije lako detektirati lažnu snimku. Njihovi zaposlenici u baze podataka, na temelju kojih AI detektira lažne snimke, ubacuju veliku količinu postojećih lažnih snimki. A to znači da je njihov AI za otkrivanje lažnih snimki korak iza alata za stvaranje takvih snimki.

Problem je i zakonodavni okvir koji još uvijek ne postoji, a i kad odnosno ako stupi na snagu, bit će nekoliko koraka iza tehnologije koja se razvija na dnevnoj bazi.

Stručnjaci ističu da alati za otkrivanje lažnih videa mogu pomoći, ali ne mogu biti jedini način za njihovo otkrivanje. Dodaju kako je najbolji (i najsigurniji) način za otkrivanje lažnih videa kombinacija stručne analize, otkrivanja izvorišta zvuka ili slike te kritično razmišljanje o samom kontekstu snimke.

Pročitajte i ovo Što je stvarno a što ne? Zabrinjavajuće istraživanje: Ljudi teško prepoznaju deepfake govor, a to može dovesti do velikih problema

Ljudi još uvijek mogu bolje i preciznije detektirati lažni video i audio. Trenutni deepfake videi još uvijek ne mogu u potpunosti imitirati ljudski govor. A to znači da će u lažnim videima osoba koja govori imati neobičan tempo govora, a izgovor neće pratiti disanje.

Stoga ako sumnjate da je neki video lažan, poslužite se vlastitim ušima i zdravim razumom. Ako imate osjećaj da nešto nije u redu - vjerojatno ste u pravu.

Izvor: NBC News