Google isprobava digitalno rješenje za borbu protiv AI manipulacije

Sve raširenija uporaba generativne umjetne inteligencije dovela je do pojave problema autentičnosti i istinitosti. To je posebno vidljivo u slučaju fotografija i videa nastalih pomoću umjetne inteligencije. Dok su alati na početku bili prilično nespretni u izradi novih AI fotografija, pa nije bila rijetkost da osoba na AI fotografiji ima tri ruke ili višak prstiju, danas su ti isti alati toliko sofisticirani da je sve teže razlikovati "pravu" fotografiju i video od one umjetno stvorene. 

tri vijesti o kojima se priča PRIJETI ESKALACIJA VIDEO Izraelci pokrenuli nove napade na Teheran pa objavili da su ubili 1500 Iranaca. Porastao i broj poginulih američkih vojnika Dobro je znati Koje su najsigurnije zemlje za život u slučaju trećeg svjetskog rata: Imamo popis USKO GRLO SVIJETA Iranska "nuklearna opcija": Ako to provedu, udarit će Trumpa tamo gdje je najslabiji

Stoga ne iznenađuje da tvrtke diljem svijeta pokušavaju osmisliti način razlikovanja AI fotografije od prave. Googleov DeepMind odjel za umjetnu inteligenciju razvio je svojevrsni digitalni vodeni žig za otkrivanje slika koje je izradila umjetna inteligencija.

Pročitajte i ovo Treba biti spreman Potpredsjednik Microsofta upozorio: Umjetna inteligencija mogla bi se koristiti kao oružje, ali i sredstvo obmanjivanja

Alat pod imenom SynthID trebao bi identificirati fotografije koje generira AI zahvaljujući ugradnji posebnih oznaka na fotografije. Točnije, SynthID će promijeniti pojedinačne piksele unutar fotografije, tako da te promjene ne budu vidljive ljudskom oku, ali da ih strojevi (odnosno alati) mogu detektirati. 

Dizajnirali smo SynthID tako da ne ugrožava kvalitetu slike i omogućuje da vodeni žig ostane vidljiv, čak i nakon izmjena kao što su dodavanje filtara, mijenjanje boja i spremanje s različitim shemama kompresije s gubitkom, koje se najčešće koriste za JPEG.

SynthID koristi dva modela dubinskog učenja - za vodeni žig i identifikaciju - koji su zajedno uvježbani na različitim skupovima slika. Kombinirani model optimiziran je za niz ciljeva, uključujući ispravnu identifikaciju sadržaja s vodenim žigom i poboljšanje neprimjetnosti vizualnim poravnavanjem vodenog žiga s izvornim sadržajem, pojašnjavaju iz DeepMinda.

No, kako ističu iz Googleova DeepMinda, alat nije savršen i ne može detektirati ekstremnu manipulaciju fotografijama. Osim toga, SynthID vodeni žigovi primjenjivat će se samo na Googleovu generatoru slika Imagenu. To znači da će ostale fotografije i slike nastale pomoću drugih alata, kao što je Midjourney, ostati - neotkrivene. 

Pročitajte i ovo Obratite se doktorima Izmišlja i griješi: Umjetna inteligencija daje potencijalno opasne savjete za liječenje bolesti

Da bi se u industriju uveo određeni alat koji bi svi koristili, potreban je širi dogovor i, vjerojatno, razvoj određenog standarda. Zasad to nije slučaj i na tržištu su se već pojavili alati koji bi trebali detektirati AI fotografije. Neki su više, a neki manje uspješni. 

SynthID će zasad biti korišten u Googleovim proizvodima, ali kako najavljuju iz DeepMinda, mogao bi biti ugrađen i u neke proizvode izvan Googleova ekosustava. 

SynthID bi se mogao proširiti za korištenje u drugim modelima umjetne inteligencije i uzbuđeni smo zbog potencijala njegove integracije u više Googleovih proizvoda i dostupnosti trećim stranama u bliskoj budućnosti - osnažujući ljude i organizacije da odgovorno rade sa sadržajem generiranim umjetnom inteligencijom, zaključuju na kraju iz DeepMinda.