Povratak u školske klupe bio je posebno težak za 20 djevojčica s juga Španjolske. Tijekom ljeta su, naime, dobivale fotografije na kojima su po svemu sudeći one, i to potpuno gole. Međutim, znale su da nijedna od njih te fotografije nije snimila.
Slike su zapravo ukradene s njihovih računa na Instagramu i zatim izmijenjene pomoću aplikacije koja koristi umjetnu inteligenciju. Djevojčice su dobivale prijetnje, autori lažnih fotografija od njih su tražili novac, a kada su ih odbile, podijeljene su u razrednim i školskim grupama na WhatsAppu, prenio je Euronews.
Djevojčice, od kojih najmlađa ima samo 11 godina, na pravim su fotografijama bile potpuno odjevene, no aplikacija radi vrlo sofisticirano - golotinja je izgledala potpuno stvarno.
Sada se roditelji, a i tužitelji pitaju je li počinjeno kazneno djelo. Čak i ako slike nisu stvarne, mogu li se smatrati dječjom pornografijom?
Deepfake pornografije sve je raširenija. Dok ih dio ljudi radi za vlastitu uporabu, takve slike već su korištene da bi se pokušalo zastrašiti žene - bilo na visokim položajima, bilo bivše djevojke. Naprosto, meta može biti svatko.
Neke zemlje uvele su zabranu njezina stvaranja, ali baš kao i fake news, teško je, ako ne i nemoguće kontrolirati to.
"Montaže su iznimno realistične, vrlo su uznemirujuće. "Kći mi je s velikim gađenjem rekla: 'Mama, vidi što su mi napravili.' Jako smo bijesni", napisala je Miriam Al Adib, jedna od majki djevojčica, na svom profilu na Instagramu.
Fotografije su mogle doći do internetskih portala poput OnlyFansa ili pornografskih stranica, ali stručnjaci svejedno nisu sigurni može li se sadržaj svrstati u kategoriju dječje pornografije.
Zakonski okvir koji bi u ovom slučaju mogao funkcionirati bio bi kazneno djelo protiv moralnog integriteta, ali takve slučajeve najteže je odrađivati jer nitko ne zna gdje ih smjestiti, objasnio je profesor kaznenog prava sa Sveučilišta u Madridu Manuel Cancio.
U ožujku 2022. Europska komisija predložila je kriminalizaciju te vrste kaznenog djela u direktivi o kibernetičkom kriminalu. Nizozemski Kazneni zakon jedini ima odredbu koja se bavi tim pitanjem, dok sve ostale članice još uvijek osmišljavaju kako se izboriti s rastućim problemom.