Muškarac s Floride završio je u zatvoru i na sudu zbog fotografija koje je stvorio pomoću umjetne inteligencije. Protiv njega je podignuta optužnica s čak 20 točaka za opscenost jer je navodno stvarao i distribuirao dječju pornografiju generiranu umjetnom inteligencijom.
Kako navode američki mediji, muškarac je uhićen u sklopu velike operacije razbijanja lanca dječje pornografije, ali činjenica da se za stvaranje takvog sadržaja koristila tehnologija, dodatno je zabrinula kako pravne tako i stručnjake koji se bave borbom protiv dječje pornografije.
Sve veći broj takvih sadržaja na internetu potaknula je američke zakonodavce na osmišljavanje i predlaganje zakona koji bi takvu vrstu pornografije učinili ilegalnom. No, problem je kako zaustaviti stvaranje takvog sadržaja.
Prema podacima američkog Nacionalnog centra za nestalu i zlostavljanu djecu, u 2023. godini zaprimljeno je 4700 prijava zbog dječje pornografije stvorene umjetnom inteligencijom. U nekim su slučajevima čak korištene fotografije stvarne djece za stvaranje deepfake videa kojima su potom ta djeca ucjenjivana.
Studija koju je provelo Sveučilište Stanford 2023. godine otkrila je da su u široko korištenim podatkovnim skupovima fotografija za treniranje umjetne inteligencije pronađene i brojne snimke zlostavljanja djece.
Stručnjaci upozoravaju da će s daljnjim razvojem alata generativne umjetne inteligencije biti sve teže prepoznati što je stvarna fotografija, a što slika napravljena pomoću umjetne inteligencije. A to znači i da će postati sve teže zaustaviti širenje takvog sadržaja.