Španjolska Guardia Civil pokrenula je istragu protiv 17-godišnjeg srednjoškolca iz okruga Ribera Alta pokraj Valencije pod sumnjom da je umjetnom inteligencijom izrađivao i prodavao lažne gole fotografije svojih školskih kolegica.
Prvi trag pojavio se u prosincu prošle godine, kada je učenica prijavila lažni profil na društvenim mrežama otvoren pod njezinim imenom. Na računu su se nalazile videomontaže u kojima je, zahvaljujući AI-alatu, izgledala potpuno naga. Ubrzo je otkriven još jedan profil s istim sadržajem te internetska stranica koja je fotografije reklamirala u komercijalne svrhe.
Nakon što se policiji javilo još 15 maloljetnica, istražitelji su pratili objave na društvenim mrežama, kontaktirali tvrtke koje hostaju sporni sadržaj i analizirali web stranicu koja je nudila „preinaku fotografija”. IP adrese i korisnički podaci vodili su do kuće jednog od prijaviteljica školskih kolega, a istraga je potvrdila da su sve kompromitirane e-pošte registrirane na istu osobu.
Protiv mladića se vodi postupak zbog kaznenog djela kvarenja maloljetnika, a predmet je preuzeo maloljetnički sud u Valenciji.
Slučaj podsjeća na prošlogodišnji incident u Extremaduri, gdje je 15 maloljetnika osuđeno na godinu dana probacije jer su AI-jem izrađivali lažne gole slike svojih kolegica i dijelili ih u WhatsApp grupama. Osim probacije, morali su pohađati radionice o ravnopravnosti spolova i odgovornom korištenju tehnologije.
Organizacija Malvaluna, koja je zastupala obitelji pogođenih djevojaka, tada je upozorila da ovakvi slučajevi zahtijevaju jače obrazovanje o spolu i sigurnom korištenju interneta. Slične poruke stižu i iz španjolske vlade, koja je u ožujku najavila zakon kojim bi se internetsko zlostavljanje, grooming i neovlašteno stvaranje AI-pornografije tretirali kao kaznena djela.
Dok se čeka novi zakon, aktualna istraga u Valenciji ponovno otvara pitanje kako zaštititi maloljetnike od tehnologija koje u pogrešnim rukama postaju oružje za seksualno zlostavljanje.