Mladu osebujnu Arizonsku ženu, u tužbi označenu samo inicijalima MG, prošlog je ljeta šokirala poruka pratitelja: Instagram je bio preplavljen Reelovima na kojima njezino lice i prepoznatljive tetovaže „nose” tuđe polugolo tijelo.
Umjetnom inteligencijom stvorene fotografije i snimke — toliko uvjerljive da bi ih, kaže, ljudi koji je slabo poznaju „bez problema zamijenili za stvarne” — koristile su se za reklamu projekta AI ModelForge. Prema netom podignutoj skupnoj tužbi pred sudom u Arizoni, tri muškarca iz Phoenixa – Jackson Webb, Lucas Webb i Beau Schultz – zajedno s još 50 neidentificiranih suradnika godinama su sakupljali slike slučajnih žena s društvenih mreža, trenirali generativni alat CreatorCore i potom prodavali erotski sadržaj na pretplatničkoj platformi Fanvue.
Tužitelji tvrde da su osumnjičeni širu zaradu osigurali prodajom online „tečaja” po 24,95 dolara mjesečno na servisu Whop. Kupcima su nudili:
• „Blueprint” za masovno skidanje slika s profila žena koje imaju manje od 50 000 pratitelja — kako bi, stoji u uputama, smanjili „pravne probleme”;
• aplikaciju za „svlačenje” fotografija;
• detaljan vodič za plasiranje sadržaja na Instagram i TikTok.
U 2025. sustav je, navodi se u tužbi, imao više od 8 000 pretplatnika i proizveo više od 500 000 erotskih fotografija i videa. U jednom je mjesecu, prema finansijskim tragovima, donio preko 50 000 dolara prihoda.
Iako savezna zabrana nenamjernog AI-pornografskog sadržaja – Take It Down Act, potpisana 2025. – stupa na snagu tek u svibnju 2026., Arizoni i većini drugih saveznih država već postoje zakoni protiv „deepfake” pornografije. No žrtve su i dalje prisiljene na „igranje čovječe, ne ljuti se”, kaže državni zastupnik Nick Kupper: svaki put kad uspiju skinuti jedan račun, niču novi.
AI ModelForge danas se skriva iza novog naziva TaviraLabs i telegram-kanala s više od 18 000 članova. Većina Instagram profila koje su tužitelji povezali s mrežom i dalje je aktivna. Instagram pak tvrdi da ima „iznimno stroga pravila” protiv nenamjernog intimnog sadržaja, no priznaje da „pregledava sporne račune”.
MG se svakodnevno boji da će prijatelji ili budući poslodavci naletjeti na lažne golišave slike. Ipak, odluka da tužbom zatraži naknadu štete vraća joj, kaže, barem djelić kontrole: „Ne smijemo dopustiti da nas ovakve stvari natjeraju da prestanemo živjeti.”
Slučaj upozorava: ako osoba s manje od 10 000 pratitelja može postati meta, opasnost prijeti svakome tko javno dijeli fotografije na internetu.