Rašireni AI alati za izradu lažnih erotskih slika i videa sve su sofisticiraniji, lakše dostupni i lukrativniji, dok zakonodavstvo debelo kaska, upozoravaju stručnjaci.
Jedna internetska stranica, naizgled tek još jedan generator slika potpomognut umjetnom inteligencijom, nudi da iz jedne fotografije napravi osam sekundi eksplicitnog videa. U katalogu ima 65 predložaka – od „svlačenja” do grafičkih scena s nazivima poput „fuck machine deepthroat” – a svaki uradak naplaćuje nekoliko dolara. Symboličan je i dodatak za AI-generirani zvuk. Premda platforma tvrdi da se smiju uploadati samo fotografije za koje postoji pristanak, nikakvi se mehanizmi provjere ne vide.
Širi se cijeli ekosustav: WIRED je pronašao više od 50 sličnih stranica koje mjesečno primaju milijunske posjete i gotovo sve sada nude visokokvalitetni video. Stručnjak za deepfake tehnologije Henry Ajder ocjenjuje da je riječ o „društvenoj pošasti“ i „najmračnijem dijelu AI revolucije“, jer je realizam znatno porastao, a funkcionalnost se proširila. Procjenjuje se da industrija već zarađuje milijune dolara godišnje.
Telegram kao plodno tlo
Paralelno s web-stranicama bujaju i botovi na Telegramu. Analiza je otkrila 39 kanala i botova s ukupno oko 1,4 milijuna korisničkih računa. Nakon upita novinara platforma je uklonila barem 32 alata i priopćila da je lani izbrisala 44 milijuna sadržaja koji krše zabranu nekonsenzualne pornografije.
Istraživač Santiago Lakatos objašnjava da se veći deepfake servisi pretvaraju u infrastrukturne pružatelje: kupuju manje konkurente i nude API-je kojima drugi mogu graditi vlastite „nudify“ aplikacije. Pojavljuju se i sve bizarnije opcije – primjerice mogućnost da se žrtvu prikaže kao trudnu.
Žrtve gotovo isključivo žene i djevojčice
Prve seksualne deepfake montaže pojavile su se potkraj 2017., no posljednje tri godine – zahvaljujući dostupnim open-source modelima – izrada je postala banalna. Posljedice trpe uglavnom žene: od političarki i influencerica do kolegica s posla ili srednjoškolskih kolegica. Profesorica psihologije Pani Farvid podsjeća da društvo i dalje ne shvaća ozbiljno nasilje nad ženama, bez obzira na oblik, dok većina zakonodavstava zaostaje.
Australsko istraživanje pod vodstvom Ashera Flynna intervjuiralo je 25 žrtava i počinitelja. Tri su čimbenika naročito problematična: sve jednostavniji alati, normalizacija dijeljenja takvih uradaka i umanjivanje štete. Motivacija počinitelja varira od ucjene („sextortion“) i čistog nanošenja boli do grupnog dokazivanja i puke znatiželje. Neki materijale dijele u privatnim WhatsApp grupama od pedesetak ljudi.
Aktivistica Bruna Martins dos Santos upozorava na „banalnost zla“: zajednice koje razvijaju alate često su ravnodušne prema posljedicama. Jedan od počinitelja iz Flynnove studije cinično je priznao da mu izrada daje „božanski šus moći“.
Što dalje?
Iako se platforme poput Telegrama povremeno obračunavaju s pojedinim alatima, broj servisa i dalje raste. Bez bržih zakonskih reakcija, kombinacija komercijalnih poticaja i tehničke lakoće mogla bi produbiti digitalno nasilje nad ženama i djecom, zaključuju stručnjaci.