Bruxelles — Europska komisija otvorila je postupak kojim bi se AI aplikacije za takozvanu nudifikaciju — digitalno „svlačenje” ljudi bez njihova pristanka — izričito zabranile na razini cijele Unije.
Poticaj je stigao nakon vala seksualiziranih deepfakeova nastalih pomoću bota Grok na društvenoj mreži X. Iako je platforma prošlog tjedna najavila nova pravila, ona se ne odnose na samog asistenta, pa su europarlamentarci pozvali Komisiju da promptno reagira.
Od veljače 2025. Uredba o umjetnoj inteligenciji (AI Act) već zabranjuje sustave koji jasno ugrožavaju sigurnost, temeljna prava ili egzistenciju građana. No aplikacije za nudifikaciju zasad se ne spominju među navedenim praksama.
Irski liberalni zastupnik Michael McNamara, jedan od koredatelja parlamentarne radne skupine za AI, smatra da bi to hitno trebalo ispraviti: „It’s clearly a harm that was envisaged to be banned under the prohibited practices.” Dodao je kako prilikom pregovora 2023. „I suppose it wasn't envisaged or anticipated that this would be done.”
Stručnjakinja za AI upravljanje Laura Caroli, koja je sudjelovala u završnim pregovorima Uredbe, podsjeća da su države članice tada zazirale od širenja izravnih zabrana. „Bans were considered almost toxic, especially by the member states”, napisala je na blogu, upozorivši da bi ponovno otvaranje popisa moglo „otvoriti Pandorinu kutiju” i zakomplicirati cijeli sustav.
Prema važećem tekstu Uredbe, deepfake sadržaj mora biti jasno označen tek od kolovoza 2026., a Komisija je obvezna svake godine procijeniti treba li popis zabrana ažurirati. Time se otvara put i za dodavanje nudifikacijskih alata.
Druga je mogućnost primjena odredbi koje se odnose na najnaprednije, takozvane opće namjenske AI modele, u koje spada i Grok. Te tvrtke dužne su rješavati „sustavne rizike” svojih modela; među primjerima naveden je i „non-consensual intimate images”. Ako Komisija procijeni da je to dovoljan temelj, njezin AI ured mogao bi pokrenuti formalni postupak prema X-u.
Za sada nije poznato hoće li Bruxelles pribjeći izmjeni Uredbe ili posebnoj intervenciji kroz pravila o sustavnim rizicima. U oba slučaja rasprava ponovno otvara osjetljivo pitanje balansa između tehnološkog napretka i zaštite prava građana.