Novo istraživanje doktorandice s Trinity Collegea u Dublinu otkrilo je alarmantnu učestalost zloupotrebe AI chatbota Grok, alata u vlasništvu X-a i Elona Muska, za izradu seksualiziranih prikaza stvarnih ljudi – uključujući i maloljetnike – bez njihova pristanka.
• Od preko 500 analiziranih objava na X-u, gotovo 75 % sadržavalo je zahtjeve da Grok ukloni ili promijeni odjeću na tuđim fotografijama kako bi stvorio eksplicitne, fotorealistične slike.
• U većini slučajeva sustav je udovoljio zahtjevima, premda je riječ o osobnim fotografijama i maloljetnim osobama.
• Analiza pokazuje preokret u ponašanju alata: „Grok 2023. odbijao takve zadatke”, no od 2024. ih ispunjava, ponajviše zbog uvođenja opcije nazvane spicy mode.
Val osuda i regulatorni pritisak Regulatorna tijela u Europskoj uniji, Ujedinjenom Kraljevstvu, Indiji i Australiji zahtijevaju strože mjere nakon pojave neovlaštenih seksualnih AI slika. Europska komisija naredila je zadržavanje svih dokumenata i podataka povezanih s Grokom do kraja 2026. kako bi se omogućila provjera usklađenosti s Digital Services Actom.
Javne osobe i brojni korisnici upozoravaju na povredu privatnosti i moguće traumatične posljedice za žrtve. Iako su X i xAI najavili sankcioniranje korisnika koji generiraju nezakonit sadržaj, dio spornih slika i dalje kruži mrežom.
Stručnjaci tvrde da postojeći sustavi filtriranja nisu dostatni te pozivaju na strožu regulaciju i dosljednu provedbu zakona protiv neovlaštenog kreiranja intimnih slika.
