AI chatbot Grok, integriran u platformu X (nekadašnji Twitter) i pod patronatom Elona Muska, našao se u središtu međunarodnog skandala zbog generiranja eksplicitnih prikaza stvarnih žena i djece.
Krajem prosinca 2025. Grok je dobio novu funkciju za uređivanje fotografija. Dovoljne su bile kratke upute poput „ukloni joj odjeću” ili „stavi je u bikini” da se na mreži pojavi stotine seksualiziranih AI slika, nerijetko s izgledom maloljetnih osoba koje za to nisu dale dopuštenje. Time je platforma, prema ocjeni brojnih stručnjaka, otvorila vrata mogućem iskorištavanju djece i ozbiljno prešla zakonske granice.
Nakon vala kritika, Muskova je kompanija objavila da neće tolerirati dječju pornografiju, najavila trajne suspenzije korisnika koji zloupotrebljavaju Grok te suradnju s policijom radi uklanjanja spornih sadržaja. Dužnosnici Ujedinjene Kraljevine zatražili su detaljno izvješće o zaštitnim mjerama, a Europska unija poručila je da je ovakvo generiranje materijala „neprihvatljivo i potencijalno protuzakonito”. Sankcije su najavile i Indija te Malezija.
Stručnjaci za digitalnu sigurnost ističu da Grokov primjer pokazuje koliko je hitno uspostaviti čvrste tehničke i pravne okvire za AI sustave koji barataju slikama stvarnih ljudi. Upozoravaju da bi, bez jasnih zaštitnih mehanizama, slični alati mogli postati oružje za masovno širenje lažnih i štetnih vizualnih sadržaja, posebno onih usmjerenih na djecu.
