Razvoj alata temeljenih na umjetnoj inteligenciji donosi nove pravne glavobolje. Najsuvremeniji sustavi danas mogu u nekoliko sekundi izraditi fotografiju koja nikada nije postojala u stvarnom svijetu, ali može sadržavati eksplicitan ili u potpunosti zabranjen materijal.
Pravnici upozoravaju da domaći i međunarodni propisi uglavnom ne razlikuju „stvarnu” od digitalno generirane slike kada je riječ o spornom sadržaju. Korisnik koji takvu sliku izradi ili podijeli i dalje može biti kazneno gonjen, a u nekim jurisdikcijama kaznena odgovornost nastupa već samim posjedovanjem. Posebno je rizično sve što imitira ili prikazuje zakonom zabranjene teme.
Uz korisnike, pod povećalom su i tvrtke koje razvijaju ovakve alate. Od njih se traži uvođenje snažnijih filtera, sigurnosnih mehanizama i jasnih protokola za sprječavanje zlouporabe. Iako su pojedine platforme već ograničile određene upite ili teme, stručnjaci ocjenjuju da zaštitne mjere još uvijek ne prate brzinu tehnološkog napretka.
Najveći izazov ostaje činjenica da zakonodavstvo kaska za inovacijama. Dok se čeka ažuriranje propisa, u praksi vlada pravni vakuum u kojem granice dopuštenog i dalje ostaju mutne – i za korisnike i za pružatelje usluga.