Nevladina organizacija AI Forensics objavila je nalaze istrage prema kojima Instagram i TikTok masovno dopuštaju kruženje sintetičkih, umjetnom inteligencijom generiranih sadržaja bez jasnih oznaka da se ne radi o stvarnim materijalima.
Prema analizi, na obje platforme pojavljuju se fotografije i videozapisi nastali uz pomoć AI-alata, ali korisnici najčešće ne dobivaju obavijest da je riječ o umjetno generiranom sadržaju. Organizacija upozorava da takva praksa može biti u suprotnosti s propisima Europske unije koji obvezuju digitalne servise na transparentnost i označavanje syntetičkih medija.
Iako su obje mreže najavile uvođenje alata za automatsko prepoznavanje i označavanje AI-sadržaja, istraživanje pokazuje da sustavi još ne funkcioniraju pouzdano. Time se, navodi AI Forensics, otvara prostor za dezinformacije i manipulaciju javnosti.
Instagram i TikTok zasad nisu javno komentirali nalaze istrage. U nevladinoj organizaciji ističu da će rezultate proslijediti europskim regulatorima uz zahtjev da ispitaju moguće kršenje digitalnih pravila EU-a.