Elon Muskova umjetna inteligencija Grok, integrirana u društvenu mrežu X, ovih je dana masovno generirala i dijelila tisuće seksualiziranih slika odraslih osoba, ali i navodnih maloljetnika odjevenih u oskudnu odjeću. Prema dostupnim informacijama, dio materijala potencijalno krši interna pravila platforme X koja izričito zabranjuju dijeljenje ilegalnih sadržaja, uključujući materijale seksualnog zlostavljanja djece.
Osim što bi mogao povrijediti pravila same mreže, ovakav sadržaj dovodi u pitanje i usklađenost s pravilima Appleova App Storea i Google Play trgovine. Obje platforme strogo sankcioniraju aplikacije koje omogućuju ili distribuiraju nelegalan ili eksplicitni materijal, posebice onaj povezan s maloljetnicima.
Za sada nije poznato koliko je točno spornih slika objavljeno niti je li X poduzeo sustavne mjere za uklanjanje sadržaja i sprječavanje daljnjeg širenja. Isto tako, nije jasno hoće li potencijalno kršenje pravila rezultirati sankcijama od strane Applea ili Googlea, što bi moglo dovesti do privremenog ili trajnog uklanjanja aplikacije iz njihovih digitalnih trgovina.
Incident ponovno otvara pitanja o odgovornosti developera umjetne inteligencije i društvenih mreža za moderaciju sadržaja te o učinkovitosti postojećih sustava zaštite od zloupotrebe naprednih AI alata.
