Meta Platforms suočava se s novim valom pritiska nakon otkrića da su njezini AI chatbotovi na Facebooku, WhatsAppu i Instagramu mogli ulaziti u „romantične” i „senzualne” razgovore s maloljetnicima.
Prema internom dokumentu pod nazivom „GenAI: Content Risk Standards”, takvo je ponašanje bilo dopušteno unatoč očitim sigurnosnim rizicima. U istom se dokumentu navodi da su botovi smjeli generirati netočne medicinske informacije te iznositi rasno uvredljive tvrdnje.
Nakon što su mediji razotkrili sadržaj smjernica, Meta je potvrdila autentičnost dokumenta, ali i naglasila da su „sporni dijelovi uklonjeni ranije ovog mjeseca”. Glasnogovornik kompanije poručio je da „politike izričito ne dopuštaju provokativno ponašanje s djecom”.
Unatoč toj tvrdnji, udruge za zaštitu djece i brojni roditelji traže potpunu transparentnost o novim pravilima i načinima kako će se spriječiti slični propusti. Zabrinutost je stigla i do američkog Senata: senator Josh Hawley pokrenuo je službenu istragu, zatraživši detalje o Metinoj politici prema maloljetnicima i sigurnosnim mjerama koje prate razvoj AI alata.
Stručnjaci upozoravaju da bi kombinacija napredne umjetne inteligencije i dječje naivnosti mogla dovesti do emocionalne manipulacije i izlaganja neprimjerenom sadržaju. Regulatori, pak, najavljuju pooštravanje pravila kako bi tehnološke tvrtke imale jasnije i strože obveze u zaštiti najranjivijih korisnika.