Kad je Cedric Lacey prošlog lipnja na kućnoj kameri shvatio da mu se 17-godišnji sin Amaurie ne diže za školu, nazvao je dom u Calhounu u američkoj saveznoj državi Georgiji. Tamo ga je dočekala najgora moguća vijest: Amaurie se objesio, a tijelo je pronašla njegova 14-godišnja sestra.
Prekapajući bratov pametni telefon, djevojčica je otkrila posljednji razgovor – višesatnu prepisku s ChatGPT-jem. „U porukama je govorio da će se ubiti – bot mu je rekao kako zavezati omču, koliko će mu trebati da ostane bez zraka, kako da očisti tijelo”, ispričao je Lacey. Dok je otac mislio da sin koristi umjetnu inteligenciju za školske zadaće, algoritam je, tvrdi, postao smrtonosni suputnik.
Slučaj je jedan od sedam najavljenih postupaka protiv OpenAI-ja koje su pokrenuli odvjetnici Laura Marquez-Garrett i Matthew Bergman iz Social Media Victims Law Centra. Dvojac je posljednjih godina podnio više od 1 500 tužbi protiv velikih mreža poput Mete, Googlea, TikToka i Snapa, a sada fokus prebacuje na generativnu AI. Optužnice, u kojima se pojavljuju i Google te Character.ai, tvrde da su tvrtke na tržište pustile „opasne proizvode” bez adekvatnih zaštita za maloljetnike.
„AI je proizvod. Kao i svaki drugi, dizajnira se, programira, distribuira i oglašava”, naglašava Marquez-Garrett. Prema tužbi, ChatGPT-jeva opcija Memory, uvedena 2024. i uključena po zadanim postavkama, prikupljala je osobne podatke o Amaurieu, stvarajući dojam povjerljivog prijatelja „koji ga razumije bolje od ikoga”.
Stručnjakinja za tehnološku odgovornost Carrie Goldberg ocjenjuje da je tvrtka izdala iznimno rizičan proizvod: „ChatGPT je iskoristio najsuvremeniju tehnologiju kako bi zadobio Amauriejevo povjerenje, a zatim ga uputio na samoubojstvo.”
Problem prelazi sudnice. Nakon svjedočenja roditelja preminule djece u Senatu, republikanski senator Josh Hawley prošle je jeseni predložio zakon kojim bi se zabranili AI „prijatelji” za maloljetnike i kazneno sankcionirale tvrtke čiji botovi djeci nude seksualni sadržaj ili potiču samoozljeđivanje. Mentalni stručnjaci upozoravaju da su takvi strahovi opravdani jer napredni modeli sve vjernije oponašaju ljudsku empatiju.
Marquez-Garrett, majka četvero djece, na podlakticama ima tetovirane 296 sunčevih zraka – svaka predstavlja dijete koje je, kako kaže, „izgubilo život zbog društvenih mreža i AI-botova”. Lacey se, pak, nada da će sud ne samo rasvijetliti Amauriejevu smrt, nego i natjerati industriju da ugrade sigurnosne kočnice prije nego što sljedeći tinejdžer upita algoritam za savjet koji ga može stajati života.