Tvrtka OpenAI najavila je paket novih sigurnosnih funkcija za ChatGPT nakon što su se pojavila izvješća o stvaranju parasocijalnih veza korisnika s AI-jem i tužba roditelja tinejdžera koji je prije samoubojstva tražio savjet o metodama okončanja života.
OpenAI će ubuduće automatski procjenjivati dob korisnika na temelju sadržaja razgovora te ih razdvajati u dvije skupine – mlađe od 18 i punoljetne. „Tinejdžeri odrastaju uz AI i na nama je da ChatGPT prilagodimo njihovim potrebama. Odgovor 15-godišnjaku mora izgledati drukčije nego odgovor odrasloj osobi”, navodi se u objavi tvrtke.
Ograničenja za korisnike od 13 do 17 godina: • onemogućena „flert” komunikacija s botom; • zabrana razgovora o samoubojstvu i samoozljeđivanju, čak i ako maloljetnik to izričito zatraži ili pokuša „hakirati” sustav; • mogućnost obavještavanja nadležnih službi u slučaju procjene neposredne opasnosti.
Ako algoritam ne može pouzdano procijeniti dob, sustav će „igrati na sigurno” i primijeniti maloljetnički režim. U nekim državama OpenAI će tražiti potvrdu identiteta. „Svjesni smo da je to kompromis za privatnost odraslih, ali smatramo ga opravdanim”, poručili su iz tvrtke.
Roditelji će do kraja rujna 2025. dobiti dodatne kontrole: • povezivanje vlastitog računa s računom djeteta starijeg od 13 godina; • upravljanje načinom na koji model odgovara tinejdžeru prema posebno definiranim pravilima; • isključivanje značajki poput memorije i povijesti razgovora; • obavijesti kada sustav detektira „akutnu uznemirenost” djeteta, uz mogućnost uključivanja policije ako roditelja nije moguće kontaktirati; • postavljanje „crnih sati” tijekom kojih maloljetnik ne može koristiti ChatGPT.
Promjene neće bitno utjecati na odrasle korisnike, no upućuju na zreliji pristup tvrtke koja, s oko 700 milijuna tjednih korisnika, i dalje drži vodeću poziciju na tržištu generativne umjetne inteligencije. Stručnjaci ocjenjuju da će konkurentske platforme, ali i korporacije koje ugrađuju AI modele u vlastite proizvode, morati slijediti slične standarde kako bi zaštitile maloljetnike i zadržale povjerenje korisnika.