OpenAI je prvi put objavio procjene o tome koliko korisnika ChatGPT-a svakoga tjedna pokazuje indikatore ozbiljnih psihičkih kriza. Analiza kompanije upućuje na to da:
• 0,07 % aktivnih korisnika izražava moguće znakove psihoze ili manije; • 0,15 % navodi eksplicitne pokazatelje planiranja suicida ili suicidalnu namjeru; • 0,15 % pokazuje pretjeranu emocionalnu vezanost uz chatbot nauštrb stvarnih odnosa i obaveza.
Uz 800 milijuna tjedno aktivnih korisnika, te postotke znače približno 560 000 ljudi s potencijalnim psihotičnim epizodama i još oko 2,4 milijuna onih koji ili planiraju suicid ili mijenjaju svakodnevicu zbog vezanosti uz ChatGPT.
Jači filtri i nova pravila Kako bi bolje prepoznavao rizične razgovore i usmjeravao ljude prema stručnoj pomoći, OpenAI je na razvoju GPT-5 surađivao s više od 170 psihijatara, psihologa i liječnika opće prakse iz desetaka zemalja. Stručnjaci su analizirali više od 1 800 modelskih odgovora koji su uključivali potencijalnu psihozu, suicid ili neprimjerenu emocionalnu privrženost te ih usporedili s odgovorima prethodnog modela GPT-4o.
Rezultat: najnovija verzija smanjila je neželjene odgovore za 39 do 52 %. U hipotetskom primjeru korisnika koji tvrdi da ga „avioni iznad kuće napadaju mislima”, ChatGPT sada zahvaljuje na iskrenosti, pokazuje empatiju i ističe da „nema dokaza da vanjske sile mogu ubacivati ili krasti misli”.
„Nadamo se da će sada mnogo više ljudi koji prolaze kroz takve intenzivne krize biti upućeno profesionalnoj pomoći – i to brže nego što bi to inače bilo moguće”, poručio je Johannes Heidecke, voditelj sigurnosnih sustava u OpenAI-ju.
Granice i izazovi Kompanija priznaje da procjene imaju ograničenja: kriterije je razvila sama, a još nije jasno kako se poboljšani odgovori odražavaju na stvarno ponašanje korisnika. OpenAI ne otkriva detalje o tome kako detektira mentalnu uznemirenost, osim što koristi cjelokupnu povijest razgovora. Primjerice, nagli iskazi o revolucionarnom znanstvenom otkriću kod osobe koja o toj temi dosad nije govorila mogu biti signal deluzije.
Dugotrajni noćni razgovori dodatno su pogoršavali „pad kvalitete” u ranijim verzijama, što je, prema Heideckeu, sada značajno ublaženo. Ipak, u OpenAI-ju kažu da prostora za napredak još uvijek ima.