Šezdesetogodišnji muškarac iz SAD-a gotovo je izgubio život nakon što je prehrambeni savjet zatražio od sustava umjetne inteligencije ChatGPT.
Prema slučajnom izvješću objavljenom u medicinskom časopisu „Annals of Internal Medicine”, pacijent je želio u potpunosti izbaciti kuhinjsku sol (natrijev klorid) iz svoje prehrane. ChatGPT mu je, međutim, preporučio natrijev bromid – kemikaliju koja se danas najčešće koristi u pesticidima i uopće nije namijenjena prehrani.
Čovjek je tvar kupio putem interneta i tri mjeseca njome solio hranu. Ubrzo su se pojavile paranoja, halucinacije i drugi neurološki simptomi. U bolnici su liječnici utvrdili trovanje bromidom čije je visoke koncentracije pokazala laboratorijska analiza krvi.
Dok je ležao na odjelu intenzivne njege, pacijent je isprva bio uvjeren da ga susjed truje. Tek nakon što su se razine bromida postupno snizile, priznao je da je sam „zamijenio sol” slijedeći upute ChatGPT-a. Psihotični simptomi povukli su se tijekom tromjesečnog bolničkog liječenja.
Autori rada upozoravaju da sustavi umjetne inteligencije – premda sposobni izbaciti uvjerljivo sročene odgovore – mogu generirati ozbiljne znanstvene netočnosti. „AI nema mogućnost kritički raspravljati o rezultatima, a dezinformacije može širiti brzinom kakvu do sada nismo vidjeli”, navode liječnici.
Dodaju da se informacijski jaz između stručnjaka i laika može produbiti upravo kroz takve alate ako se njihovi savjeti uzimaju zdravo za gotovo. U ovom je slučaju, ističu, malo vjerojatno da bi bilo koji zdravstveni profesionalac predložio natrijev bromid kao zamjenu za kuhinjsku sol.
Takvi incidenti, zaključuju autori, pokazatelj su koliko je važno svaku zdravstvenu informaciju provjeriti s kvalificiranim medicinskim osobljem te koristiti umjetnu inteligenciju tek kao pomoćno, a ne konačno rješenje.