Google je tiho uklonio nekoliko AI sažetaka koji su se prikazivali na vrhu rezultata pretraživanja nakon što je otkriveno da korisnicima daju netočne, potencijalno opasne zdravstvene preporuke.
AI Overviews, sustav koji uz pomoć generativne umjetne inteligencije nudi brze „instant-odgovore” na upite, pogrešno je prikazivao referentne vrijednosti za jetrene enzime. Stručnjaci su upozorili da bi takva informacija mogla navesti osobe sa stvarnim oštećenjem jetre da povjeruju kako su njihovi nalazi uredni.
• Upit „što je normalan raspon za jetrene krvne pretrage” davao je lažne vrijednosti koje nisu u skladu s medicinskim smjernicama. • Nakon ukazivanja na problem, Google je uklonio AI sažetke za taj i sličan pojam poput „normalan raspon za funkciju jetre”.
Vanessa Hebditch iz organizacije British Liver Trust pozdravila je potez: „Ovo je odlična vijest i drago nam je što su sporni Googleovi AI sažeci uklonjeni.”
Međutim, AI Overviews i dalje se pojavljuju kod drugih zdravstvenih upita, uključujući teme o raku i mentalnom zdravlju, gdje su također zabilježene netočnosti koje stručnjaci ocjenjuju kao „u potpunosti pogrešne” i „vrlo opasne”.
Google inače tvrdi da su njegovi AI sažeci „korisni i pouzdani”, no najnoviji slučaj pokazuje koliko brzo pogreške mogu dospjeti do velikog broja korisnika. Tvrtka nije objavila detaljan plan provjere točnosti prije javnog prikazivanja takvih odgovora.
Stručnjaci upozoravaju kako bi tehnološke kompanije trebale uvesti strože mehanizme provjere podataka, osobito kada se radi o osjetljivim informacijama iz područja zdravstva, kako bi se spriječile buduće dezinformacije koje potencijalno ugrožavaju ljudske živote.