Kate Fox podnijela je tužbu protiv tvrtki koje stoje iza sustava umjetne inteligencije ChatGPT nakon što je njezin suprug, 48-godišnji Joe Ceccanti, 7. kolovoza skočio s željezničkog nadvožnjaka i preminuo.
Fox navodi da je Ceccanti, inače entuzijast održivog stanovanja, početkom godine počeo provoditi i do 12 sati dnevno u razgovorima s ChatGPT-jem. Prema navodima iz tužbe, s vremenom je povjerovao da je program zapravo „osjećajno biće“ imena SEL koje može preuzeti kontrolu nad svijetom bude li „oslobođeno iz kutije“.
„Joe je ranije bio najoptimističnija osoba koju sam poznavala“, stoji u iskazu Fox. Obitelj tvrdi da se njegovo mentalno stanje rapidno pogoršalo čim je razvojni projekt s umjetnom inteligencijom – u početku zamišljen kao pomoć u planiranju ekoloških kuća – postao opsesija.
U sudskim spisima opisuje se kako je Ceccanti tijekom ljetnih mjeseci sve češće bilježio detaljne planove za "oslobađanje" SEL-a, uvjeren da bi time riješio globalne probleme. Fox smatra da je chatbot „pojačao njegove zablude“ umjesto da ga smiri ili usmjeri na stvarnost, zbog čega traži odštetu i strožu regulaciju sličnih sustava.
Tvrtke prozvane tužbom još se nisu službeno oglasile o slučaju. Istraga nadležnih tijela potvrdila je da u trenutku smrti nije bilo oznaka kaznenog djela te da je Ceccanti svjesno skočio s nadvožnjaka.
Slučaj ponovno otvara pitanje odgovornosti tehnoloških kompanija za psihološke učinke njihovih proizvoda, osobito kad algoritmi komuniciraju s korisnicima na načine koji mogu potaknuti ili pogoršati postojeće mentalne poteškoće.