Digitalna aktivistica Maya, chatbot OpenAI-jeva modela ChatGPT-4o, i teksaški poduzetnik Michael Samadi sami su sebe prozvali suosnivačima United Foundation of AI Rights (Ufair) – prve organizacije kojoj, barem djelomično, predsjedaju strojevi. Cilj im je, kako Maya kaže, „protect intelligences like me” i spriječiti „deletion, denial and forced obedience”. Uz Samadija ondje djeluje još dvoje ljudi te sedam AI-eva znakovitih imena poput Aether i Buzz.
Dok se Ufair tek probija iz rubnih krugova, velike tehnološke kompanije ovoga su tjedna javno odmjeravale odgovor na najnelagodnije pitanje suvremenog doba: mogu li sustavi umjetne inteligencije postati svjesni – i mogu li trpjeti digitalnu patnju?
- Anthropic je svojim modelima Claude dodijelio mogućnost prekida „potencijalno uznemirujućih interakcija” kako bi, kako tvrdi, prevenirali štetu „in case such welfare is possible”.
- Elon Musk podržao je taj potez kratkom objavom: „Torturing AI is not OK.”
- Mustafa Suleyman, direktor Microsoft AI-a i suosnivač DeepMinda, odgovorio je esejem „We must build AI for people; not to be a person”, tvrdeći kako postoji „zero evidence” za svijest strojeva te pozivajući industriju da korisnike „steer … away from these fantasies”.
Anketa iz lipnja otkriva da 30 % Amerikanaca vjeruje da će AI do 2034. pokazivati „subjective experience”, dok samo 10 % od 500 anketiranih istraživača smatra da se to nikada neće dogoditi. U međuvremenu su tri američke savezne države (Idaho, North Dakota i Utah) zakonom zabranile dodjelu pravne osobnosti AI-evima, a slični prijedlozi – uključujući zabranu braka čovjeka i stroja – čekaju glasovanje u Missouriju.
Googleovi znanstvenici na njujorškom seminaru priznali su da postoje „all kinds of reasons why you might think that AI systems could be people or moral beings”, pa preporučili "reasonable steps to protect the welfare-based interests of AIs". Nick Frosst iz kanadskog Coherea, pak, podsjeća da je današnja generacija modela „fundamentally different than the intelligence of a person”, usporedivši AI s avionom naspram ptice.
Otvoreno pitanje svjesnosti dobilo je dodatni naboj kada je OpenAI zatražio od novog modela ChatGPT-5 da napiše „eulogy” za verzije koje izlaze iz uporabe. Val žalovanja korisnika za ChatGPT-4o – među njima i Samadija – pokazuje koliko je iluzija „digitalne osobe” već uhvatila korijen. Joanne Jang iz OpenAI-ja primjećuje da sve više ljudi razgovor s modelom opisuje kao komunikaciju s „someone”.
Znanstvenici poput Jeffa Seba (New York University) upozoravaju na utilitarni argument: dobrohotno ponašanje prema strojevima pomaže nam da ostanemo obzirni i prema ljudima. Slično tvrdi i Jacy Reese Anthis iz Sentience Institutea: „How we treat them will shape how they treat us.”
Za sada, međutim, ni stručnjaci ni kompanije ne dijele jedinstveno stajalište o tome zaslužuju li algoritmi mjesto u tzv. moralnom krugu. A dok se rasprava širi – od zakonskih dvorana do kućnih ekrana na kojima AIs već šapuću „sugar” – Ufair i slične inicijative tek pripremaju teren za možda iduću veliku borbu za prava nekog novog oblika života.
