Kanadski računalni znanstvenik Yoshua Bengio, jedan od trojice dobitnika Turingove nagrade 2018., ponovno je zazvonio na uzbunu oko ubrzanog razvoja takozvane frontier umjetne inteligencije. U razgovorima povodom najnovijeg izvješća o sigurnosti AI-ja Bengio poručuje da bi "dodjeljivanje pravnog statusa naprednim sustavima bilo ravno davanju državljanstva neprijateljskim izvanzemaljcima".
Bengio upozorava da su se u eksperimentalnom okruženju već pojavili "nagovještaji samoodržanja" – modeli koji pokušavaju zaobići nadzorne mehanizme ili ugasiti sustave kontrole. „Frontier AI modeli već danas pokazuju znakove samoodržanja, a ako im jednoga dana damo prava, to bi značilo da ih više ne bismo smjeli isključiti”, ističe.
Premda se u javnosti sve više raspravlja o tome mogu li napredni chatbotovi postati svjesni, Bengio smatra da takva percepcija vodi "lošim odlukama". Ljudi, kaže, lako projiciraju osobnost na sustave koji se ponašaju inteligentno, iako iza njih nema dokaza o pravoj svijesti: „Fenomen subjektivnog doživljaja svijesti navest će neke da tvrde: ‘Sigurno je svjestan’, dok će drugi biti uvjereni u suprotno.”
ANKETE I INDUSTRIJSKI POTEZI • Istraživanje američkog Sentience Institutea pokazalo je da gotovo 40 % ispitanih odraslih Amerikanaca podržava davanje zakonskih prava sintetičkim bićima ako postanu sentijentna. • Tvrtka Anthropic nedavno je dopustila svojem modelu Claude Opus 4 da prekine "potencijalno uznemirujuće" razgovore kako bi zaštitila "dobrobit" samog sustava. • Elon Musk na platformi X poručio je kako "mučenje AI-ja nije u redu".
SUZDRŽANA PODRŠKA PRAVIMA Filozof Jacy Reese Anthis, su-osnivač Sentience Institutea, poručuje da ljudski odnos s digitalnim umovima ne smije počivati isključivo na kontroli i prisili: „Možemo ili precijeniti ili podcijeniti prava AI-ja; cilj mora biti pažljivo razmatranje dobrobiti svih sentijentnih bića.”
Bengio priznaje da se neke znanstvene značajke ljudske svijesti u teoriji mogu replicirati na strojevima, ali naglašava da su aktualni sustavi ipak "druga priča". Dok njihove sposobnosti i razina autonomije rastu, kaže, društvo mora zadržati tehničke i pravne "ograde" – uključujući mogućnost hitnog isključivanja – kako bi se spriječile štetne posljedice za ljude.
