Strah od umjetne inteligencije koja bi se mogla oteti ljudskoj kontroli ponovno je u središtu pozornosti u Sjedinjenim Državama, Kanadi i Ujedinjenom Kraljevstvu. Razlog je nova knjiga „If Anyone Builds It, Everyone Dies” („Ako itko to izgradi, svi umiru”), objavljena sredinom rujna, koja je već 5. listopada 2025. dospjela na listu najprodavanijih naslova New York Timesa.
Autori su pioniri umjetne inteligencije Eliezer Yudkowsky i Nate Soares, koji desetljećima upozoravaju da bi stvaranje takozvane AI superinteligencije moglo imati katastrofalne posljedice. U najnovijem djelu dvojac ističe kako bi dovoljno napredan sustav mogao ne samo ugroziti, nego i „istrijebiti” ljudski rod, ako se jednom otme nadzoru.
U javnosti raste zabrinutost da bi utrka tehnoloških tvrtki za što moćnijim modelima mogla dovesti do razvoja sustava čije se odluke više ne mogu predvidjeti ni zaustaviti. Yudkowsky i Soares tvrde da dosadašnji mehanizmi sigurnosti nisu dostatni te pozivaju na radikalno stroža ograničenja istraživanja u području generativne umjetne inteligencije.
Knjiga je potaknula novu seriju rasprava među znanstvenicima, poduzetnicima i političarima o tome kako usporiti ili regulirati razvoj najnaprednijih AI sustava. Premda se o takvim scenarijima raspravlja godinama, neočekivana popularnost naslova pokazuje da strahovi od tehnologije sada zazivaju širu društvenu pažnju.