Filozof Nick Bostrom ponovno je uzburkao raspravu o umjetnoj inteligenciji. U nedavno objavljenom radnom radu navodi da bi „mala vjerojatnost potpunog istrebljenja čovječanstva” mogla biti prihvatljiva cijena ako napredna AI ljudima donese ono što opisuje kao oslobađanje od njihove „univerzalne smrtne presude”.
Time se Bostrom bitno udaljava od vlastitih mračnih upozorenja iz prošlog desetljeća. U knjizi Superintelligence (2014.) postao je svojevrsni „kum AI-doomerizma” nakon što je opisao scenarij u kojem AI posvećena izradi spajalica istrijebi ljude jer im trošenje resursa stoji na putu proizvodnje.
U novijoj knjizi Deep Utopia naglasak prebacuje na „riješen svijet” koji bi, smatra, mogao nastati ako čovječanstvo uspješno ukroti vrhunsku tehnologiju. Posljednji rad tako zamišlja veliku „mirovinu čovječanstva” – epohu u kojoj bi se strojevi bavili većinom poslova, a ljudi živjeli bez egzistencijalnih prijetnji, pa čak i bez smrti.
Bostrom, koji vodi Oxfordski Institut za budućnost čovječanstva, priznaje da su ulozi golemi: napredna AI mogla bi značiti ili izumiranje ili civilizacijski procvat bez presedana. Ipak, tvrdi da je matematički proračun nada naspram rizika sklon prihvatiti, jer „potencijal vječnog života” nadmašuje „konačnost svake pojedine smrti”.
Skeptici mu zamjeraju kockanje s mogućim krajem svijeta, dok pobornici ističu da su upravo takva hrabra promišljanja nužna za oblikovanje etičkih okvira budućih tehnologija. Rasprava o omjeru koristi i pogibelji umjetne inteligencije tako ulazi u novu, još napetiju fazu – a Bostrom se iz proroka propasti prometnuo u zagovornika radikalne nade.