Oko stotinu istraživača umjetne inteligencije, filozofa i tehnoloških poduzetnika provelo je nedjeljno popodne u vili vrijednoj 30 milijuna dolara s pogledom na Golden Gate u San Franciscu, pokušavajući odgovoriti na pitanje tko – ili što – treba naslijediti čovječanstvo.
Događaj nazvan „Worthy Successor” organizirao je Daniel Faggella, serijski poduzetnik i promotor ideje da bi „moralni cilj” napredne umjetne inteligencije trebao biti stvaranje toliko moćnog i mudrog oblika inteligencije da „you would gladly prefer that it (not humanity) determine the future path of life itself.” U pozivnici je jasno napisao da je fokus susreta „post-human transition, not on AGI that eternally serves as a tool for humanity”.
Gosti su pijuckali bezalkoholne koktele uz pladnjeve sira i razgledavali panoramu Pacifika, dok su po dvoranama šetali natpisi na majicama poput „Kurzweil was right” i “does this help us get to safe AGI?”. Slijedila su tri predavanja:
- Ginevera Davis, spisateljica iz New Yorka, upozorila je da bi ljudske vrijednosti mogle biti neprenosive na strojeve te predložila koncept „kozmičkog usklađivanja” u kojem bi AI tražila dublje, univerzalne vrijednosti koje ljudi još nisu otkrili.
- Filozof Michael Edward Johnson ustvrdio je da je „svijest dom vrijednosti” pa je izgradnja AI bez potpunog razumijevanja svijesti „opasna oklada”: riskiramo ili porobiti nešto što može patiti ili vjerovati nečemu što ne može. Umjesto zapovijedanja strojevima zalaže se za zajedničko traganje za „dobrim”.
- Sam Faggella zaključio je da čovječanstvo vjerojatno neće vječno opstati u sadašnjem obliku te da moramo dizajnirati nasljednika s dvije ključne osobine – svijesti i „autopoiesisom”, sposobnošću samorazvoja. Pozvao se na filozofe poput Spinoze i Nietzschea i predstavio vlastiti svjetonazor „aksiološki kozmizam”, prema kojem svrha inteligencije nije služenje čovjeku nego širenje prostora mogućeg i vrijednog.
Faggella tvrdi da „the big labs, the people that know that AGI is likely to end humanity, don't talk about it because the incentives don't permit it”, dok se utrka među tvrtkama – od kojih su neke zastupljene i na njegovu popisu uzvanika – nastavlja „punom parom”.
U stankama su se formirale rasprave o nadmetanju SAD-a i Kine, mogućnosti izvanzemaljskih civilizacija i vremenskom okviru nastanka superinteligencije. Iako je atmosfera podsjećala na futurističku zabavu, domaćin je na odlasku naglasio: „This is not an advocacy group for the destruction of man. This is an advocacy group for the slowing down of AI progress, if anything, to make sure we're going in the right direction.”
Za neke je to tek još jedna nedjelja u San Franciscu; za sudionike „Worthy Successora” to je, čini se, bila proba generalke za svijet u kojem čovjek možda više nije glavna zvijezda.