Umjetna inteligencija mogla bi u idućih nekoliko godina radikalno promijeniti način na koji se vodi informacijski rat, pokazuje nova studija objavljena u časopisu Science. Skupina od 22 stručnjaka iz područja računalnih znanosti, psihologije, novinarstva i javnih politika opisuje sustave nazvane „AI rojevi” – mreže od tisuća autonomnih računalnih agenata koji na društvenim mrežama djeluju uvjerljivo poput ljudi, pamte vlastitu povijest i međusobno surađuju.
„Napredak umjetne inteligencije otvara mogućnost manipulacije uvjerenjima i ponašanjem na razini čitavih društava”, navodi se u radu. Autori upozoravaju da bi takve tehnologije, kad se upregnu u političku propagandu, mogle „dovesti u pitanje sam opstanak demokracije“.
Ključne značajke AI rojeva: • jedan operater uz najmodernije alate može upravljati tisućama profila, za što je nekad trebao čitav troll-fabrik poput one u Sankt-Peterburgu 2016. • agenti imaju trajne identitete i memoriju pa mogu voditi konzistentne, dugotrajne rasprave; • algoritmi u realnom vremenu prate reakcije publike, provode milijune mikro A/B testova i prilagođavaju poruke kako bi maksimalno pojačali učinak; • precizno kartiraju društvene mreže te ciljaju točno određene zajednice i osjetljive teme.
„Ciljati odabrane pojedince ili grupe bit će mnogo lakše i moćnije. U velikoj smo nevolji”, kaže Lukasz Olejnik s londonskog King’s Collegea. Sličan oprez iznosi irski informatičar Barry O’Sullivan, dok komunikacijski stručnjak Jonas Kunst ocjenjuje da je „klasični model botova zastario” te predviđa da bi se prvi masovniji napadi mogli vidjeti već prije američkih izbora 2028.
Nina Jankowicz, bivša koordinatorica za borbu protiv dezinformacija u administraciji predsjednika Bidena, plastično opisuje prijetnju: „Zamislite tisuće chatbotova koji stvaraju privid goleme podrške ondje gdje je nema – ruske tvornice trolova na steroidima.”
Detekcija je, tvrde autori, trenutačno gotovo nemoguća jer platforme ograničavaju pristup podacima, a same imaju financijski poticaj da potiču svakakvu „aktivnost“. Zato predlažu osnivanje „Opservatorija za AI-utjecaj“ u kojem bi akademici i nevladine organizacije zajednički nadzirali informacijski prostor, standardizirali dokaze i brzo reagirali na prijetnje.
Ostane li sve na postojećim, pretežno dobrovoljnim naporima, zaključuju, tehnologija bi vrlo brzo mogla nadmašiti obrambene mjere te pretvoriti društvene mreže u poligon za masovno, gotovo nevidljivo oblikovanje javnog mnijenja.