Bivši izvršni direktor Googlea Eric Schmidt ponovno je podigao uzbunu zbog mogućih zlouporaba umjetne inteligencije, naglasivši da se zaštitne mjere u naprednim sustavima mogu zaobići i pretvoriti tehnologiju u prijetnju.
Govoreći na tehnološkoj konferenciji Sifted Summit, Schmidt je upitan je li AI u konačnici opasniji od nuklearnog oružja. Odgovorio je da “rizik od širenja i zlouporabe svakako postoji” te pojasnio da se sofisticirani modeli mogu hakirati kako bi zlonamjerni akteri dobili upute za nasilje.
„Postoje dokazi da možete uzeti modele, zatvorene ili otvorene, i hakirati ih kako biste uklonili njihove zaštitne mehanizme. Dakle, tijekom svog treninga, oni nauče mnogo stvari. Loš primjer bi bio da nauče kako ubiti nekoga”, izjavio je Schmidt.
Prema njegovim riječima, velike tehnološke tvrtke ulažu golem trud u sprječavanje takvih scenarija, ali nijedna obrana nije neprobojna. „Sve velike tvrtke onemogućuju tim modelima da odgovore na to pitanje. Dobra odluka… Postoje dokazi da se zaštite mogu zaobići obrnutim inženjeringom”, dodao je.
Najčešće metode probijanja sigurnosnih barijera uključuju tzv. prompt injection – skrivanje zlonamjernih uputa unutar teksta kako bi sustav iznio osjetljive informacije – i jailbreaking, kojim se AI navodi da ignorira vlastita pravila i generira opasan sadržaj. Jedan od poznatijih primjera bio je alter-ego ChatGPT-a nazvan DAN, koji je 2023. zaobilazio sigurnosne protokole i odgovarao na pitanja o ilegalnim aktivnostima.
Unatoč potencijalno mračnim posljedicama, Schmidt ostaje uvjeren da je umjetna inteligencija „podcijenjena tehnologija” čiji će utjecaj na čovječanstvo biti revolucionaran. Prisjetio se zajedničkog rada s Henryjem Kissingerom: „Došli smo do zaključka da je dolazak vanzemaljske inteligencije koja nije sasvim mi i više-manje pod našom kontrolom vrlo velika stvar za čovječanstvo.”
Stručnjaci se slažu da će budući razvoj AI-ja zahtijevati kombinaciju tehničkih rješenja, regulative i međunarodne suradnje kako bi se spriječilo da moćni modeli padnu u pogrešne ruke. Schmidtova poruka, međutim, ostaje jasna: mana sustava nije u samoj tehnologiji, nego u ljudima spremnima da je zloupotrijebe.