BRUXELLES – Ured Europske unije za umjetnu inteligenciju (AI Office) upozoren je da nije spreman odgovoriti na sigurnosne rizike koje donosi najnoviji hakerski model američke tvrtke Anthropic. Model Mythos, koji navodno nadmašuje ljudske stručnjake u pronalaženju i iskorištavanju softverskih ranjivosti, dijeli se samo s četrdesetak odabranih tvrtki i organizacija – među njima zasad nije Europska komisija.
Koalicija od osam organizacija za sigurnost AI-ja poručila je Komisiji da je potreban „an appropriately resourced regulator” kako bi se spriječila moguća kibernetička kriza. U pismu zahtijevaju hitno kadrovsko i financijsko jačanje Ureda, posebice njegova sigurnosnog odjela.
Samo 36 stručnjaka za sigurnost
AI Office osnovan je prije nepune dvije godine i ukupno zapošljava oko 140 ljudi, od čega sigurnosni odjel broji tek 36 zaposlenika. Usporedbe radi, koalicija traži da se taj broj poveća na 160 do 2030. godine, odnosno da se izjednači s ekipama koje u Uniji nadziru digitalne platforme.
„Europe can do the same, and Mythos makes this all the more urgent”, izjavio je Jimmy Farrell iz think-tanka Pour Demain, jedne od potpisnica pisma, podsjećajući da je Britanski AI Security Institute dobio pristup Mythosu i izradio tehničku analizu već unutar tjedan dana od njegova predstavljanja.
Britanska prednost
U Ujedinjenom Kraljevstvu pitanje umjetne inteligencije izravno je povezano s vrhom vlasti – premijer Keir Starmer ima vlastitog AI savjetnika, Jade Leung, a AI Security Institute ne provodi represivne mjere, što, prema ocjenama stručnjaka, olakšava suradnju s industrijom.
Stanislav Fort iz europske sigurnosne tvrtke Aisle ustvrdio je da britanski institut „push at the very frontier of what's possible in the scientific field”, dok takvu sposobnost, kaže, EU trenutno nema. Talijanski eurozastupnik Brando Benifei poručio je da Komisija mora osigurati „više ljudi, dublju tehničku stručnost i pravi proračun” kako bi se držala korak s razvojem graničnih AI sustava.
Hijerarhijski ‘previše udaljeni’
Dodatni je problem unutarnje pozicioniranje Ureda u strukturi Komisije: službenici se moraju probijati kroz više slojeva uprave prije nego što dođu do političkih donositelja odluka. Izvor blizak sigurnosnom odjelu ocjenjuje da je tim „excellent people”, ali „too detached from where the power lies”.
Komisija trenutačno pregovara o prijedlogu kojim bi se Ured ojačao s još 38 djelatnika, dok se kratkoročno planira zaposliti njih šest do kraja lipnja, „velika većina” u odjele za sigurnost, regulaciju i usklađenost.
Regulator koji i kažnjava
Za razliku od britanskog instituta, AI Office ima ovlasti izricati novčane kazne u skladu s novim Zakonom o umjetnoj inteligenciji, i to do 35 milijuna eura. Stručnjaci upozoravaju da upravo ta represivna komponenta može obeshrabriti tvrtke da dijele najosjetljivije modele poput Mythosa.
Dok Mythos ostaje pod ključem, a broj naprednih sustava ubrzano raste, pitanje je hoće li Bruxelles uspjeti privući vrhunske stručnjake i osigurati dovoljno sredstava kako bi ambiciozni europski nadzor nad umjetnom inteligencijom postao stvarnost.
