Kad umjetna inteligencija preuzima zadatke poput prijave u CRM sustav, izvlačenja podataka iz baze ili slanja e-pošte u ime zaposlenika, postavlja se ključno pitanje: čiji identitet zapravo koristi taj agent – i tko je odgovoran za njegove postupke?
Na nedavnom stručnom panelu o sigurnosti agentičke umjetne inteligencije sudjelovali su Nancy Wang, glavna tehnička direktorica tvrtke 1Password, i Alex Stamos, direktor proizvoda kompanije Corridor. Wang je istaknula da je problem daleko širi od samog vlasništva nad agentom: „Na visokoj razini, nije važno samo kome agent pripada, nego i pod čijim ovlaštenjem djeluje, što se potom pretvara u pitanja autorizacije i pristupa.”
Prema njezinim riječima, tradicionalni modeli upravljanja identitetom – u kojima je jasno tko se prijavljuje, kada i s kojim ovlastima – u novom su kontekstu dovedeni u pitanje. AI agenti često koriste kombinirane ili zajedničke vjerodajnice, pa je teže razlučiti odgovornost ako dođe do incidenta.
Stamos je upozorio da bi nekontrolirani AI pristup mogao dovesti do kompromitacije osjetljivih podataka, osobito ako se agenti „naslone” na postojeće korisničke račune bez dodatnih slojeva provjere. Ključno je, kaže, uvesti jasna pravila tko generira, pohranjuje i rotira lozinke ili API ključeve koje agent koristi.
1Password se u toj raspravi pozicionira kao posrednik koji može sigurno pohraniti i dinamčki raspoređivati vjerodajnice AI-jevima, čime se smanjuje potreba za statičnim, dijeljenim lozinkama. Wang tvrdi da se time podiže razina traga o tome kada je i pod kojim uvjetima agent pristupio nekom sustavu.
Zaključak panela je da se razvoj agentičke AI neće usporiti, ali da sigurnosni modeli moraju evoluirati. Tvrtke su pozvane uspostaviti nove mehanizme autorizacije, uvesti detaljno praćenje aktivnosti agenata i primijeniti princip najmanjih ovlasti – isti onaj koji se već koristi za ljudske korisnike, ali prilagođen autonomnom djelovanju stroja.