U nedavnom razgovoru Itamar Golan, suosnivač i direktor Prompt Securityja, otvoreno je govorio o rastućem sigurnosnom riziku koji donosi generativna umjetna inteligencija (GenAI) – osobito brzi porast tzv. „sjenovitih” AI aplikacija koje zaposlenici koriste bez znanja i kontrole svojih IT odjela.
Podaci iz 2025. pokazuju da prosječni trošak proboja povezanog sa shadow AI-jem iznosi 4,63 milijuna američkih dolara, što je 16 % više od prosjeka za kibernetičke incidente. Još alarmantnije, 97 % pogođenih organizacija nije imalo ni osnovne kontrole pristupa AI alatima.
„Vidimo 50 novih AI aplikacija dnevno i već smo katalogizirali više od 12 000. Oko 40 % njih po zadanim postavkama uči na svim podacima koje im pošaljete, što znači da vaš intelektualni kapital lako postaje dio njihovih modela”, upozorava Golan.
Dodatna istraživanja otkrivaju da je 73,8 % poslovnih računa na ChatGPT-u neregistrirano u službenom sustavu, a korporativna upotreba AI-ja porasla je 61 puta u samo dvije godine. Ako se trenutna stopa širenja od pet posto mjesečno održi, broj nenadziranih AI aplikacija mogao bi se udvostručiti do sredine 2026.
Golanova opsesija sigurnošću GenAI-ja seže u laboratorijske dane kada je istraživao transformer arhitekture – daleko prije nego što su postale temelj današnjih velikih jezičnih modela. Radeći s GPT-2 i GPT-3, shvatio je da LLM-ovi otvaraju posve novu napadnu površinu. Taj ga je uvid potaknuo da u kolovozu 2023. pokrene Prompt Security.
Tvrtka je u manje od dvije godine prikupila 23 milijuna dolara investicija, narasla na 50 zaposlenika i u kolovozu 2025. završila akviziciju vrijednu oko 250 milijuna dolara od strane kibernetičkog diva SentinelOne.
Golan tvrdi da se borba s GenAI prijetnjama više ne može svesti na „spajanje” pojedinačnih funkcija: „Poduzeća traže jedinstvenu platformu koja pokriva sve – od otkrivanja aplikacija do stroge kontrole nad podacima koje AI smije vidjeti.”
Iako se broj prijetnji povećava iz dana u dan, njegov optimizam ne jenjava. Vjeruje da će kombinacija preciznog otkrivanja, granularnih politika i edukacije korisnika omogućiti korporacijama da zadrže prednosti GenAI-ja, a pritom izbjegnu najskuplje zamke. No dok se takvi sustavi ne usidre duboko u poslovne procese, upozorenje ostaje jasno: svaka nenadzirana AI aplikacija potencijalno je otvorena vrata prema intelektualnom vlasništvu tvrtke.