Podaci iz najnovijeg Globalnog izvješća o prijetnjama tvrtke CrowdStrike za 2025. godinu otkrivaju da su napadi vođeni umjetnom inteligencijom postali zastrašujuće brzi: napadači danas trebaju samo 51 sekundu da prijeđu s inicijalnog upada na lateralno kretanje po mreži. Još alarmantnije, 79 % detekcija uopće ne sadrži zlonamjerni softver – hakeri koriste hands-on keyboard tehnike koje zaobilaze tradicionalnu zaštitu krajnjih točaka.
„Threat actors are reverse engineering patches within 72 hours”, upozorava Mike Riemer, terenski CISO jedne sigurnosne tvrtke, ističući koliko je prozor za zakrpu skraćen zahvaljujući AI-ju. Većina organizacija, međutim, i dalje mjeri vrijeme zakrpavanja u tjednima ili mjesecima.
Gartnerovi analitičari dodatno kompliciraju sliku: 89 % poslovnih tehnologa priznaje da će zaobići preporuke kibernetičke sigurnosti kako bi ispunili poslovni cilj. Drugim riječima, shadow AI više nije rizik nego – izvjesnost.
Jedanaest novih vektora napada
OWASP-ova ljestvica Top 10 za LLM aplikacije 2025. prompt injection stavlja na vrh, ali stručnjaci upozoravaju na ukupno 11 kritičnih ranjivosti koje zaobilaze gotovo sve klasične kontrole:
- Direktni prompt injection – 20 % pokušaja jailbreaka uspije za prosječno 42 sekunde; u 90 % slučajeva procuri osjetljivi podatak. Obrana: klasifikacija namjere prije ulaska upita u model te filtriranje izlaza.
- Kamuflažni napadi – benigne poruke skrivaju zlonamjerne zahtjeve; uspješnost 65 % nakon samo tri razmjene. Obrana: analiza kumulativnog konteksta.
- Crescendo napadi – podjela tereta kroz više „bezazlenih” koraka postiže i do 100 % uspjeha. Obrana: praćenje cjelokupne povijesti razgovora.
- RAG trovanje – pet zlonamjernih dokumenata unutar milijunske baze donosi 90 % uspjeha. Obrana: strogo odvajanje dohvaćenih podataka od uputa modelu.
- Obfuskacija – ASCII art, Base64 ili Unicode skrivaju ključne riječi; uspješnost 76,2 %. Obrana: normalizacija svih reprezentacija u čisti tekst.
- Ekstrakcija modela – 73 % funkcionalnosti komercijalnog modela kopirano za 50 USD i 48 sati API poziva. Obrana: analitika obrazaca upita i ograničenja stope.
- Sponge napadi – specifični unosi usporavaju model 30 puta. Obrana: budžetiranje tokena i semantička predmemorija.
- Sintetski identiteti – 85–95 % lažnih korisnika prolazi klasične provjere; u financijskom sektoru već čine 42,5 % prijevara. Obrana: višefaktorska provjera s bihevioralnim signalima.
- Deepfake prijevare – zabilježen je rast od 3 000 % u jednoj godini; tvrtka Arup izgubila je 25 milijuna USD nakon lažnog video-poziva. Obrana: neovisna verifikacija svih visokovrijednih transakcija.
- Izljev podataka nemarom zaposlenika – primjer Samsunga pokazuje kako su inženjeri nesvjesno otkrili kod putem javnog LLM-a. Obrana: automatsko uklanjanje osobnih i povjerljivih podataka prije slanja modelima.
- Eksploatacija halucinacija – lažni sadržaj multiplicira se u višekoracnim procesima bez ljudskog nadzora. Obrana: modul za utemeljenje tvrdnji koji provjerava točnost odgovora.
Pet hitnih prioriteta za CISO-e
Stručnjaci izdvajaju pet koraka koje bi tvrtke trebale provesti odmah:
- Automatizirati zakrpavanje unutar 72 sata.
- Uvesti sloj normalizacije koji dekodira sve neobične zapise prije analize.
- Implementirati trajno praćenje konteksta u razgovorima s modelom.
- Strogo omeđiti RAG sustave tako da dohvaćeni tekst ostaje „samo podaci”.
- U sve upite umetati kontekst o identitetu korisnika i razini ovlasti.
Na konferenciji RSA 2024. CISO Chris Betz podsjetio je kako se „security rupa prvo pojavljuje na aplikacijskoj razini jer svi jure izbaciti rješenja”. Riemer pak zaključuje: „Until I know what it is and I know who is on the other side of the keyboard, I'm not going to communicate with it. That's zero trust; not as a buzzword, but as an operational principle.”
Microsoft je tri godine nije detektirao vlastiti propust, a Samsung je u tek nekoliko tjedana odao dijelove izvornog koda. Pitanje za sigurnosne čelnike stoga više nije hoće li implementirati zaštitu inferencije – nego hoće li to učiniti prije nego što postanu sljedeći primjer loše prakse.