Databricks Ventures i američki startup Noma Security kreću u zajednički obračun s najkritičnijom točkom svakog sustava umjetne inteligencije – fazom inferencije, gdje modeli u stvarnom vremenu reagiraju na podatke korisnika i zato su najizloženiji napadima poput prompt-injekcija, curenja podataka i tzv. jailbreakova.
Pokretačka snaga partnerstva je novo financijsko ubrizgavanje od 32 milijuna dolara u sklopu Serie A runde koju predvode Balistic Ventures i Glilot Capital, uz snažnu potporu Databricks Venturesa.
„The number one reason enterprises hesitate to deploy AI at scale fully is security”, poručio je izvršni direktor Nome Niv Braun. Dodao je da se s Databricksom u radne tokove korisnika ugrađuju „real-time threat analytics, advanced inference-layer protections, and proactive AI red teaming”, što tvrtkama omogućuje da brže i s većim povjerenjem uvedu AI rješenja.
Potpredsjednik Databricks Venturesa Andrew Ferguson potvrđuje da su korisnici glasno tražili upravo takvu zaštitu: „Our customers clearly indicated that securing AI inference in real-time is crucial, and Noma uniquely delivers that capability.”
Zašto je fokus na inferenciji? Gartner procjenjuje da će do 2026. više od 80 % neovlaštenih AI incidenata potjecati iz interne zlouporabe, a ne vanjskih napada, što dodatno povećava pritisak na CISO-e da uvedu obranu u stvarnom vremenu.
Ključ Nome je proaktivni „red teaming”. Timovi prije puštanja modela u produkciju simuliraju sofisticirane napade, otkrivaju slabosti i istodobno nadograđuju detektore koji će na istoj infrastrukturi kasnije štititi sustav u radu. Braun objašnjava da svaki detektor kombinira više sigurnosnih slojeva, uključujući napredne NLP modele, kako bi se pokrila svaka „inference” interakcija.
Te se kontrole automatski mapiraju na priznata sigurnosna okvira poput OWASP-a i MITRE ATLAS-a te zadovoljavaju zahtjeve propisa kao što su EU AI Act i ISO 42001. Time se, ističe Braun, transparentnost i usklađenost „ugrađuju izravno u operativne tokove, a ne tek križaju na popisu zadataka”.
Databricksov Lakehouse pristup – koji spaja skalabilnost podatkovnih jezera s upravljivošću tradicionalnih skladišta podataka – čini podlogu cijelog rješenja. Centraliziranim upravljanjem podacima i modelima Lakehouse smanjuje regulatorni i sigurnosni rizik upravo tamo gdje nastaju najveće prijetnje: u fazi inferencije.
Ferguson sažima logiku saveza: „Enterprise AI requires comprehensive security at every stage, especially at runtime. Our partnership with Noma integrates proactive threat analytics directly into AI operations, giving enterprises the security coverage they need to scale their AI deployments confidently.”
U trenutku dok poduzeća ubrzano šire AI use-caseove, Databricks i Noma poručuju da je kombinacija stalnog nadzora, red team testiranja i usklađenog upravljanja podacima presudan korak kako bi umjetna inteligencija iz laboratorija napokon sigurno prešla u svakodnevni rad.