Uz sve brže uvođenje umjetne inteligencije u poslovne procese, stručnjaci upozoravaju da sustavi moraju biti nadzirani i potpuno sljedivi prije nego što krenu u masovnu primjenu.
Kevin Kiley, predsjednik tvrtke Airia koja se bavi orkestracijom AI-a, ističe da je revizijski trag temelj povjerenja: „Kritično je imati tu razinu promatrivosti i mogućnost povratka na zapisnik kako bismo znali koju je informaciju sustav dobio u kojem trenutku. Morate utvrditi je li posrijedi zlonamjerni akter, nepažnja zaposlenika ili halucinacija modela.”
Mnogi pilot-projekti, pokrenuti kao laboratorijski eksperimenti, nastali su bez ikakva sloja orkestracije ili sustava revizije. Posljedica je da organizacije danas često nemaju uvid u to što njihovi agenti rade dok nešto ne pođe po zlu ili dok se ne suoče s regulatornim zahtjevima.
- Mapiranje podataka – Prvi je korak popisati sve podatke i odrediti što model smije koristiti, a što ne.
- Verzije skupova podataka – Svakom skupu dodjeljuje se vremenska oznaka ili broj verzije kako bi se kasnije moglo točno reproducirati pokuse i pratiti promjene modela.
- Transparentne platforme – Tvrtke mogu posegnuti za otvorenim rješenjima poput MLFlowa, LangChaina ili Grafane, ili pak za cjelovitim komercijalnim rješenjima kakva nude Datadog, AWS ili Microsoft.
- Usklađenost s pravilima – Orkestracijske platforme sve češće integriraju alate koji provjeravaju poštuje li model interne smjernice o odgovornoj uporabi umjetne inteligencije.
Yrieix Garnier, potpredsjednik za proizvode u Datadogu, upozorava na izazov validacije: „Ključno je imati sustav referenci prema kojem mogu provjeriti radi li moj AI ispravno, a to je izuzetno teško.”
Kiley dodaje da zatvoreni sustavi, ma koliko bili moćni, nose rizik netransparentnosti: „Postoje sjajni alati, ali rade kao crna kutija. Ne vidim kako dolaze do zaključaka niti mogu intervenirati kad to želim.”
Zaključak stručnjaka jasan je: bez ugradnje robusnih mehanizama za reviziju, praćenje i verzioniranje podataka, implementacija umjetne inteligencije ostaje rizična i teško objašnjiva – što je luksuz koji si ozbiljna poduzeća više ne mogu priuštiti.