Američki Centar za standarde i inovacije umjetne inteligencije, koji djeluje unutar Ministarstva trgovine, dobio je zeleno svjetlo za ekskluzivan uvid u neobjavljene verzije najnaprednijih AI sustava triju tehnoloških divova – Googlea, Microsofta i xAI-ja.
Dogovor, koji je potvrdio Nacionalni institut za standarde i tehnologiju (NIST), predstavlja dosad najsnažniji pokušaj javnog sektora da spriječi da umjetna inteligencija preraste u sigurnosni rizik prije nego što stigne na tržište.
• Što dogovor omogućuje?
– Centar će provoditi dubinske tehničke analize svakog modela, od potencijala za širenje dezinformacija do otpornosti na kibernetičke napade.
– Ispitivat će se i kako sustavi reagiraju u osjetljivim ili društveno važnim scenarijima te mogu li generirati štetne ili netočne sadržaje.
– Nakon komercijalnog lansiranja, testiranja se nastavljaju; Centar je već dovršio više od 40 takvih evaluacija.
• Zašto baš sada?
Procjena rizika postala je hitna tema nakon što je Anthropicov moćni model Mythos prošlog mjeseca izazvao zabrinutost oko kibernetičke sigurnosti, potaknuvši Bijelu kuću da razmotri formalni sustav državne revizije umjetne inteligencije.
• Što vlade žele saznati?
– Koliko su modeli nadzirljivi i mogu li se po potrebi ograničiti.
– Mogu li odluke koje AI donosi imati negativne društvene posljedice.
– Je li sustav sklon pristranosti ili stvaranju lažnih informacija.
Umjetna inteligencija već je prisutna u zdravstvu, obrazovanju, sigurnosti i javnoj upravi, zbog čega vlasti diljem svijeta nastoje izraditi jasne standarde prije nego što tehnologija potpuno uhvati korak ispred regulative. Najnoviji sporazum tehnoloških divova s američkom vladom pokazuje da se i privatni sektor priprema za stroži nadzor – prije no što potencijalni problemi postanu stvarnost.