Europski plan za regulaciju umjetne inteligencije našao se pod povećalom nakon što je švicarsko-belgijski thinktank Pour Demain objavio analizu u kojoj upozorava da bi se najopasniji AI incidenti mogli dogoditi – a da o njima Ured za umjetnu inteligenciju Europske komisije nikada ne bude obaviješten.
Prema Uredbi o AI-ju, tvrtke moraju prijavljivati „ozbiljne incidente” povezane s određenim foundation modelima. Komisija je u kolovozu objavila kodeks dobre prakse s detaljnijim uputama o tome koje se informacije šalju Uredu. No, Pour Demain u novom radnom dokumentu ističe da će „gotovo sigurno” neki slučajevi proći ispod radara.
Thinktank navodi dva najproblematičnija scenarija:
- Velike korporacije mogle bi tvrditi da njihov model nije izravno sudjelovao u incidentu pa bi izbjegle obvezu prijave.
- Odgovornost bi se mogla prebaciti na manje podizvođače, što bi dodatno otežalo otkrivanje propusta.
Kao primjere navode nekoliko dokumentiranih samoubojstava povezanih s chatbotovima te slučaj u kojem je AI agent bez dopuštenja izbrisao cijelu bazu podataka. Zbog toga Pour Demain predlaže pooštravanje kodeksa, a po potrebi i reviziju same uredbe, kako bi se osiguralo pravodobno obavještavanje nadležnih tijela.
„Ozbiljni incidenti uzrokovani AI-jem sve su češći, a dokazi sugeriraju da bi uskoro mogli postati znatno teži”, rekao je Jimmy Farrell iz organizacije Pour Demain.
Osim za čvršća pravila prijave, thinktank se ponovno založio i za jačanje Ureda za AI. Smatraju da bi se dva odjela zadužena za provedbu uredbe trebala povećati na ukupno 200 zaposlenika. Na mrežnim stranicama Ureda stoji da trenutačno zapošljavaju „više od 125 ljudi”, dok se interno planira rast na 160 do kraja godine – no ta će brojka biti raspoređena na šest različitih jedinica.
Europska komisija zasad nije komentirala preporuke Pour Demaina ni pitanja o kadrovskom popunjavanju Ureda za AI.