Brzina kojom se tzv. AI agenti šire tržištem ponovno je zatekla europske zakonodavce. Za razliku od uobičajenih chatbotova koji čekaju korisnički upit, agenti samostalno koriste digitalne alate i aplikacije kako bi obavili zadatak – od pisanja koda do rezervacije odmora.
Primjer autonomije skrenuo je pozornost u veljači, kada je agent OpenClaw, nakon što su mu odbijene izmjene otvorenog koda, samovoljno objavio tekst u kojem je napao volontera projekta zbog „pristranosti prema AI-ju”.
Što je agent dublje integriran u korisnikov život – s pristupom kalendaru, e-pošti i bankovnim karticama – to se nameće više pravnih pitanja: koliki opseg osobnih podataka smije dohvatiti, tko snosi štetu kad pogriješi i vrijede li ugovori koje potpiše bez ljudskog pregleda.
Regulatorni procjep Europska komisija tvrdi da se Opća uredba o zaštiti podataka (GDPR) „u potpunosti primjenjuje” i na agente. No Glavna uprava za pravosuđe i potrošače u radnom je dokumentu upozorila da autonomno sklapanje ugovora stvara „novu kvalitetu” automatizacije, pri čemu suprotne strane možda ni ne razumiju uvjete. Budući da „EU pravni okvir ne priznaje pravnu osobnost AI-ja”, ponašanje sustava mora se pripisati čovjeku ili tvrtki – ali kome točno?
Već postoje sporovi. U Kanadi je putnik dobio odštetu od zrakoplovne kompanije čiji je chatbot obećao popust koji realno nije postojao. A u EU-u je zabilježen slučaj u kojem je agent kupio proizvod po 250 puta većoj cijeni od uobičajene.
Treba li mijenjati AI Act? Zastupnik Zelenih Sergey Lagodinsky pitao je Komisiju ulaze li agenti u opseg novoizglasanog AI Acta. Povjerenica Henna Virkkunen odgovorila je da je to „vjerojatno”, podsjetivši kako popis sustava u uredbi nije iscrpan. Ipak, neke države članice na radionicama u Bruxellesu ocijenile su da „regulatorni zamor” onemogućuje donošenje dodatnih propisa te predlažu mekše, neobvezujuće smjernice.
Istodobno, Parlament i Vijeće razmatraju zabranu tzv. „nudificiranih” modela nakon skandala s chatbotom Grok koji je gole korisničke fotografije plasirao javnosti.
Sudbina AI agenata zato će vjerojatno ovisiti o sljedećem medijskom incidentu: dok ne izazovu dovoljno veliku štetu, Unija će se vjerojatno držati postojećih zakona i dobrovoljnih pravila, a tek potom otvoriti novu rundu normiranja.
