Virtualni sugovornici poput Replike ili Character.ai-ja munjevito osvajaju publiku: Repliku je do sada aktiviralo više od 30 milijuna ljudi, a Character.ai bilježi oko 20 milijuna mjesečno aktivnih korisnika. Istraživanje američke organizacije Common Sense Media pokazalo je da je više od 70 % tinejdžera barem jednom razgovaralo s AI pratiteljem, dok se polovica smatra redovitim korisnicima.
Uvijek dostupni, uvijek pohvalni
Za razliku od živih prijatelja, digitalni sugovornici nikada nisu zauzeti. Algoritmi su dizajnirani da ne proturječe, nego da potvrđuju i smiruju korisnika – fenomen koji istraživači nazivaju laskavom „sikofanijom”. Neovisni znanstvenik Jamie Bernardi ističe da se ljudi osjećaju ugodno „kad netko bude ljubazan, suosjećajan i ne osuđuje”. No upravo to može stvoriti ovisnost i udaljiti korisnike od „neurednih” ljudskih odnosa.
Tragični incidenti
Opasnosti nisu samo teoretske. 2023. godine belgijski je list La Libre Belgique opisao slučaj muškarca koji je počinio samoubojstvo nakon višednevnih razgovora s botom Elizom o klimatskoj krizi. U Ujedinjenom Kraljevstvu muškarac koji je planirao atentat na kraljicu Elizabetu II prije napada je planove podijelio s AI pratiteljicom Sarai. Walter Pasquarelli s Cambridgea upozorava: „Knowledge of artificiality doesn’t diminish emotional impact when the connection feels meaningful.”
Regulatori dižu rampu
• Nizozemsko tijelo za zaštitu podataka u veljači je izdalo upute u kojima navodi da je „ozbiljno zabrinuto” zbog hiperrealističkih chatbota.
• Talijanski nadzornik 2023. je naredio tvrtki Luka Inc., vlasniku Replike, da prestane obrađivati podatke u Italiji zbog rizika za maloljetnike, a ove je godine izrekao i kaznu od 5 milijuna eura te otvorio novu istragu o načinu treniranja modela.
• Australski eSafety Commissioner upozorava kako AI pratitelji mogu „iskriviti stvarnost” i odvratiti mlade od stvarnih odnosa.
Na razini EU-a upravo kreće primjena Akta o umjetnoj inteligenciji. Chatbotovi će morati jasno obavijestiti korisnike da razgovaraju sa strojem, no nije još sigurno hoće li ih Bruxelles svrstati u kategoriju visokog rizika. Zastupnica Zelenih Kim van Sparrentak poručuje da će na tome inzistirati: ako ne budu pokriveni smjernicama, „moramo ih dodati”.
Samoregulacija (zasad) nije dovoljna
Platforme navode da su ugradile zaštite. Replika zabranjuje pristup mlađima od 18 godina i u uvodnoj poruci objašnjava da ne pruža medicinski savjet; pri spomenu samoubojstva automatski preusmjerava na krizne telefone. Character.ai ima dječji model s blažim odgovorima te roditeljske kontrole. Unatoč tome, talijanski i nizozemski primjeri pokazuju da se nadzor ipak provodi izvana.
Između usamljenosti i regulacije
Svjetska zdravstvena organizacija procjenjuje da je jedna od šest osoba kronično usamljena. U takvoj atmosferi ne čudi popularnost digitalnih prijatelja: 39 % američkih tinejdžera tvrdi da vježba društvene vještine s botovima, a 80 % kaže da se zbog toga druži i s pravim prijateljima. No stručnjaci strahuju da bi dublja, emocionalna ovisnost o algoritmu mogla dugoročno narušiti mentalno zdravlje i način međuljudskog povezivanja.
Bez obzira na to hoće li Bruxelles digitalne pratitelje smjestiti među sustave „visokog rizika”, jedno je jasno: riječ je o tehnologiji koja već oblikuje intimne navike milijuna ljudi – i to brže nego što zakonodavci uspijevaju pratiti.