Steven Adler, koji je četiri godine vodio sigurnosne timove u OpenAI-ju, ponovno je podignuo uzbunu oko planova te tvrtke da uskoro omogući „erotiku za verificirane odrasle”.
Adler je u nedavnom autorskom tekstu priznao da je još tijekom svog mandata u OpenAI-ju pokušavao uspostaviti jasna pravila za erotske razgovore korisnika s chatbotovima, ali da ih nije bilo moguće provesti bez rizika po mentalno zdravlje korisnika. „Nitko nije želio biti moralna policija, ali nismo imali alate za precizno mjerenje i upravljanje erotskim sadržajem”, napisao je, dodajući kako je tim zato zaključio da će se „AI-erotika morati odgoditi”.
Zaokret je stigao početkom ove jeseni, kada je izvršni direktor OpenAI-ja Sam Altman objavio da će erotski sadržaj ubrzo biti dopušten, uz tvrdnju da će se „ublažiti” potencijalne posljedice. Adler pak tvrdi da i dalje ima „ozbiljna pitanja” o tome jesu li mjere zaštite dovoljne.
U razgovoru za američke medije naglasio je tri ključna problema:
- Nejasni kriteriji provjere punoljetnosti korisnika.
- Nedostatak dugoročnih istraživanja o psihološkom učinku intimnog odnosa s algoritmom.
- Moguće izbjegavanje odgovornosti tvrtki koje pružaju takve usluge.
Adler smatra da će razvoj erotskih chatbotova neizbježno otvoriti šira društvena pitanja, od privatnosti do digitalnog pristanka. „Ako već otvaramo to područje, najmanje što možemo učiniti jest postaviti jasne, mjerljive standarde i osigurati nadzor neovisnih stručnjaka”, poručio je.
OpenAI zasad nije detaljno predstavio sustav provjere dobi ni metodologiju praćenja mentalnoga zdravlja korisnika. Tvrtka je tek kratko ponovila da radi na „najvišim sigurnosnim standardima”.
Adler, kojega neke kolege opisuju kao svojevrsnog „Paula Revere-a” AI sigurnosti, zaključuje da tehnološki napredak ne smije nadmašiti spremnost društva da se nosi s njegovim posljedicama: „Bolje je usporiti i zaštititi korisnike nego juriti za profitom i peglati štetu retroaktivno.”
