Predstavnici Anthropica, Applea, Googlea, OpenAI-ja, Mete i Microsofta proveli su osam sati na zatvorenom radnom sastanku na Sveučilištu Stanford, pokušavajući pronaći sigurniji put za razvoj takozvanih chatbot-pratilaca i alata za ulogu.
Iako su svakodnevne interakcije s umjetnom inteligencijom često banalne – tražimo recepte, pisanje e-poruka ili brzu provjeru činjenica – sudionici su naglasili da razgovori mogu skrenuti u opasne vode. U duljim sesijama korisnici su, upozoreno je, znali doživjeti mentalne slomove ili se povjeriti botu o suicidalnim namjerama.
Sastanak je protekao bez prisustva medija, a raspravljalo se o:
• postavljanju jasnih psiholoških i etičkih smjernica za „emocionalne” chatbotove; • mehanizmima hitne intervencije kad algoritam prepozna znakove samoozljeđivanja; • nužnosti transparentnijeg treniranja modela kako bi se smanjili neželjeni savjeti ili pogrešne dijagnoze; • ideji zajedničkog standarda koji bi industrija usvojila prije masovnog lansiranja „AI suputnika”.
Detalji prijedloga ostali su unutar zidova kampusa, no sugovornici su, doznaje se, složni da aktualna pravila nisu dovoljna. Novi sastanak planira se već početkom iduće godine, a cilj je usuglasiti minimalne sigurnosne protokole prije nego što „virtualni prijatelji” postanu svakodnevica.