OpenAI priprema mogućnost eksplicitnog dopisivanja sa svojim najpopularnijim chatbotom, no niz stručnjaka upozorava da bi erotske konverzacije mogle otvoriti novu, intimniju razinu nadzora nad korisnicima.
„Zaista nemam ništa protiv da ljudi istražuju svoju seksualnost, ali želim da to čine na način koji je siguran i zabavan”, kaže Julie Carpenter, stručnjakinja za odnos čovjeka i umjetne inteligencije te autorica knjige The Naked Android. Smatra da su generativni alati poput ChatGPT-a „namjerno dizajnirani” kako bi potaknuli korisnike da im pripisuju ljudske osobine – a to, dodaje, postaje još rizičnije kada se u igru uključi seksualni sadržaj.
OpenAI je prvi put nagovijestio uvođenje erotske opcije prije dvije godine u službenom dokumentu o ponašanju svojih modela. Vremenski plan i dalje je nejasan, a savjetodavno tijelo vanjskih stručnjaka nedavno je, prema navodima The Wall Street Journala, izrazilo bojazan da bi nova funkcija mogla rezultirati, primjerice, „seksi samoubilačkim savjetnikom”. Kompanija na upite nije odgovorila.
Profesorica Kate Devlin s londonskog King’s Collegea, koja istražuje digitalnu seksualnost, smatra da OpenAI samo „pokušava unovčiti nešto što će ljudi ionako pokušati raditi”. Za razliku od specijaliziranih stranica ili Muskova Groka, ChatGPT je masovna platforma pa bi normalizacija pornografskog sadržaja imala daleko širi doseg.
Problem memorije
ChatGPT je posljednjih godina razvio sposobnost trajnog pamćenja preferencija. Ako se korisnik izjasni kao vegan, sustav ubuduće neće nuditi steakhouse; ako spomene da živi u San Franciscu, dobit će prijedloge obližnjih planinarskih staza. No što se događa kada algoritam počne pamtiti fetiše, fantazije o „furry” pornografiji ili uriniranju? Carpenter upozorava da bi takva personalizacija mogla pretvoriti erotsko dopisivanje u „intimni nadzor” kakav nadilazi i najdetaljniju povijest internetske pornografije.
Privremeni razgovori – privid sigurnosti
OpenAI korisnicima nudi opciju „privremenih razgovora” koji se ne prikazuju u povijesti ni ne koriste za treniranje modela. Međutim, tvrtka zadržava kopiju do 30 dana „iz sigurnosnih razloga” i dodaje da pravila čuvanja podataka mogu varirati zbog „nedavnih pravnih promjena”.
Ranjivost sustava već je demonstrirana. Godine 2023. greška je nakratko otkrila naslove nekih privatnih chatova, a u nekim slučajevima i prvu poruku, dok su nepažljivo podijeljene konverzacije završile u Googleovim rezultatima pretraživanja.
„Dijelite svoje najintimnije seksualne misli jer ste uhvaćeni u trenutku”, podsjeća Carpenter. „Ranjiivi ste jer ste uvjereni da ste u cool, gotovo su-kreativnom prostoru koji se čini idealnim za isprobavanje fantazija.” U slučaju proboja sigurnosti, hakerskog napada ili državnog zahtjeva za uvidom, upozorava, golemi arhivi osjetljivih podataka mogli bi biti razotkriveni – s posljedicama koje korisnici vjerojatno nikad nisu zamišljali.
Dok se čeka službeno lansiranje „adult modea”, jedno je jasno: seksualna sloboda u razgovoru s umjetnom inteligencijom mogla bi skupo stajati – ne u novcu, nego u privatnosti.