Generativna umjetna inteligencija postala je novo oružje internetskih prevaranata koji traže povrat novca za robu koju nikada nisu oštetili.
• Poplava pritužbi trgovaca
Na kineskoj aplikaciji RedNote pojavilo se desetak objava prodavača koji tvrde da kupci šalju računalno stvorene fotografije navodne štete. Primjeri variraju od „rastrganih” posteljina s nečitljivim etiketama do keramičkih šalica čiji „pukotine” nalikuju poderanom papiru. Najviše su pogođene svježe namirnice, jeftina kozmetika i lomljivi predmeti koje trgovci ionako rijetko traže natrag prije odobravanja povrata.
• Slučaj mrtvih rakova
U studenome je prodavačica živih rakova Gao Jing na Douyinu primila fotografije i videozapise koji su trebali dokazati da je većina isporučenih rakova uginula, a dva nestala. „Moja obitelj uzgaja rakove više od 30 godina, nikada nismo vidjeli mrtvog raka s nogama okrenutima prema gore”, upozorila je Gao. Analizom se pokazalo da se broj nogu i spolni omjer rakova mijenjaju iz kadra u kadar. Policija je potvrdila da su snimke lažirane i zadržala kupca osam dana – prvi poznati slučaj AI prijevare koji je završio regulatornom reakcijom u Kini.
• Globalni rast prijevara
Newyorška tvrtka za detekciju prijevara Forter procjenjuje da se udio AI-dorađenih slika u zahtjevima za povratom od početka godine povećao za više od 15 %. Prevaranti su samo u jednoj seriji zahtjeva pokušali izvući više od milijun dolara, uz izmjenu IP adresa kako bi sakrili trag.
Izvršni direktor Fortera Michael Reitblat upozorava da službenici u call-centrima često nemaju vremena sitničavo pregledavati svaku fotografiju, što olakšava prijevaru. Neki se prodavači zato oslanjaju na vlastite AI alate koji analiziraju sumnjive slike, no rezultati su zasad nesigurni, a platforme nerijetko staju na stranu kupca.
• Pitanje povjerenja
Internetska kupnja već je doživjela kritike zbog AI-generiranih promotivnih fotografija proizvoda koje ne odgovaraju stvarnosti. Val lažnih slika „oštećene” robe samo je druga strana iste medalje: sustavom povrata upravlja pretpostavka uzajamnog povjerenja, a dostupnost moćnih alata za generiranje slika to povjerenje nagriza.
Stručnjaci upozoravaju da bi trgovci mogli odgovoriti strožim pravilima povrata, što bi pogodilo i poštene kupce. Dok se ne pronađu čvršći mehanizmi provjere – bilo kroz nove tehničke oznake, jasnije protokole ili veću odgovornost platformi – digitalna kupovina ostat će područje u kojem umjetna inteligencija testira granice ljudske naivnosti.