Korisnica TikTok Shopa, koja je pretraživala „hip hop nakit”, naišla je na uznemirujuću preporuku algoritma: niz privjesaka i lanaca s otvoreno nacističkim simbolima. Prema njezinom svjedočenju, dok je pregledavala jeftinije komade nakita, platforma joj je kontinuirano nudila proizvode ukrašene ikonografijom Trećeg Reicha.
Ovaj slučaj ponovno otvara pitanje kako društvene mreže moderiraju ekstremistički sadržaj i funkcioniraju njihovi algoritmi preporuka. Iako se radi o jednoj prijavljenoj situaciji, ona podsjeća na ranije kritike da mehanizmi preporuke mogu nenamjerno širiti zabranjene ili štetne simbole. TikTok se dosad nije službeno oglasio o konkretnom incidentu.
Nakit s nacističkim obilježjima zabranjen je u mnogim europskim državama, a internetske platforme imaju pravne obveze brisati takve sadržaje. Stoga se očekuje da će ovaj primjer potaknuti dodatne pritiske na TikTok da poboljša nadzor nad trgovinom i algoritamskim prijedlozima. Za sada ostaje nejasno koliki je opseg problema i koliko je takvih proizvoda dostupno korisnicima širom svijeta.