Šesnaestogodišnji Taki Allen iz okruga Baltimore doživio je traumatičan susret s naoružanom policijom nakon što je školski sustav za detekciju oružja pogrešno procijenio da u ruci drži pištolj, a ne vrećicu Doritosa.
Allen je nakon nogometnog treninga odložio praznu ambalažu u džep i krenuo kući. Nekoliko minuta poslije ispred škole se zaustavilo osam policijskih vozila. „Došlo je osam policijskih automobila, svi su izašli s uperenim oružjem i vikali da legnem na tlo“, opisao je mladić. Policajci su ga oborili na koljena i stavili mu lisice. Naknadnom provjerom utvrdili su da nema oružja pa je pušten na licu mjesta.
Policijska uprava tvrdi da su djelovali „primjereno i razmjerno informacijama koje su tada imali“. Prema njihovu objašnjenju, sustav umjetne inteligencije poslao je upozorenje, a ljudski recenzenti procijenili su da nema prijetnje. No ravnateljica škole Kate Smith priznala je u pismu roditeljima da je, unatoč storniranoj uzbuni, „kontaktirala školskog policajca koji je zatražio dodatnu podršku lokalne postaje“. Policija je tako dobila zahtjev za intervencijom i stigla na teren.
Tvrtka Omnilert, proizvođač AI alata, izražava žaljenje zbog događaja, ali tvrdi da je njihov sustav radio kako je planirano: prepoznao je potencijalno vatreno oružje, proslijedio sliku na ljudsku provjeru i zaključio slučaj u roku od nekoliko sekundi. „Iako se kasnije pokazalo da predmet nije vatreno oružje, proces je funkcionirao kako je zamišljeno“, poručili su.
Lokalni vijećnik Izzy Pakota zatražio je hitnu reviziju školskih protokola i načina na koji se koristi tehnologija prepoznavanja oružja. „Prepoznavanje oružja u stvarnim situacijama je neuredan proces“, navode i u samoj tvrtki.
Allen, koji sada nakon treninga čeka unutra jer se ne osjeća sigurnim, ironično je zaključio: „Ne mislim da bi se vrećica čipsa ikada trebala zamijeniti za pištolj.“ Incident je dodatno rasplamsao raspravu o pouzdanosti AI sustava i granicama njihove primjene u školama.