Umjetna inteligencija postavljena na kamerama srednje škole Kenwood u okrugu Baltimore izazvala je ozbiljan incident kada je algoritam pogrešno identificirao vrećicu Doritosa kao vatreno oružje.
Učenik Taki Allen sjedio je u ponedjeljak navečer s prijateljima ispred škole i jeo grickalice kada su mu naoružani policajci prišli s naređenjem da legne na tlo. „Uopće nisam shvatio što se događa dok nisu krenuli prema meni s oružjem”, ispričao je Allen. Nakon što su ga klečeći stavili u lisice i pretražili, pronašli su samo – vrećicu čipsa.
Fotografija koja je pokrenula uzbunu prikazivala je Allenove ruke oko vrećice; sustav je „prepoznao” oblik koji je pogrešno protumačio kao pištolj.
Škole okruga Baltimore prošle su godine uvele sustav za detekciju oružja baziran na umjetnoj inteligenciji s ciljem brže reakcije u slučaju prijetnje. Algoritam šalje automatsku dojavu školi i policiji kada procijeni da kamera snima potencijalno oružje.
U pismu upućenom roditeljima škola je priznala da je incident bio uznemirujući za sve prisutne te je najavila psihološku podršku učenicima. Policija je potvrdila da oružje nije pronađeno i kako je dojava glasila da se u kampusu nalazi „sumnjiva osoba s oružjem”.
Djed učenika, Lamont Davis, rekao je kako „nitko ne želi da se ovakvo što dogodi njegovu djetetu”.
Dogodak je ponovno otvorio raspravu o pouzdanosti algoritama za prepoznavanje oružja i mogućim posljedicama lažnih uzbuna, posebice kada reakcija uključuje oružane policajce.