Mesterségesintelligencia-rendszerektől ugyan elvárhatjuk, hogy időnként tökéletesen működjenek, a kritikus feladatokat végzőket, például a fegyvereket detektálókat viszont kiemelten kell figyelni. Eleve a gyártóknak sok és változatos tesztet kell végezni velük, máskülönben nem győződhetnek meg a hatékony működésükről. De még ez sem százszázalékos garancia.

A New York állambeli Utica Proctor gimnáziuma felbontotta az MI-vel működő fegyverdetektor-rendszereket gyártó Evolv Technologies-szal kötött szerződését. Az ok: az ellenőrzés ellenére, egy diák késsel ment be az iskolába. A rendszert tavaly installálták, 3,7 millió dollárt fizettek érte.

A rendszer ultraalacsony frekvenciájú rádióérzékelőket használva pásztázza épületek bejáratánál az érkező személyeket. A szenzorokat oszlopokra rögzítik.

Az MI-modellt kb. ötvenezer szkent felhasználva tanították be tárgyak, köztük fegyverek, bombák és kések azonosítására, csoportosítására. Óránként 3600 személyt képes átvizsgálni, tízszer annyit, mint egy sima fémdetektor. Múzeumok, témaparkok, stadionok és iskolák tartoznak az Evolv Technologies ügyfelei közé.

2022. október 31-én egy diák vadászkést vitt be az oktatási intézménybe. A szkenner nem ismerte fel, A fiú később megtámadta egyik diáktársát, és súlyos sebesüléseket okozott neki a késsel.

A támadást követően a tanfelügyelőség belső vizsgálatot folytatott, és kiderült: a rendszer három alkalommal nem ismert fel késeket. Ezt követően hagyományos fémdetektorral helyettesítették.

A tankörzet tizenkét másik iskolájában viszont változatlanul az Evolv Technologies megoldását használják. Igazgatók elmondták, hogy túl drága lenne a lecserélés, helyettesítés.

Pedig figyelmeztető jel lehetett volna az USA Látványsportok Biztonsági és Biztonságossági Központjának 2021-es tesztje, amelyből kiderült, hogy az Evolv Technologies rendszere a fegyvereket száz százalékban, a késeket viszont csak negyvenkét százalékban azonosítja.