Le scanner AI utilisé dans des centaines d’écoles américaines manque de couteaux – BBC News Afrique

Une entreprise de sécurité qui vend des scanners d’armes à intelligence artificielle aux écoles est confrontée à de nouvelles questions sur sa technologie après qu’un étudiant a été attaqué avec un couteau que le système de 3,7 millions de dollars n’a pas réussi à détecter.

À Halloween l’année dernière, l’étudiant Ehni Ler Htoo marchait dans le couloir de son école à Utica, New York, lorsqu’un autre étudiant s’est approché derrière lui et l’a poignardé avec un couteau.

S’adressant exclusivement à la BBC, l’avocat de la victime a déclaré que le jeune de 18 ans avait subi de multiples coups de couteau à la tête, au cou, au visage, à l’épaule, au dos et à la main.

Le couteau utilisé lors de l’attaque a été introduit au lycée Proctor malgré un système de détection d’armes de plusieurs millions installé par une société appelée Evolv Technology.

Evolv Technology est une entreprise de sécurité qui souhaite remplacer les détecteurs de métaux traditionnels par des scanners d’armes à intelligence artificielle.

Au lieu de simplement détecter le métal, Evolv affirme que son scanner « combine une technologie de capteur puissante avec une intelligence artificielle éprouvée » pour détecter les armes.

Lorsque le système détecte une arme dissimulée – comme des couteaux, des bombes ou des fusils – il déclenche une alerte.

La société a déclaré publiquement que son système était très précis et s’est précédemment vantée que ses scanners pouvaient aider à créer des « zones sans armes ».

Le directeur général de la société, Peter George, a également déclaré que ses systèmes « ont les signatures de toutes les armes qui existent ».

Les communiqués de presse précédents ont répertorié les armes que le système peut trouver, notamment les armes à feu, les engins explosifs et les couteaux.

Le système est utilisé dans les principaux stades des États-Unis et dans la Manchester Arena au Royaume-Uni. Les testeurs ont déclaré qu’Evolv devrait informer les clients potentiels.

Malgré cela, la société s’est développée dans les écoles et prétend maintenant être présente dans des centaines d’entre elles à travers les États-Unis.

En mars 2022, le conseil scolaire d’Utica a acheté le système de numérisation d’armes d’Evolv pour 13 écoles. Il a été installé pendant les vacances d’été.

Le 31 octobre, CCTV a capturé l’auteur de l’attaque contre Ehni Ler Htoo entrant dans le lycée Proctor et passant par les scanners d’armes Evolv, selon une source de l’école qui a vu les images de sécurité.

« Lorsque nous avons visionné l’horrible vidéo, nous avons tous posé la même question. Comment l’élève a-t-il fait entrer le couteau dans l’école ? » a déclaré Brian Nolan, surintendant des écoles d’Utica.

Le couteau utilisé pour poignarder mesurait plus de 22,8 cm (9 pouces) de long.

L’attaque a déclenché une enquête interne par le district scolaire d’Utica.

« Grâce à l’enquête, il a été déterminé que le système de détection d’armes Evolv n’était pas conçu pour détecter les couteaux », a déclaré M. Nolan.

Les scanners ont été retirés de Proctor High School et remplacés par 10 détecteurs de métaux. Mais les scanners fonctionnent toujours dans les 12 écoles restantes du district. M. Nolan dit que le district ne peut pas se permettre de se débarrasser du système Evolv dans ses écoles restantes.

Depuis cette attaque, M. Nolan dit que trois autres couteaux ont été trouvés sur des élèves d’autres écoles du district où les systèmes Evolv continuent de fonctionner.

L’un des couteaux mesurait 7 pouces de long. Un autre était une lame incurvée avec des trous pour les doigts. Un autre était un couteau de poche. M. Nolan dit qu’ils ont tous été retrouvés parce qu’ils ont été signalés au personnel – et non parce que le scanner d’armes les avait détectés.

« Les enfants [who had the knives] ont tous dit qu’ils avaient traversé le système de détection d’armes, nous leur avons demandé s’il ne trouvait vraiment, vraiment pas de couteaux », a-t-il déclaré.

Après le coup de couteau, le libellé du site Web d’Evolv a changé.

Jusqu’en octobre de l’année dernière, la page d’accueil d’Evolv comportait un titre qui se vantait de « Zones sans armes ». La société a ensuite supprimé ce libellé et remplacé le texte par « Safe Zones ». Il a maintenant été changé à nouveau et se lit « Zones plus sûres ».

Evolv affirme que son système utilise une technologie d’intelligence artificielle de pointe pour trouver des armes. Cependant, ses détracteurs affirment que l’on n’en sait pas assez sur le fonctionnement du système – ou sur l’efficacité de cette technologie pour trouver différents types d’armes.

La BBC a envoyé un droit de réponse détaillé à Evolv, expliquant ce qui s’était passé à l’école d’Utica et la décision de l’école de cesser d’utiliser son système.

Nous avons également demandé ce qu’Evolv avait dit aux écoles sur ce que son système pouvait et ne pouvait pas détecter, s’il avait dit aux écoles que des tests indépendants avaient révélé que ses systèmes ne pouvaient pas détecter de manière fiable les grands couteaux, et s’il pensait que ses systèmes étaient adaptés à une utilisation dans les écoles. Evolv n’a pas répondu aux questions.

Conor Healy d’IPVM, une entreprise qui analyse les équipements de sécurité, affirme qu’Evolv a exagéré l’efficacité du système.

« Il y a une épidémie d’écoles qui achètent de nouvelles technologies sur la base d’affirmations marketing audacieuses, puis découvrent qu’elles ont des défauts cachés, souvent des millions de dollars plus tard. Evolv est l’un des pires contrevenants. Les responsables de l’école ne sont pas des experts techniques en matière de détection d’armes, et des entreprises comme Evolv profite de leur ignorance. »

Il est inacceptable de jouer à la va-vite avec les allégations marketing lorsque vous vendez un produit de sécurité utilisé pour protéger les jeunes, a-t-il ajouté.

Bien qu’Evolv n’ait pas fait de commentaire à la BBC, elle l’a dirigée vers un article de blog de son PDG, Peter George, dans lequel il défend le manque de détails sur ce que l’entreprise a dit sur le fonctionnement de la technologie.

« La commercialisation de la sécurité de la détection des armes nécessite un équilibre délicat entre l’éducation des parties prenantes sur les nouvelles technologies et le fait de ne pas fournir aux acteurs malveillants les informations qu’ils pourraient utiliser pour faire du mal », a-t-il déclaré.

« Ainsi, bien que les supports marketing destinés au public ne soient intentionnellement pas spécifiques, nous communiquons tous les aspects du système Evolv Express – y compris les limitations et les capacités – avec les professionnels de la sécurité de confiance de nos clients, partenaires et prospects », lit-on sur le blog.

La BBC a contacté sept autres districts scolaires qui utilisent tous des scanners d’armes Evolv. Cinq n’ont pas répondu. Deux ont dit qu’ils ne souhaitaient pas faire de commentaires.