L’IA vous cherchera peut-être des armes la prochaine fois que vous sortirez en public

George est directeur général d’Evolv Technology, un système basé sur l’IA destiné à signaler les armes, démocratisant la sécurité afin que les armes puissent être maintenues hors des lieux publics sans points de contrôle élaborés.

Alors que la violence armée aux États-Unis comme celle observée à Buffalo et maintenant à Uvalde, au Texas, l’augmentation des ventes d’armes à feu a atteint des sommets en 2020 et 2021, tandis que les archives de la violence armée rapportent au moins 198 fusillades de masse depuis janvier, Evolv est devenu de plus en plus populaire, utilisé dans les écoles, stades, magasins et autres lieux de rassemblement.

Son utilisation croissante dans les écoles a été mise en relief mardi avec la fusillade de l’école primaire de Robb, qui a coûté la vie à au moins 21 personnes, dont 19 enfants.

Pour ses partisans, le système est une alternative plus efficace et moins envahissante au détecteur de métaux séculaire, rendant les événements à la fois plus sûrs et plus agréables à assister. Pour ses détracteurs, cependant, l’efficacité d’Evolvs n’a guère été prouvée. Et cela ouvre une boîte de Pandore de problèmes éthiques dans lesquels la commodité est payée avec la surveillance RoboCop.

L’idée d’un détecteur de métaux plus doux et plus doux est une bonne solution en théorie à ces terribles fusillades, a déclaré Jay Stanley, analyste principal des politiques pour le projet American Civil Liberties Unions sur la parole, la vie privée et la technologie. Mais voulons-nous vraiment créer plus de moyens pour que la sécurité envahisse notre vie privée ? Voulons-nous transformer chaque centre commercial ou match de la Petite Ligue en aéroport ?

Les machines Evolv utilisent la détection active, une technique d’émission de lumière qui sous-tend radar et lidar pour créer des images. Ensuite, il applique l’IA pour les examiner. Les scientifiques des données de la société Waltham, Mass., ont créé des signatures (essentiellement des plans visuels) et formé l’IA pour les comparer aux images du scanner.

Les dirigeants disent que le résultat est un système intelligent qui peut repérer une arme sans que personne n’ait besoin de s’arrêter et de vider ses poches dans une machine à bip. Lorsque le système identifie un élément suspect parmi un groupe de personnes qui le traversent, il dessine une boîte orange autour de lui sur un flux vidéo en direct de la personne qui entre. Ce n’est qu’alors qu’un agent de sécurité, surveillant sur une tablette à proximité, s’approchera pour plus de contrôle.

Dan Donovan, un consultant en sécurité chevronné qui loue des systèmes Evolvs à des clients pour des événements, explique qu’en permettant aux gardes de se concentrer sur moins de menaces, cela évite la fatigue que peuvent ressentir les opérateurs de détecteurs de métaux. Comme d’autres consultants, il note qu’aucun système n’aurait probablement arrêté le tireur de Buffalo, qui a commencé à tirer dans le parking.

Les consommateurs peuvent s’attendre à voir Evolv beaucoup plus. Des franchises sportives comme les Titans du Tennessee et les Panthers de la Caroline l’utilisent désormais ; tout comme les Mets de New York et Columbus Crew. Le Super Bowl au SoFi Stadium en février l’a déployé sur un périmètre extérieur. À New York, des institutions artistiques publiques telles que le Lincoln Center s’y essaient. Ainsi est un hôpital municipal. (Le maire de New York, Eric Adams, l’a présenté comme une mesure de sécurité potentielle dans le métro, mais les petits espaces et les interférences de signaux souterrains rendent cela moins plausible. Les aéroports, avec des normes plus strictes, sont également peu probables.)

Le système scolaire Charlotte-Mecklenburg de la Caroline du Nord, avec 150 000 élèves, a également autorisé Evolv. Les parcs à thème sont ravis, et les 27 parcs Six Flags à travers le pays l’utilisent maintenant. Evolv a maintenant effectué 250 millions de scans, dit-il, contre 100 millions en septembre.

George pense que la précision et l’absence de friction rendent Evolv convaincant. Personne ne veut d’une prison ou d’un aéroport partout où il va, ce que vous avez avec un stupide détecteur de métaux analogique, a-t-il déclaré. Et le coût de ne rien faire augmente de jour en jour.

La société, qui est devenue publique l’année dernière, a levé au moins 400 millions de dollars, avec Jeb Bush, Bill Gates, Peyton Manning et Andre Agassi parmi les investisseurs. (L’espace se développe, avec un système de son rival italien CEIA qui gagne également en popularité.) S’appuyant principalement sur les abonnements de quatre ans qu’il vend, Evolv a plus que doublé son chiffre d’affaires au premier trimestre pour atteindre 8,7 millions de dollars par rapport à 2021, mais aussi plus de a doublé ses pertes, à 18,2 millions de dollars.

Les magasins de détail sont un cas d’utilisation attrayant, a déclaré George, car les gens veulent se sentir en sécurité dans leurs achats, mais ne veulent pas être arrêtés et contrôlés chaque fois qu’ils entrent pour acheter des produits d’épicerie. (Environ 60 personnes peuvent être scannées chaque minute, selon Evolv.) George a déclaré que lorsque le système a été installé dans un centre commercial de la région d’Atlanta, Lenox Square, en janvier, il a détecté 57 armes à feu au cours des quatre premières heures.

Dans l’ensemble, a déclaré George, au moins 15 000 armes à feu ont été signalées par Evolv au cours du premier trimestre de 2022. (Ces chiffres ne sont pas vérifiés publiquement.)

Mais IPVM, un métier de l’industrie de la sécurité publication, a conclu après un examen qu’Evolv a des limites technologiques fondamentales pour différencier les objets bénins des armes réelles. Un problème, a déclaré l’IPVM, citant son examen de la société, est que certains objets métalliques confondent l’IA, y compris en particulier le Google Chromebook de conception robuste.

IPVM dit qu’Evolv n’a pas fourni suffisamment de données. La publication indique également que la société ne s’engagera pas avec elle en raison de ses demandes de renseignements ; il dit que l’entreprise lui a même demandé de cesser de faire des reportages sur Evolv au nom de la sécurité publique.

Dans une déclaration au Washington Post concernant le conflit, Evolv a déclaré: Nous pensons que la publication d’un plan de toute technologie de filtrage de sécurité est irresponsable et rend le public moins sûr en fournissant des informations inutiles à ceux qui pourraient essayer d’utiliser les informations pour causer du tort.

Alan Cowen, un ancien scientifique de Google et expert en IA, dit qu’il s’inquiète également des exemples contradictoires, dans lesquels de mauvais acteurs apprennent à contourner l’IA, par exemple, en mettant du ruban adhésif autour d’une poignée de pistolet ainsi qu’un retard dans la découverte parce qu’Evolv ne le fera pas. le signaler.

Certains techno-éthiciens disent que la précision n’est qu’une crainte.

Si cela peut réduire les faux positifs tout en capturant les vrais positifs, cela semble être un avantage, a déclaré Jamais Cascio, auteur et fondateur d’Open the Future, une organisation examinant les conséquences des technologies. Ma préoccupation est de savoir ce qui se passe lorsque cela va au-delà de la recherche d’armes lors d’un concert lorsque quelqu’un décide d’ajouter toutes sortes d’entrées sur la personne en cours de numérisation, ou si nous entrons dans une manifestation et qu’une agence gouvernementale peut désormais utiliser le système pour nous suivre et nous connecter . Nous savons ce qu’un détecteur de métaux peut et ne peut pas nous dire. Nous n’avons aucune idée de comment cela peut être utilisé.

George dit qu’aucune donnée n’est appliquée à un sujet de numérisation et qu’aucune information n’est capturée ou cataloguée. Quant à la précision, il reconnaît que le Chromebook a été un problème, mais dit que l’algorithme est en cours d’amélioration. Il suggère que les étudiants pourraient simplement se rendre compte qu’ils doivent les retenir sur le chemin de l’école, un petit prix à payer. Pourquoi ne devrait-il pas y avoir un système où les enfants peuvent apprendre en toute sécurité et aussi entrer sans ralentir la foulée ? Il a demandé.

Reste à savoir si cela sera possible dans de grands districts comme Charlotte-Mecklenburg. Les demandes de commentaires du service de police chargé de la sécurité des districts n’ont pas été renvoyées.

Plusieurs clients d’Evolv The Post ont parlé pour dire qu’ils étaient satisfaits du système.

Nous sommes passés de 30 lignes de détecteurs de métaux à quatre voies et n’arrêtions pas les gens pour chaque téléphone portable ou clé de maison, a déclaré Jason Freeman, vice-président de la sécurité, de la santé et de l’environnement de Six Flags. Il a déclaré que les interpellations globales étaient passées de 32% à 15%, la grande majorité n’étant toujours pas considérée comme une menace. L’idée n’est pas seulement d’attraper plus d’armes ; c’est pour perdre moins de temps sur tout le reste.

Mark Heiser, directeur de la salle du Denver Performing Arts Complex, affirme que le système est à des années-lumière d’avance sur le détecteur de métaux. Nous n’y retournerons jamais, dit-il.

Heiser a cité moins d’alarmes pour des articles comme les canifs, ce qui est bien, car cela nous permet de nous concentrer sur [the more destructive weapons]. Et, a-t-il noté, de nombreux spectateurs se sentent plus libres d’entrer.

Mais Stanley de l’ACLU reste sceptique.

Les appareils étant plus subtils, c’est une bonne chose. Mais ils peuvent aussi être plus insidieux ou même simplement ennuyeux, a-t-il déclaré. Vous allez avoir beaucoup de gens choqués par un parapluie caché dans une poche de manteau qui mène soudainement à une rencontre avec un agent de sécurité.