Omnilert propose un système de détection des armes à feu par IA, qu’elle a vanté à plusieurs reprises. Mais elle a été obligée d’admettre ses limites après que son système n’a pas détecté l’arme à feu utilisée par un élève dans un lycée de Nashville. Un des survivants a décidé de porter plainte contre elle.
Compter sur l’IA pour détecter les armes à feu. C’est le pari qu’a fait l’entreprise américaine Omnilert, qui se targue d’avoir permis plus de 3.000 détections de ce type l’année dernière grâce à son système, qui s’intègre aux caméras de surveillance. Elle fait pourtant l’objet d’une plainte, déposée par Antonyous Henin, survivant de la fusillade dans le lycée Antioch, à Nashville (Tennessee) en janvier 2025, rapporte le site Ars Technica.
Déployé dans l’établissement, le système d’Omnilert n’a pas repéré l’arme à feu le jour des faits. C’est ce que lui reproche Antonyous Henin, qui a été blessé au bras par le tireur.
“Le système présentait un défaut de conception car il était incapable de détecter de manière fiable les armes à feu dans les environnements prévisibles, notamment les cantines et autres grands espaces intérieurs similaires – les environnements précis qu’Omnilert avait spécifiquement mis en avant avec ce système”, peut-on lire dans la plainte.
Un système loin d’être parfait
Après la fusillade, le PDG de l’entreprise, Dave Fraser, avait assuré que son outil de détection n’avait pas échoué, mais que “la position du tireur et de l’arme à feu faisait que cette dernière n’était pas visible”. Un avis qui avait été partagé par le Metro Nashville Public Schools (MNPS), le district scolaire ayant approuvé le contrat d’un million de dollars avec Omnilert et une autre société en 2023. “Ça fonctionne, mais ça ne fonctionnera pas dans tous les cas, à tous les endroits, selon l’endroit où l’arme pourrait être visible”, avait avancé un porte-parole en janvier 2025.
Ces déclarations ont renforcé les craintes de Chris Smith, un des avocats d’Antonyous Henin, qui juge “discutable” le fait d’avoir un ensemble précis de conditions situationnelles à remplir pour que le système fonctionne comme prévu.
“J’ai une Tesla, et je trouve que la conduite autonome de Tesla, c’est du grand n’importe quoi. Ce n’est pas du tout au point! Comment peut-on faire confiance à un tel système? C’est ça, votre plan pour protéger les enfants des fusillades dans les écoles? En quoi est-ce mieux qu’un détecteur de métaux?”, a-t-il fustigé auprès d’Ars Technica.
Le plaignant estime, de son côté, qu'”Omnilert connaissait, ou aurait raisonnablement dû connaître les limitations opérationnelles importantes de son système de détection d’armes à feu, susceptibles d’entraîner des échecs de détection lors de situations d’urgence réelles”. Pour lui, les modifications que l’entreprise a apportées à son site web à la suite de la fusillade, notamment le fait que son système est sujet à de fausses alertes prouvent qu’elle était au courant de ces limites lors de la vente et du déploiement de son logiciel.
Antonyous Henin reproche également à Omnilert d’avoir par le passé surestimé les capacités de son outil. Elle a par exemple assuré que la détection d’armes à feu par IA “aurait pu atténuer, voire empêcher la tragédie du lycée Marjory Stoneman Douglas” en identifiant les menaces plus tôt. Survenue en Floride en 2018, cette tuerie scolaire est l’une des plus meurtrières des États-Unis, avec 17 morts.
La fusillade dans le lycée Antioch n’était pourtant la première fois où le système d’Omnilert a montré ses faiblesses. Comme le rappelle le site Futurism, il avait déclenché une intervention policière massive en octobre dernier, après avoir détecté à tort qu’un élève de 16 ans avait une arme alors qu’il s’agissait… d’un paquet de chips Doritos.
