Le pistolet à impulsion électrique sublétale Taser avait initialement été conçu pour épargner des vies et réduire le nombre de décès liés aux armes à feu entre la police et le public. Il s'est d'ailleurs récemment redonné pour mission (intitulée... « moonshot ») de réduire de 50 % la mortalité policière aux États-Unis d'ici à 10 ans.

Suite aux polémiques engendrées par les mésusages et décès associés, Taser a depuis doté son pistolet à impulsion électrique d'une caméra-piéton. Elle doit aider les policiers à documenter pourquoi et comment ils s'en servaient.

L'entreprise a aussi changé de nom, pour se départir de la sulfureuse réputation de la marque Taser, pour se renommer Axon. Après avoir lancé en 2011 un reality-show, Police Pov, reposant en bonne partie sur les vidéos enregistrées par les caméras-piéton des policiers, de leur « point de vue » (« point of view », ou « POV » en VO, « caméra subjective » en VF), l'entreprise propose désormais de s'en servir pour automatiser, grâce à une IA générative, la rédaction de leurs procès-verbaux.

Baptisé « Draft One » (premier brouillon, ou ébauche, en français), Axon le présente comme « un nouveau logiciel révolutionnaire qui permet de rédiger en quelques secondes des rapports de police de grande qualité à partir de la transcription automatique de l'audio des caméras-piéton » :

« Draft One s'appuie sur l'Intelligence Artificielle Générative (IA) et comprend une série de garanties essentielles, exigeant que chaque rapport soit revu et approuvé par un officier humain, garantissant l'exactitude et la responsabilité des informations avant que les rapports ne soient soumis. »

Les policiers passeraient 40 % de leur temps en paperasseries

Axon explique avoir constaté que « les policiers américains peuvent consacrer jusqu'à 40 % de leur temps – soit 15 heures par semaine – à ce qui est essentiellement de la saisie de données ». Or, les essais menés par les agences auraient permis de « gagner environ une heure par jour sur la paperasserie » :

« Pour huit agents qui utilisent Draft One au cours de leur journée, cela se traduit par un quart de travail supplémentaire de huit heures ou plus. Lorsque les agents peuvent passer plus de temps à se rapprocher de la communauté et à prendre soin d'eux-mêmes, physiquement et mentalement, ils peuvent prendre de meilleures décisions qui mènent à des résultats plus satisfaisants en matière de désescalade. »

Draft One allègerait leurs charges administratives et permettrait aux policiers de « récupérer du temps pour des tâches plus significatives et plus importantes, telles que les enquêtes, les patrouilles, la formation, le bien-être et le repos ». D'autant que, « partout aux États-Unis, les services de police manquent de personnel ». La demande pour les postes à pourvoir resterait faible :

« Cette pénurie se traduit par des délais de réponse plus longs aux appels de service et par des heures supplémentaires, ce qui peut entraîner un épuisement professionnel et coûter cher aux contribuables. »

Des erreurs insérées délibérément pour challenger les policiers

Concrètement, explique 404media, les officiers de police n'ont qu'à connecter leur caméra-piéton à un ordinateur doté du logiciel. Ce dernier, une fois lancé, propose de sélectionner l'enregistrement vidéo afin d'en récupérer la bande-son.

Le logiciel propose ensuite à l'utilisateur de sélectionner le type d'incident dans un questionnaire à choix multiples. Il comporte des cases telles que « dispute domestique », « infraction sexuelle », « drogue », « désordre public », etc.

Noah Spitzer-Williams, directeur des produits d'intelligence artificielle chez Axon, précise que cette sélection a un impact sur les résultats générés. « Nous savons qu'un incident lié à la conduite en état d'ébriété est très différent d'un simple vol, par exemple », indique-t-il.

L'utilisateur doit également sélectionner le degré de gravité de l'incident, qu'il s'agisse d'une absence de charge, d'une infraction, d'un délit ou d'un crime. Il lui suffit ensuite de cliquer sur un bouton pour générer une première version du procès-verbal, avec des passages entre crochets à renseigner ou remplacer avec des informations ou un contexte supplémentaires.

404media relève que lors d'un webinaire de présentation, le logiciel avait délibérément inséré des erreurs. L'agent devait les supprimer manuellement avant que le rapport puisse être soumis, « afin de s'assurer que l'agent relit bien le rapport », précise Noah Spitzer-Williams :

« Dans ce cas, l'une des erreurs était qu'un "alligator de soutien émotionnel avait été volé", ce qui n'apparaissait pas sur les images de la caméra-piéton. »

Après avoir apporté ses modifications, l'agent doit signer un document attestant qu'il a utilisé Draft One pour générer le rapport, mais qu'il est prêt à témoigner de l'exactitude du procès-verbal, précise la FAQ de Draft One :

« Les agents doivent examiner le projet, compléter manuellement les informations manquantes et signer l'exactitude de la narration avant de la soumettre. Ce flux de travail permet aux agents de gagner beaucoup de temps tout en garantissant que chaque rapport est examiné pour en vérifier l'exactitude et les principales informations contextuelles. »

82 % de temps en moins passé à rédiger des rapports

« Notre agence a testé Draft One et nous avons constaté une diminution de 82 % du temps passé à rédiger des rapports », explique Robert Younger, sergent des services de police de Fort Collins dans le Colorado :

« Les agents chargés des tests ont également fait savoir que la qualité de leurs rapports s'était considérablement améliorée, Draft One incluant des déclarations et des actions qui auraient pu être facilement négligées ou manquées si elles avaient été effectuées manuellement. »

Interrogé sur la possibilité que l'IA puisse « embellir » les PV, Axon répond que « les rapports de Draft One s'en tiennent aux faits et demandent aux agents de revoir et d'ajouter tout élément d'information manquant » :

« Le modèle sous-jacent que nous avons utilisé pour la transcription de Draft One est le Turbo GPT-4 d'OpenAI et nous avons calibré le modèle pour éviter les spéculations ou les embellissements qui peuvent être plus courants et nécessaires dans d'autres cas d'utilisation de l'IA. »

Noah Spitzer-Williams explique à Forbes que pour contrer les préjugés racistes ou autres, la société a configuré son intelligence artificielle « de manière à ce qu'elle s'en tienne à la réalité de ce qui est enregistré » :

« La façon la plus simple d'y penser est de dire que nous avons mis fin à la créativité. Cela réduit considérablement le nombre d'hallucinations et d'erreurs… Tout ce qu'il a produit est basé sur cette transcription et sur elle seule. »

M. Spitzer-Williams souligne qu'Axon a aussi effectué des tests en modifiant la couleur de peau du suspect, par exemple en remplaçant le mot « blanc » par « noir » ou « latino ». La société pu vérifier que les rapports de police générés n'ont montré aucune « différence statistiquement significative » sur des centaines d'échantillons.

Toutes les informations sont stockées et traitées sur les serveurs Microsoft Azure. Le logiciel est par ailleurs doté d'un module de traçabilité répertoriant toutes les actions effectuées par ses utilisateurs, afin que les services de police puissent s'assurer que les rapports générés ont bien été examinés et validés.

Une étude en double aveugle, les conseils du PDG

L'entreprise ajoute qu' « Axon respecte son cadre d'innovation responsable chaque fois que nous développons une nouvelle technologie ». Elle a également impliqué son conseil consultatif en matière d'éthique et d'équité (EEAC), qui lui a recommandé la réalisation d'une étude en double aveugle pour « mesurer la qualité et tester les risques de partialité » de son IA générative.

Menée avec 24 experts indépendants afin de comparer la qualité des rapports rédigés avec Draft One et ceux qui ne l'étaient pas, ses résultats auraient montré que « les performances de Draft One étaient égales ou supérieures à celles des rapports rédigés uniquement par des officiers, et ce dans cinq domaines : exhaustivité, neutralité, objectivité, terminologie et cohérence ».

Leur étude suggère également que l'utilisation de Draft One peut aussi « améliorer de manière significative la grammaire, l'orthographe et le professionnalisme, contribuant ainsi à la cohérence globale » :

« Les commentaires qualitatifs de nos experts et de nos clients ayant bénéficié d'un accès anticipé suggèrent que les agents commettent souvent des erreurs de grammaire et d'orthographe en raison du stress élevé et du manque de temps de leur travail. Cette étude suggère que Draft One permet aux agents de fournir de manière plus fiable des récits cohérents, fluides et professionnels des événements qui se produisent sur le terrain. »

« Dans un contexte souvent tendu comme celui d'un contrôle routier, le fait que l'IA confonde une déclaration imagée ou énervée avec une affirmation littérale peut fondamentalement changer la façon dont un rapport de police est interprété », alerte de son côté l'Electronic Frontier Foundation, pionnière des ONG de défense des libertés numériques.

Rick Smith, PDG d'Axon, précise à Forbes qu'il recommande aux policiers de ne pas utiliser l'IA pour rédiger des rapports sur des incidents aussi graves qu'une fusillade, où des informations vitales pourraient être omises :

« Une fusillade impliquant un officier est probablement un scénario dans lequel l'IA ne serait pas utilisée, et je déconseillerais aux gens de le faire, simplement parce qu'il y a tellement de complexité et que les enjeux sont trop élevés. »

Un business florissant

Forbes relève qu'Axon a annoncé en février un chiffre d'affaires de 1,5 milliard de dollars pour 2023 et un bénéfice net de 174 millions de dollars. Sa capitalisation boursière, qui était de 1,4 milliard de dollars en 2018, est de plus de 22 milliards aujourd'hui.

Plusieurs villes états-uniennes viennent d'ailleurs de porter plainte contre l'entreprise, pour avoir racheté l'un de ses principaux concurrents, au point de détenir 60 à 70 % de parts de marché en Amérique du Nord. Elle a ensuite augmenté le prix de ses caméras de 50 %, puis l'a quasiment triplé, à 490 dollars l'unité.

Dans une note aux investisseurs datée du 10 avril, Josh Reilly, analyste chez Needham & Co, relève que sur les 720 000 agents des forces de l'ordre des États et des collectivités locales aux États-Unis, on estime que 70 % sont équipés de caméras corporelles. La moitié d'entre eux possèdent une caméra fabriquée par Axon.