La start-up américaine Blue Voice est sortie du mode furtif après avoir levé 6 millions de dollars lors d’un tour mené par SignalFire et Las Olas VC, afin de développer une plateforme d’intelligence artificielle fournissant aux policiers des directives instantanées fondées sur les lois et les procédures de chaque service local. L’entreprise affirme que l’outil est utilisé quotidiennement par 225 agences au niveau des comtés dans 25 États américains.
Blue Voice a été fondée par David Lawrence, qui étudiait le droit à l’université Harvard avant d’abandonner ses études à la suite de la controverse suscitée par une fusillade sur le campus à laquelle avait participé un policier. Il a été rejoint par Amit Patankar, diplômé en administration des affaires de Harvard et ancien ingénieur chez Google, ainsi que par Michael Gropman, ancien vice-chef de la police de Boston à la retraite.
Un assistant fondé sur les règles de chaque service
L’idée centrale de la plateforme consiste à résoudre le problème de l’accès à l’information pendant les situations sur le terrain. Selon Lawrence, les agents prennent souvent leurs décisions en s’appuyant sur leur mémoire ou sur des suppositions, après avoir assimilé des milliers de pages de lois, de politiques, de règlements municipaux et de lois des États. Lorsqu’il ne se souvient pas d’une procédure précise, un agent peut devoir consulter un manuel pouvant atteindre 15 000 pages, appeler un supérieur tard dans la nuit ou utiliser des outils généraux comme Google et ChatGPT.
Blue Voice affirme que son système est entraîné sur les lois propres à chaque service, les réglementations locales, ainsi que les protocoles et directives internes qui ne sont généralement pas accessibles sur l’Internet public. La plateforme permet également aux agents d’accéder depuis leur téléphone à des cartes détaillées des écoles lors de situations de fusillade en cours. L’entreprise affirme que le système répond à environ une question par minute et qu’il renvoie directement l’utilisateur vers les textes et règlements originaux, au lieu de fournir une réponse distincte dépourvue de référence.
Qu’est-ce qui change concrètement ?
Selon la description de l’entreprise, le système n’est pas censé décider à la place de l’agent ni lui dicter la marche à suivre : il présente les règles pertinentes, tandis que la décision finale revient à l’agent et à son expérience du terrain. L’entreprise donne comme exemple le cas où, selon Lawrence, un agent débutant a utilisé l’application pour vérifier l’existence d’un fondement juridique à une intervention lorsqu’il a vu un homme pousser une jeune fille à entrer dans son véhicule. D’après le récit de l’entreprise, le système a confirmé que les critères juridiques du délit d’incitation d’un enfant étaient réunis, ce qui a permis à l’agent d’intervenir immédiatement.
Dans un autre cas, la plateforme a rappelé à un chef de service de police qu’il ne pouvait pas réintégrer un agent après une fusillade avant l’obtention d’une évaluation de sa santé mentale par un tiers. Blue Voice a également développé des fonctionnalités destinées à aider les enquêteurs à résoudre d’anciennes affaires et se trouve en concurrence dans ce domaine avec l’entreprise Lexipol, soutenue par des investisseurs en capital-investissement.
Pourquoi cette information est-elle importante ?
Ce financement marque l’expansion de l’utilisation de l’intelligence artificielle dans un domaine sensible qui ne concerne pas la production de textes généraux, mais la traduction de règles juridiques et administratives locales en informations utilisables lors de décisions susceptibles d’affecter les libertés et la sécurité publique. Blue Voice affirme que sa base de clients a été multipliée par 11 au cours de l’année écoulée et que les services de police ont observé des résultats tangibles, tels qu’une baisse de la criminalité et une diminution des désaccords opérationnels, mais ces résultats ont été rapportés par Lawrence et ne sont étayés dans l’article ni par des chiffres indépendants ni par une méthodologie d’évaluation.
L’entreprise arrive à un moment où l’utilisation de l’intelligence artificielle dans la police fait l’objet de critiques croissantes, notamment concernant les systèmes de surveillance des plaques d’immatriculation de l’entreprise Flock Safety. L’importance de Blue Voice ne se limite donc pas à la rapidité d’accès aux règlements, mais s’étend à des questions ouvertes concernant l’exactitude du système, le mécanisme de mise à jour des règles locales, la manière d’auditer les références qu’il fournit et la personne qui assume la responsabilité si la réponse est incorrecte. Le recours de la plateforme aux sources originales constitue une étape importante pour limiter les réponses non documentées, mais n’élimine pas la nécessité d’une supervision humaine indépendante, d’autant que l’outil est utilisé dans des décisions de terrain hautement sensibles.