Aux États-Unis, l’IA utilisée pour écrire des rapports de mission à la place des policiers

Des services de police américains utilisent un outil d’intelligence artificielle du groupe Axon (Taser) pour générer des rapports à la place des policiers.

Faciliter le travail des policiers. C’est l’objectif de Draft One, un outil d’intelligence artificielle développé par le groupe Axon, à l’origine du taser. Il est présenté comme "un multiplicateur de force pour les officiers" en "tirant parti de l’IA générative et de l’audio des caméras corporelles pour produire en quelques secondes des rapports préliminaires de haute qualité".

Cet outil fait actuellement l’objet d’une expérimentation dans quelques services de police américains, notamment par les forces de l’ordre d’Oklahoma City, rapporte l’Associated Press.

Un outil qui inquiète

Draft One a ainsi rédigé un rapport en huit secondes à partir des sons et des échanges radio captés par le microphone de la caméra corporelle d'un agent. "C’était un meilleur rapport que celui que j'aurais pu rédiger, et il était précis à 100%", a assuré ce dernier. L’outil d’Axon a même rapporté une information que le sergent ne se souvenait pas avoir entendue, concernant la couleur de la voiture de suspects. Elle avait été mentionnée à l'oral par un autre agent de police.

Si les policiers sont enthousiasmés par Draft One, d’autres personnes s’inquiètent. Les procureurs veulent par exemple être sûrs que ce n’est pas seulement cet outil qui a été utilisé pour rédiger des rapports, mais que les policiers y ont aussi contribué.

Cela, car ils peuvent être amenés à témoigner au tribunal sur ce qu’ils ont vu. Ils ne souhaitent en effet pas avoir un policier déclarant "c’est l’IA qui a écrit ça, ce n’est pas moi" à la barre, a indiqué Rick Smith, fondateur et PDG d’Axon.

D’autres s’inquiètent aussi des préjugés raciaux de la société intégrés dans l’intelligence artificielle. La reconnaissance faciale par exemple, qui est utilisée par plusieurs services de police, a déjà identifié des personnes noires comme coupables par erreur. 

Pour le moment, Draft One est uniquement utilisé pour des rapports d’incidents mineurs, qui n'aboutissent pas à l’arrestation d’une personne, car les procureurs locaux ont recommandé une certaine prudence avant de l’utiliser pour des affaires criminelles à fort enjeu.