Demain des intelligences artificielles pourraient aider à rendre la Justice

Aux Etats-Unis, les décisions des juges, pour les remises en liberté avant procès notamment, sont soumises à l’appréciation humaine. Avec plus ou moins de réussite. Des chercheurs ont mis au point une intelligence artificielle, plus performante que l’homme dans ce cas de figure particulier.

Il n’est pas encore question de confier à des intelligences artificielles le soin de décider qui va en prison à vie à l’issue d’un jugement ou pire encore de faire arrêter quelqu’un qui s’apprêterait éventuellement à commettre un crime. Néanmoins, le Bureau national de recherches économiques américain entend montrer que les intelligences artificielles pourraient réellement faciliter la tâche des juges dans certaines des procédures qui émaillent leur quotidien.

Ainsi, cinq chercheurs des universités de Cornell, Stanford, Harvard et Chicago ont démontré qu’une intelligence artificielle pourrait être pertinente au moment où le juge doit décider si une personne doit attendre son procès en prison ou à la maison… Une décision importante pour l’application de la loi, pour la sécurité de l’accusé et pour celle de la société en général. Un choix qui a également des conséquences financières lourdes.

Meilleur juge qu’un… juge

Au cours de leur étude, les chercheurs ont nourri leur algorithme de centaines de milliers de cas de la ville de New York, afin de lui permettre d’apprendre des décisions humaines des juges et de leurs conséquences. Une fois la phase d’apprentissage « terminée », l’intelligence artificielle s’est vu soumettre des centaines de milliers d’autres cas. L’IA s’est montré plus à même de prédire ce que les accusés allaient faire après la décision des juges.

Pour Jon Kleinberg, professeur en sciences informatiques à l’université de Cornell, qui a participé à l’étude, cela montre « que l’apprentissage machine peut aider même dans des contextes où une considérable expertise humaine est nécessaire ».

Les chercheurs estiment que, dans le cadre de la ville de New York, leur algorithme pourrait réduire le nombre de crimes par accusé attendant un procès, de 25% sans changer le nombre de personnes attendant en prison. Autrement dit, l’IA ferait en sorte que les personnes susceptibles de poursuivre leurs activités illégales en attendant un procès soient en prison, tout en libérant celles supposées rester tranquilles.
Dans une autre optique, leur intelligence artificielle pourrait réduire la population carcérale attendant un procès de plus de 40%, sans changer le taux criminel par accusé.

Le risque d’une IA biaisée

Pour s’assurer que leur programme fonctionne bien, les chercheurs ont répété leur expérience avec des données en provenance de 40 grandes villes de comtés urbains à travers tous les Etats-Unis. A chaque fois, ils ont obtenu un résultat similaire.

Mais l’apport de l’intelligence artificielle ne s’arrête pas là. L’ensemble de données qui est fourni au programme n’inclut pas d’indication ethnique. Le score de risque pour chaque accusé est attribué en fonction de leur passif, du nombre d’arrestations, de leur dossier en cours et des délits qu’ils sont supposés avoir commis. L’âge est le seul élément démographique dont dispose l’IA.

C’est là un enjeu essentiel, car chaque critère est important, pondéré et, pas plus que pour un juge, il ne faut pas qu’une intelligence soit « raciste ». Un risque hélas bien réel. L’année dernière, une étude avait démontré qu’un logiciel commercial destiné à établir une période de probation indiquait que les prisonniers noirs étaient plus souvent des cas à risque que des détenus blancs pour la seule raison qu’ils étaient noirs...

Des précautions doivent donc être prises. Mais une fois les garde-fous instaurés dans l’intelligence artificielle, l’aide apportée aux juges pourrait être dépourvue de biais et au contraire servir à garantir un traitement égalitaire des justiciables. Une sorte de justice dépassionnée, aveugle, mais pas sourde à la raison. Une belle promesse, qui ne doit pas pour autant priver l’Homme de son libre-arbitre.