Quand le juge est un algorithme

Des chercheurs ont tenté de prédire l’issue de plus de 500 procès grâce à un algorithme basé sur l’intelligence artificielle. Dans 79% des cas, la machine a rendu le même verdict que le juge.

C’est l’un des scénarios les plus craints par les techno-pessimistes, alors que les algorithmes prennent de plus en plus de place et de décisions dans nos vies: Et si des machines rendaient la justice ? Des chercheurs de l’University College London (Royaume-Uni) ont voulu tester cette hypothèse dans une étude, dont les résultats ont été publiés ce lundi 24 octobre sur le site Peer J Computer Science.

Cet algorithme basé sur l'intelligence artificielle était conçu pour analyser les preuves et prendre en compte des considérations d’ordre moral comme le bien et le mal. Il s'est penché sur 584 procès portant sur des violations des droits de l’Homme (torture, traitements dégradants, procès non-équitable) et de la vie privée. Sur la base des données (en anglais) de ces procès, le programme devait parvenir à une décision, sans savoir ce qu’avait décidé le véritable juge. Pour chaque catégorie de procès, un nombre équivalent d’acquittements et de condamnations ont été analysés. Dans 79% des cas, la machine a rendu le même verdict que le magistrat.

Les faits priment sur le droit

Evidemment, les chercheurs ne souhaitent pas remplacer les juges. Leur but est plutôt de réussir à prédire l’issue d’un procès. Ce qui leur permet de comprendre quelles circonstances amènent des juges à prendre une décision plutôt qu’une autre. Car d’après eux, l’analyse de toutes ces décisions montre que "les faits indiscutables" – et pas les arguments purement juridiques – "sont le facteur prédictif le plus important" lors d'un procès.

En l’état, ce programme n’est de toute façon pas en mesure de remplacer un juge. D’abord parce que son taux de précision de 79%, bien qu’impressionnant, n’est pas assez élevé lorsqu’il s’agit d’envoyer des gens en prison. Mais aussi parce que les chercheurs l’ont testé sur un type de procès très précis. Ils ont choisi d’analyser les violations des droits de l’Homme car ces procès contenaient "le plus de données que nous pouvions récolter automatiquement" et offraient assez de cas pour obtenir un échantillon représentatif. Ce qui suggère que ces résultats ne sont pas forcément reproductibles avec d’autres catégories de procès.

Jamal El Hassani