Facebook: un algorithme pour détecter les terroristes?

Le gouvernement américain a demandé aux géants de la Silicon Valley de créer des algorithmes pour détecter les signes de radicalisation.

Après les attaques de Paris, et celles de San Bernardino, en Californie, les autorités américaines ont rencontré les cadres de la Silicon Valley. Vendredi 8 janvier dernier, une réunion s’est tenue entre les directeurs du FBI, de la NSA et les dirigeants de Facebook, Google, Twitter ou encore Apple.

Comme l’a rapporté le Guardian, les discussions ont porté sur les meilleurs moyens de lutter contre la radicalisation en ligne. Mais le site américain Fusion précise de son côté, ce que voudrait vraiment l’administration Obama: demander aux services de messagerie et aux réseaux sociaux de créer un algorithme, afin de donner un "score de radicalisation" aux utilisateurs.

Une stratégie à la Minority Report

Les dirigeants américains voudraient intercepter ceux qui risquent de commettre un attentat avant qu’ils ne passent à l’acte. Une stratégie qui rappellera des souvenirs à ceux qui ont vu Minority Report.

Techniquement, l’algorithme pourrait s’appuyer sur l’immense masse de données que laissent chaque jour les millions d’utilisateurs derrière eux. Jusque là, les autorités américaines tentaient de convaincre les géants de la Silicon Valley de leur offrir un accès direct aux données, ce que certains comme Apple refusent catégoriquement. Leur demander de faire le travail à leur place serait une façon de contourner ces réticences.

L’utilisation d’algorithmes pour détecter certains profils n’est pas nouvelle. Aux Etats-Unis, l’entreprise Fico utilise déjà les publications Facebook pour établir la note de crédit d’emprunteurs.

Le réseau social a également mis en place des algorithmes de ce type, notamment pour détecter les personnes qui font face à des envies suicidaires. C’est d’ailleurs ce programme qui pourrait inspirer les méthodes permettant de repérer des terroristes potentiels.

Une efficacité limitée

Si la confiance des internautes envers Facebook, Google ou Apple pourrait en prendre un coup, l’efficacité d’un tel système est loin d’être assurée. Comme le rappelait le spécialiste Duncan Ross en décembre 2014, il n'y a pas de raison d'être optimiste.

Même avec un taux de précision de 99,9%, un algorithme recherchant une centaine de terroristes repérerait un total de 60.000 individus, sur une population de 60 millions d’habitants. Un nombre de faux positifs qui noierait dans la masse les personnes effectivement dangereuses. Des limites qui font échos à celles évoquées en France au moment de l’adoption de la Loi Renseignement.

Raphael Grably