L'intelligence artificielle pour prévenir les suicides en direct sur Facebook

Grâce à l'intelligence artificielle, le réseau social serait capable de repérer des publications de ses utilisateurs indiquant une intention de se suicider. Il annonce également de nouvelles fonctionnalités pour empêcher les passages à l'acte sur Facebook Live.

Après plusieurs cas de suicides sur le service de diffusion vidéo en direct Facebook Live, le réseau social renforce ses outils de prévention. Vanessa Callison-Burch, chef de produit chez Facebook, a annoncé à la BBC et à Buzzfeed News que le réseau social allait commencer à utiliser l'intelligence artificielle pour repérer des utilisateurs susceptibles de passer à l'acte, sur Facebook Live comme sur le reste de la plateforme.

Cette nouvelle initiative est déployée en lien avec des associations de prévention du suicide. Lorsque Facebook repère des publications d'un utilisateur évoquant par exemple la tristesse et la souffrance, ou des réponses d'amis du genre "'est-ce que tu vas bien" ou "je m'inquiète pour toi", elle sont transmises aux équipes de Facebook pour vérification, explique la BBC. Le réseau social proposera alors à l'utilisateur de parler avec un ami, lui prodiguera des conseils et facilitera le contact avec les associations partenaires via sa messagerie Messenger.

Facebook n'arrêtera pas la diffusion d'un potentiel suicide

Si un Facebook Live est considéré comme à risque, la même procédure (conseils et prise de contact avec les associations) s'enclenchera. Mais lors de diffusions en direct, la situation est évidemment plus urgente, car il s'agit de personnes qui risquent de suicider immédiatement. Ceux qui regardent seront aussi mis à contribution: Facebook leur enverra des conseils sur la manière dont ils peuvent aider la personne en détresse.

Facebook a décidé de ne pas couper les diffusions, et prend donc le risque de voir des suicides se produire en direct. L'entreprise estime qu'il vaut mieux maintenir la connexion avec la personne pour tenter de l'empêcher de suicider.

Les algorithmes plus efficaces que les signalements

L'intelligence artificielle de Facebook a été entraînée à reconnaître des publications indiquant un risque de suicide grâce aux signalements des utilisateurs. Plusieurs fonctionnalités permettaient déjà de prévenir le réseau social que l'on s'inquiète pour un ami ou que l'un de ses posts fait craindre un suicide. Mais "l'intelligence artificielle est plus précise que les signalements de potentiels suicides et mutilations que nous recevons des gens", affirme Vanessa Callison-Burchold à Buzzfeed.

Selon la BBC, ces nouvelles fonctionnalités sont testées aux Etats-Unis pour l'instant, mais seront déployées dans le monde entier. Exceptée la possibilité d'être mis en contact avec des associations, réservée aux Etats-Unis, Facebook souhaitant d'abord s'assurer que les associations d'autres pays pourront gérer la demande.

Jamal El Hassani