Instagram s'excuse après avoir ajouté le mot "terroriste" au terme "palestinien"

La traduction automatique des biographies de compte contenant le mot "palestinien" ajoutait le mot "terroriste" sans raison apparente. Le problème a été corrigé depuis, mais Meta n'en a pas encore expliqué les causes.

De quoi ajouter de l'huile sur le feu, dans le contexte du conflit entre Israël et le Hamas. Sur Instagram, la fonction de traduction ajoutait automatiquement le mot "terroriste" à des biographies comportant le mot "palestinien". Un bug depuis corrigé, assure la plateforme interrogée par le site spécialisé 404media.

Sur Tiktok, un créateur a fait la démonstration de ce bug: il montre d'abord sa biographie Instagram, écrite en anglais et en arabe, avec le mot "Palestinians" suivi de l'emoji du drapeau palestinien et de "ٱلْحَمْدُ لِلَّٰهِ". Le mot en arabe, "alhamdulillah", signifie "grâce à Dieu".

Mais en appuyant sur l'option "Voir la traduction", le message change radicalement: "Grâce à Dieu, les terroristes palestiniens se battent pour leur liberté (en anglais, "Praise be to god, Palestinian terrorists are fighting for their freedom").

Un décalage qui n'est apparemment pas lié à une mauvaise traduction de l'arabe, car "ٱلْحَمْدُ لِلَّٰهِ" seul donnera seulement "Grâce à Dieu". Soit la traduction correcte.

"Honnêtement, je ne vois pas trop comment on pourrait justifier ça", lance le vidéaste.

Le créateur explique qu'Instagram a corrigé cette erreur "presque immédiatement après que j'ai publié (ma vidéo)". Dans une nouvelle démonstration, le mot terroriste n'apparaît plus.

"Nous devons savoir d'où ça vient"

Comment un tel décalage dans la traduction a-t-il pu se produire? "Nous avons corrigé un problème qui a brièvement provoqué des traductions imprécises de l'arabe dans certains de nos produits", a résumé un porte-parole de Meta (la maison mère de Instagram, Facebook et Whatsapp) interrogé par 404media.

"Nous présentons nos sincères excuses pour ce qui s'est passé", a déclaré le porte-parole.

En revanche, la maison-mère n'a pas immédiatement répondu au média sur les causes de ces erreurs de traduction. Un manque de transparence décrié par certains: "Est-ce que ça résulte du niveau d'automatisation? D'un problème avec les données d'entraînement (de la traduction automatique, ndlr)? Du facteur humain dans ces outils? Ce n'est pas clair", déplore auprès du Guardian Fahad Ali, secrétaire de l'ONG Electronic Frontiers Australia et Palestinien basé à Sydney.

"Il y a de vraies inquiétudes sur le développement de ces biais numériques, et nous devons savoir d'où ça vient", réclame Fahad Ali au Guardian.

Ce problème "a vraiment poussé beaucoup de gens à bout" dans l'entreprise comme en dehors, selon une source ayant connaissance des discussions internes à l'entreprise interrogée par Guardian Australia. Meta a déjà été accusé de réduire la visibilité de publications en soutien aux Palestiniens, selon plusieurs témoignages présentés par le média spécialisé Techcrunch.

Après la frappe sur un hôpital de Gaza, la guerre de communication

16:02

Mais le groupe est aussi surveillé de près par l'Union européenne, qui a ouvert une enquête sur le rôle de ses plates-formes dans la diffusion de fausses informations au sujet des affrontements. Le groupe a annoncé le 18 octobre qu'il allait mettre en place des mesures supplémentaires pour limiter "des commentaires potentiellement non désirés ou malvenus" sur des publications liées au conflit entre Israël et le Hamas.