“Three black teenagers”: la recherche de Google est-elle raciste?

Un jeune Américain a pointé les différences entre les résultats Google concernant les étudiants noirs et les étudiants blancs.

En un tweet, un étudiant afro-américain a rappelé que le fonctionnement de la recherche Google - comme n’importe quel algorithme - n’a strictement rien d’objectif. Sur une courte vidéo, Kabir Alli a montré les résultats de deux requêtes successives dans la catégorie des images. En tapant “Three black teenagers” (“Trois jeunes noirs”), une série de photos de jeunes hommes noirs apparaît. Sauf que la plupart des clichés sont en réalité des photos d’identité judiciaire, prises par la Police après une arrestation. En recherchant “Three white teenagers” (“Trois jeunes blancs”), on tombe sur des photos provenant de librairies d’images. On y voit des étudiants, blancs, souriants, au meilleur de leur forme.

Si accuser Google de racisme n’a techniquement pas de sens, le moteur de recherche est en revanche le reflet de nombreux biais raciaux, dont les médias sont en partie responsables.

Une image remonte dans les résultats de recherche lorsqu’elle est utilisée sur des pages Web référencées par Google. Or la plupart des clichés mettant en scène des jeunes noirs arrêtés par les autorités viennent d’articles de presse. Parmi les explications possibles, celle d’un traitement médiatique différent des criminels selon leur couleur de peau.

Comme le rappelle le Guardian, cette thèse a récemment été évoquée lors de l’affaire Brock Turner, étudiant (blanc) de l’Université de Stanford, tout juste condamné pour viol. Pour illustrer leurs articles, de nombreux médias avaient utilisé un portrait de l’annuaire de l’école, le présentant souriant et bien habillé.

Mais les journalistes ne sont pas les seuls à blâmer: les autorités américaines se sont finalement décidées à publier une photo de Turner prise lors de son arrestation… un an et demi après son arrestation. Pour de nombreux internautes, la Police n’aurait pas attendu aussi longtemps si le violeur avait été noir.

L’algorithme de Google n’est pas le premier à créer la polémique dans ce domaine. Au mois de mars, Microsoft ouvrait le compte Twitter de Tay, une intelligence artificielle. L’entreprise américaine l’avait programmée pour évoluer en fonction de ses discussions. Cela n’a pas loupé, et le robot est rapidement devenu raciste et machiste, avant d’être mis hors-ligne. L’an dernier, la plateforme d’images Flickr avait classé la photo d’un homme noir dans la catégorie “singes”. Autant d’exemples qui rappellent que les préjugés des machines viennent aussi de ce qu’ils analysent, ou de ceux qui les programment.

https://twitter.com/GrablyR Raphaël Grably Rédacteur en chef adjoint Tech & Co