Comment des enfants brésiliens ont entraîné des intelligences artificielles à leur insu

Une enquête de Human Right Watch dévoile que les modèles d'intelligence artificielle générative ont utilisé des photos d'enfants sans leur consentement.

"Les enfants ne devraient pas avoir à vivre dans la peur que leurs photos soient volées et utilisées contre eux." L'ONG Human Rights Watch tire la sonnette d'alarme après avoir découvert que certains modèles d'intelligence artificielle générative utilisaient des photos d'enfants d'origine brésilienne, et ce, sans leur consentement.

Des noms et prénoms d'enfants visibles

Pour l'ONG, cela expose l'enfant "au risque d'exploitation et d'autres préjudices." C'est la chercheuse Hye Jung Han qui a fait ces découvertes après avoir analysé la banque d'images LAION-5B, utilisée pour entraîner des IA, et qui avait déjà été pointée du doigt pour contenir de la pédopornographie.

"LAION-5B contient des liens des vers photos identifiables d'enfants brésiliens," alerte l'ONG, qui note que les noms et prénoms de ces derniers sont parfois également mentionnés, voire également les lieux où ils se trouvent.

Au total, LAION-5B possède près de 6 milliards d'images et de légendes. Mais sur les 0,0001% analysés, Human Rights Watch note déjà des problèmes.

Des problèmes qui pourraient aller jusqu'à l'usurpation d'identité grâce à de l'IA générative, ou encore la création de deepfakes à caractère sexuel, diffusés ensuite sur les réseaux sociaux. Les créateurs de la base de données se sont engagés auprès de l'ONG à supprimer les photos d'enfants brésiliens.

D'une manière générale, l'organisme appelle à plus de responsabilité, que ce soit de la part des entreprises liées à l'intelligence artificielle, mais aussi des Etats, comme le Brésil: "Le gouvernement brésilien devrait adopter d'urgence des mesures pour protéger les données des enfants contre toute utilisation abusive liée à l'IA."