Avortement, gay pride... Sur Facebook, de faux Américains créés par IA tentent d'influencer l'élection

Dans un nouveau rapport, l'organisme de lutte contre la haine en ligne, Counter Hate, dévoile une série de mèmes cherchant à influencer les élections sur Facebook.

On connaissait les robots cherchant à influencer l'élection présidentielle américaine, qui aura lieu le 5 novembre 2024, mais depuis quelques mois, il faut également compter sur les mèmes générés par intelligence artificielle, qui pullulent sur le réseau social Facebook.

Des mèmes orientés politiquement, et qui rencontrent surtout beaucoup de succès. Dans un nouveau rapport de l'organisme Counter Hate, qui lutte contre la haine et la désinformation en ligne, on découvre en effet des exemples cherchant à décrédibiliser certains points du programme de Kamala Harris.

Des messages font ainsi référence à sa politique sur l'immigration, avec une dame âgée, générée par de l'IA, affirmant "qu'on va la haïr pour dire qu'apprendre l'anglais devrait être un prérequis pour demander la nationalité américaine." Cette image a généré plus de 128.000 réactions (commentaires, "j'aime" et partages).

Un autre mème, montrant cette fois-ci un prétendu vétéran de guerre, parle du mois des fiertés "alors qu'il n'y a pas de mois des vétérans, nous devons revoir nos priorités". Là encore, le succès est au rendez-vous auprès du public touché, qui multiplie les approbations.

Un mème généré par de l'IA © Sony

Certaines de ces publications sont d'ailleurs toujours en ligne à l'heure actuelle.

Le problème de ces mèmes, c'est que malgré qu'ils aient été générés par de l'IA, a aucun moment Facebook ne les signale comme tel, alors qu'il s'est engagé à le faire au printemps 2024.

Au total, 169 publications ont été analysées et laissent entrevoir un problème avec le robot de Facebook censé détecter ce type de contenu créé artificiellement. Un risque en cette période d'élection. D'autant qu'ils ne critiquent que la politique et le programme de Kamala Harris, et mettent en avant des promesses de Donald Trump.

Counter Hate pointe également du doigt l'absence de procédé facile pour mieux signaler un contenu généré par de l'IA aux équipes de modération de Meta.