"La porte d'entrée à de multiples arnaques": c'est quoi les "boomers traps", ces fausses images trompeuses sur Facebook?

Depuis quelques mois, ces images générées par IA inondent les réseaux sociaux, Facebook en tête. L'objectif? Attendrir ou révolter les internautes les plus vulnérables pour créer de l'engagement et éventuellement, leur soutirer de l'argent.

Il y a cet enfant, sourire aux lèvres, qui pose fièrement devant une sculpture d'un cheval en carottes. Cette grand-mère, en pleurs devant son plat de raviolis le jour de son anniversaire, qui explique avoir été abandonnée dans une maison de retraite par ses enfants. Ou encore une jolie bergère devant son troupeau qui s'attriste de ne pas avoir "autant de likes que Jennifer Lopez".

Tous trois réclament la même chose: des félicitations ou des messages d'entraide. Un appel entendu par des milliers d'utilisateurs qui regorgent de superlatifs dans les commentaires pour leur apporter un peu de soutien. "Bravo mon bonhomme, c'est génial", lance une internaute au milieu des milliers de commentaires. "Quelle tristesse monsieur, vos enfants regretteront quand le moment sera venu pour eux", renchérit un autre sous une autre publication.

Jouer sur la corde sensible

Pourtant, toutes ces images sont générées par intelligence artificielle (IA). Depuis l'été dernier, ce type de publication, baptisées "boomers traps", ou "pièges à seniors", pullulent sur les réseaux sociaux. Comme leur nom l'indique, elles ciblent principalement les baby-boomers, les internautes les plus âgés et potentiellement les plus vulnérables face aux pièges virtuels.

Tiktok, X (ex-Twitter), ou encore Youtube: aucune plateforme n'est épargnée. Mais c'est Facebook qui héberge la majorité des boomers traps. Sur le réseau social, des centaines et des centaines de pages partagent, parfois plusieurs fois par jour, ces images.

Au programme, des artisans fiers de leurs réalisations, des fêtes d'anniversaire d'enfants ou de personnages âgés et des vétérans de guerre estropiés. L'objectif est d'attendrir les internautes, de les révolter ou de les émerveiller pour les pousser à baisser leur garde et les piéger.

"Les bébés, les chatons, les orphelins... Ces images jouent sur la corde sensible et la crédulité des utilisateurs", observe Victor Baissait, enseignant en tech et "chasseur de brouteur" auprès de Tech&Co. "Ce sont des clichés qui suscitent des émotions pour qu'ils likent et que la publication soit mise en avant dans l'algorithme."

Un procédé quasi-industriel

Le procédé n'a d'ailleurs rien de nouveau. Il était déjà utilisé dans les clickbaits ("pièges à clics"), ces fameuses publications qui incitaient il y a dix ans les utilisateurs à cliquer sur des liens à coup d'histoires chocs ou attendrissantes. "L'intelligence artificielle leur a simplement donné un nouveau souffle", analyse Victor Baissait.

"Pire, il existe désormais une multitude d'outils gratuits pour générer ces images. C'est encore plus facile pour les escrocs d'inonder de façon industrielle les réseaux avec de fausses images réalistes." Résultat, ces clichés amassent plusieurs dizaines, voire centaines de milliers de likes et d'abonnés.

Quelques indices trahissent pourtant la nature de ces images. Des mains à six doigts, des lignes floues ou encore des vêtements qui disparaissent. Certains utilisateurs plus avertis n'hésitent pas à pointer du doigt la supercherie dans les commentaires. Mais ils se font de plus en plus rares.

"Même si certains utilisateurs remarquent que ces images sont fausses, ils n'ont pas l'impression de faire quelque chose de mal en likant ou en commentant", rappelle Stéphanie Laporte, fondatrice de l'agence social média Otta à Tech&Co. Pourtant, "ils alimentent des mécaniques loin d'être inoffensives."

Trafic, escroqueries et arnaques aux sentiments

Ces images ne représentent pas tous une menace directe, bien sûr. Le premier objectif de ces "boomers traps" est de générer du trafic. En effet, plus une publication génère des likes, plus elle sera mise en avant dans l'algorithme et deviendra virale. Or, "cet engagement génère des revenus grâce à la publicité et aux mécaniques de rémunération des plateformes", insiste Stéphanie Laporte.

"Ces pages particulièrement suivies peuvent ensuite être revendues à des escrocs contre une coquette somme sur le darknet ou directement servir de porte d'entrée à de multiples arnaques", note Victor Baissait. Les propriétaires de ces pages utilisent en effet ces pièges à boomer comme un produit d'appel pour les rediriger vers d'autres sites, remplis de publicité ou d'arnaques.

Par exemple, la page "Faithful" publie régulièrement des images d’enfants amputés ou des clichés d’artisans devant leurs réalisations, toujours plus impressionnantes et irréalistes les unes que les autres à ses 1,2 million d'abonnés. Chacune de ces photos récolte des millions de likes.

Les utilisateurs sont ensuite invités à cliquer sur un lien pour en savoir plus sur cette image. Il redirige alors les internautes vers un site web qui renvoie vers une cinquantaine de publicités différentes pour des escroqueries. Certaines des réclames cachent également des pièges pour récupérer les données personnelles des internautes.

L'autre risque, c'est de se faire identifier par un brouteur, un escroc qui piège ses victimes sur internet en leur faisant croire à une prétendue relation amoureuse pour leur soutirer de l'argent. "Toutes les personnes qui commentent les boomers traps sont identifiées par les escrocs comme des personnes crédules et donc, des victimes potentielles à une arnaque aux sentiments", alerte Victor Baissait.

"Ces pages facilitent le travail des brouteurs", poursuit l'expert. "Ils n'ont qu'a envoyer des messages en masse à ces utilisateurs et espérer qu'un d'entre eux tombe dans le piège."

L'inaction des plateformes

Depuis le mois de mai dernier, Meta (Facebook, Instagram, Whatsapp) identifie toutes les photos générées par de l’intelligence artificielle grâce au label "Made with AI". Pourtant, selon les constatations de Tech&Co, aucune des images générées par IA de ces pages n'ont été labellisées.

Le Challah Horse. © capture d'écran

"Les réseaux sociaux ne font pas le tri des contenus générés par IA", tranche Stéphanie Laporte. "Ce sont des contenus très engageants qui retiennent les utilisateurs. Les plateformes n'ont donc pas intérêt à se mobiliser contre ces publications." D'autant que la majorité des escrocs derrière ces pages n'hésitent pas à débourser quelques dollars par mois pour obtenir un abonnement premium, gage de crédibilité. C'est notamment le cas sur X, avec la célèbre coche bleue.

Et la situation ne risque pas de s'arranger. En janvier dernier, le groupe de Mark Zuckerberg a annoncé une série de changements en termes de modération sur Facebook et Instagram. Au programme, la fin du dispositif de fact-checking de l'entreprise, pour le remplacer par un système de notes de la communauté similaire à celui de X.

Les experts militent donc pour un meilleur encadrement de ces contenus générés par IA, qui devraient être systématiquement labellisés comme tels. En attendant, ils conseillent aux utilisateurs de signaler ces publications aux plateformes et de redoubler de vigilance.