L'Australie bloquent trois sites web qui permettaient de générer du contenu pédopornographique grâce à l'IA

Des sites de génération de vidéos et de photos n'ayant pas implémenté de protection suffisantes permettaient de créer des vidéos à caractère pédopornographique. L'Australie annonce le blocage de ces pages déjà visitées par plus de 100.000 Australiens.

Trois sites permettant aux utilisateurs de générer du contenu pédopornographique à l'aide de l'intelligence artificielle ont été bloqués en Australie, a annoncé jeudi l'agence régulant internet dans le pays.

L'agence du gouvernement australien pour la sécurité électronique (eSafety Commissioner) a déclaré que ces pages web avaient reçu plus de 100.000 visites d'internautes localisés en Australie.

Selon l'organisme, ces sites sont liés à des affaires déjà médiatisées de contenu pédopornographique généré par l'IA, mettant en scène des écoliers notamment.

"Pas de mesures de protection contre le matériel pédopornographique"

La commissaire à la sécurité en ligne, Julie Inman Grant, a expliqué que le site web "n'avait pas mis en place de mesures de protection pour empêcher que ses services soient utilisés pour créer du matériel pédopornographique" et commercialisait des fonctionnalités permettant aux utilisateurs de déshabiller "n'importe quelle fille".

"Avec le blocage de l'accès à ce fournisseur majeur (...), nous pensons qu'il y aura un impact tangible sur le nombre d'écoliers australiens victimes d'exploitation sexuelle générée par l'IA", a-t-elle ajouté.

Les pages étaient administrées par la société Itai Tech, condamnée la semaine dernière à une amende par le régulateur britannique Ofcom, pour ne pas avoir mis en place de mesures de vérification de l'âge des utilisateurs, a appris l'AFP.

Itai Tech a reçu un avertissement officiel de la part d'eSafety en septembre, et a été menacée d'une amende pouvant atteindre 49,5 millions de dollars australiens (près de 28 millions d'euros) pour des fonctionnalités "alarmantes" clairement destinées aux enfants.

Le gouvernement australien avait indiqué plus tôt travailler à l'élaboration d'une nouvelle législation contre les contenus pornographiques générés par l'IA, et le harcèlement en ligne, sans toutefois fournir de calendrier.

C'est déjà demain : L'une des dérives de l'IA, la prolifération des deepfake - 30/12

3:20

Il va par ailleurs, à partir du 10 décembre, obliger une liste de plateformes telles que Facebook, Instagram et TikTok, à supprimer les utilisateurs de moins de 16 ans, sous peine d'amende.

Meta va devancer la mesure en excluant les Australiens de moins de 16 ans de Facebook et d'Instagram à partir du 4 décembre, six jours avant l'entrée en application de cette loi.