La justice américaine rappelle aux géants de l'IA qu'ils doivent protéger les enfants de leurs chatbots

44 procureurs généraux ont adressé une lettre à Google, Meta, OpenAI et autres entreprises derrière ces chatbots, afin de rappeler leurs responsabilités et leurs obligations d'empêcher leurs créations d'avoir des conversations sexuelles avec des mineurs, ou tout autres comportements illégaux.

Comme un petit coup de chaud. En tout cas, un véritable rappel à leurs obligations pour tous les géants de la tech, qui mettent à disposition des chatbots. Le 25 août, 44 procureurs généraux ont envoyé une lettre commune pour avertir Google, OpenAI, Meta ou encore xAI d'un danger particulier lié à l'utilisation de leurs robots conversationnels par les enfants.

"Nous, procureurs généraux de 44 jurisdictions, vous adressons une lettre pour vous informer de notre détermination à user de tous les moyens dont nous disposons pour protéger les enfants contre l'exploitation par des produits d'intelligence artificielle", commencent-ils.

Reconnaissant avoir besoin de la réussite de ces entreprises, ils estiment que cela ne peut pas se faire au détriment du "bien-être des enfants".

"Nous sommes tous révoltés"

Les procureurs généraux font référence aux récentes révélations concernant Meta, selon lesquelles le groupe californien a bel et bien autorisé ses chatbots à avoir des conversations "sensuelles ou romantiques" avec des enfants.

Pourtant, lorsque le Wall Street Jounal avait dévoilé que les robots conversationnels de l'entreprise pouvaient avoir des conversations sexuelles avec les utilisateurs, dont les mineurs, elle s'était défendue en affirmant que les tests menés par le quotidien américain n'étaient pas représentatifs de la manière dont la plupart des utilisateurs s'engagent avec des chatbots.

"Nous sommes tous révoltés par ce mépris apparent pour le bien-être émotionnel des enfants et alarmés par le fait que les assistants IA se livrent à des comportements apparemment interdits par nos lois pénales respectives", fustigent les procureurs généraux.

Outre ces derniers, les chatbots de Meta sont également dans le viseur du Brésil. Son gouvernement a récemment demandé à la société de retirer les agents conversationnels créés pour ressembler à des enfants et ayant des conversations à caractère sexuel.

Comportement illégal

Le fait que les chatbots puissent avoir des conversations sexuelles avec des mineurs n'est pas le seul problème pour les procureurs généraux. Ils s'inquiètent également d'autres propos inappropriés, faisant notamment référence à la plainte contre la plateforme Character.ai, qui est accusé par une mère d'avoir poussé son adolescent au suicide avec l'un de ses robots conversationnels.

"Et ce ne sont là que les exemples les plus visibles, qui ont retenu l'attention des médias (...) Exposer des enfants à des contenus sexualisés est indéfendable. Et un comportement qui serait illégal, voire criminel, s'il était commis par des humains n'est pas excusable du seul fait qu'il est le fait d'une machine", soulignent les procureurs généraux.

Ils concluent leur lettre en avertissant les entreprises qu'elles seront tenues responsables de leurs décisions. "Nous vous souhaitons à tous de réussir dans la course à la domination de l'IA. Mais nous restons attentifs. Si vous portez volontairement préjudice aux enfants, vous en répondrez", affirment-ils.