Sora 2: OpenAI va travailler avec les syndicats et agences d'acteurs américains pour tenter de contrôler les "deepfakes"

La start-up va collaborer avec le syndicat SAG-AFTRA et trois agences de talents américains afin de renforcer les garde-fous autour des générations de vidéos par IA non autorisées.

Depuis son lancement, fin septembre, Sora 2 fait l'objet de polémiques. Le dernier modèle d'IA d'OpenAI, disponible via une application, est apprécié de nombre d'utilisateurs, qui s'en servent pour générer des vidéos de personnes célèbres, vivantes comme décédées.

Une pratique qui déplaît aux personnalités concernées ou à leurs ayants droit. Après la succession de Martin Luther King, c'est l'acteur Bryan Cranston (Malcolm, Breaking Bad) qui a exprimé son désaccord après avoir vu sa voix et son image générées par IA dans des vidéos sans qu'il n'ait donné son consentement et sans rémunération.

"J'étais profondément inquiet, non seulement pour moi-même, mais aussi pour tous les artistes-interprètes dont le travail et l'identité peuvent être ainsi utilisés à mauvais escient", a-t-il déclaré dans un communiqué du syndicat des acteurs américains SAF-AFTRA, auquel il a fait part de ses préoccupations.

Protéger la voix et l'image des artistes

Face à ce problème, le syndicat va travailler avec OpenAI pour garantir la protection de la voix et de l'image des artistes dans Sora 2. Les agences d'artistes United Talent Agency, Creative Artists Agency et Association of Talent Agents font aussi partie de ce projet qui aura pour but de renforcer les garde-fous autour des générations par IA non autorisées. Les deux premières avaient déjà critiqué la start-up début octobre, l'appelant à respecter leur propriété intellectuelle avec son modèle d'IA.

Les collaborateurs ne donnent pas plus de détails sur ce projet, si ce n'est qu'il "s'aligne sur les principes inscrits de la loi en attente NO FAKES, qui vise à protéger les artistes et le public contre toute reproduction numérique non autorisée.

"OpenAI, SAG-AFTRA, Bryan Cranston et ses représentants de la United Talent Agency, de l'Association of Talent Agents et de la Creative Artists Agency partagent une position forte et unifiée en faveur de la loi NO FAKES et soutiennent son objectif d'établir une norme nationale garantissant que la voix et l'image des artistes ne peuvent être utilisées sans autorisation", ont-ils assuré.

"Ensemble, nous sommes convaincus que le consentement et la rémunération sont les fondements d'un écosystème créatif durable et éthique pour le divertissement et la technologie", ont-ils ajouté.

OpenAI en a par ailleurs profité pour rappeler qu'elle avait mis en place une politique d'adhésion volontaire pour l'utilisation de la voix ou de l'image d'un individu dans Sora 2, assurant qu'elle permet à tous les artistes, artistes-interprètes et individus de choisir si et comment ils peuvent être reproduits à l'aide de l'IA. "Nous défendrons toujours les droits des artistes-interprètes", a martelé son patron, Sam Altman, affirmant que son entreprise "est profondément engagée dans leur protection contre l'appropriation illicite de leur voix et de leur image".