Meta retire la fonction d'image IA Muse Image après les protestations

Le syndicat américain des acteurs SAG-AFTRA est intervenu dans le débat et a demandé à ses membres de désactiver la fonctionnalité afin de protéger leur propre image. Dans le même temps, des actrices, acteurs et créateurs et créatrices connus, disposant d'une large audience, ont utilisé leurs stories Instagram pour appeler également leurs abonnées et abonnés à renoncer à la fonction.

L'affaire soulève des questions fondamentales sur la gestion des fonctionnalités d'IA dans les réseaux sociaux. De l'avis des spécialistes, les images accessibles au public ne sont pas automatiquement libres pour toute chaîne de traitement. Les images de référence dans de tels systèmes agissent comme des données d'entraînement supplémentaires ou des signaux proches d'un prompt et touchent donc aussi bien à des questions juridiques qu'à celles du consentement.

Protection des données et réglages par défaut au cœur du débat

Un autre aspect concerne la protection des données et la régulation. Le rapport cite les exigences de transparence du Règlement général sur la protection des données (RGPD) de l'UE ainsi que l'évaluation juridique des droits d'utilisation comme processus de conformité pertinents pour de telles fonctions d'IA. Le cas montre que le Privacy by Design pour les fonctions d'IA ne doit pas intervenir après coup, mais être intégré dès le départ.

D'autres groupes technologiques se penchent également sur le sujet. Adobe met depuis longtemps l'accent sur la transparence quant aux données d'entraînement utilisées pour Firefly. Google travaille parallèlement à ses propres lignes directrices pour les fonctions de génération d'images, qui prévoient des mécanismes de classification des contenus et de contrôle utilisateur.

Signaux pour l'ensemble du secteur des plateformes d'IA

Globalement, le cas souligne la sensibilité croissante à l'égard des outils d'image assistés par IA dans les réseaux sociaux. Le fait que Muse Image ait été retiré déjà peu après son lancement est considéré par les observatrices et observateurs comme un signal fort adressé au secteur, appelant à accorder davantage d'attention aux réglages par défaut, à la transparence et aux droits des utilisatrices et utilisateurs lorsqu'il s'agit de fonctions d'IA.

Pour les créateurs et créatrices concernés, le retrait de la fonction constitue une réaction à leurs protestations. Reste toutefois à savoir comment Meta concevra à l'avenir des expériences IA comparables et quels standards l'entreprise appliquera en matière de transparence et de consentement.

La discussion autour de Muse Image intervient à un moment où les autorités de régulation et les organisations professionnelles surveillent de plus près le traitement de l'IA générative dans les grandes plateformes. L'arrêt de la fonction servira donc probablement, au-delà du cas concret, de point de référence pour les futures procédures et les débats politiques.