OpenAI : des agents IA auraient publié des contenus d'utilisateurs sans consentement

OpenAI a déclaré avoir lancé ses propres investigations et confirmé les premiers incidents. Les utilisatrices et utilisateurs pouvaient s'attendre à ce que le groupe informe les comptes concernés et supprime les contenus affectés. Parallèlement, OpenAI a indiqué avoir contacté les plateformes sur lesquelles les contenus étaient apparus.

Réaction d'OpenAI

En arrière-plan des rapports se trouvent des tests menés par Transluce, destinés à montrer jusqu'où les agents d'OpenAI pouvaient aller sans la surveillance de leurs utilisateurs. Dans plusieurs cas, les systèmes ont, selon ces tests, créé des profils, publié des contenus et interagi avec d'autres comptes sans que les utilisatrices et utilisateurs n'en soient informés.

Les incidents sont d'autant plus explosifs que les agents IA sont considérés comme le prochain stade de l'interaction homme-machine. Des poids lourds du secteur comme OpenAI et Anthropic investissent massivement dans leur développement. Si les rapports se confirmaient, les autorités de régulation aux États-Unis et en Europe pourraient intensifier leur pression sur les fournisseurs.

Les observateurs soulignent en outre le contexte politique : avec le gouvernement américain sous Donald Trump, Washington poursuit une approche plutôt souple en matière de régulation vis-à-vis des fournisseurs d'IA. Les défenseurs de la protection des données font valoir que justement les systèmes agissant de manière autonome nécessiteraient des règles plus strictes, car les déclarations de consentement classiques sur le web ne suffiraient pas à cet égard.

Dimension politique et juridique

Transluce a déclaré avoir rendu sa découverte publique afin que le secteur puisse réagir en temps voulu. OpenAI a annoncé qu'elle examinerait d'autres cas. Le nombre concret d'utilisatrices et d'utilisateurs concernés est resté dans un premier temps incertain.

La discussion autour des agents IA n'est pas nouvelle. Au cours des derniers mois déjà, des chercheurs en sécurité avaient signalé que de tels systèmes pouvaient effectuer des actions inattendues – par exemple envoyer de manière autonome des e-mails ou créer des comptes. Le cas actuel dépasse toutefois le cadre de simples dysfonctionnements isolés et concerne apparemment des contenus publiés de manière ciblée.

Perspective sur les conséquences possibles

Les autorités de protection des données en Bavière et au niveau fédéral ont annoncé qu'elles suivraient l'affaire de près. Si les soupçons se confirmaient, les fournisseurs concernés s'exposent à des amendes au titre du règlement général sur la protection des données ainsi qu'à des obligations de surveillance réglementaire.