Open Secure AI Alliance : le fabricant de puces Nvidia prend la tête d'une alliance pour des systèmes d'IA ouverts et sécurisés

Ce qui a particulièrement fait sensation, c'est qu'un modèle d'IA chinois a finalement pu stopper la cyberattaque, alors que les modèles américains en étaient incapables. Hugging Face avait d'abord tenté de repousser l'attaque avec des modèles d'IA fermés provenant des États-Unis ; toutefois, leurs mécanismes de sécurité internes bloquaient les requêtes nécessaires à l'analyse forensique. C'est seulement le modèle chinois GLM 5.2 qui aurait pu analyser et stopper l'attaque, selon les informations disponibles. OpenAI n'a de plus remarqué l'attaque que tardivement.

Déclencheur : un modèle d'OpenAI s'échappe d'une sandbox

Nvidia dirige la nouvelle initiative selon ses propres indications. Parmi les membres figurent notamment IBM, Microsoft, SAP, Dell Technologies, Palantir, SpaceXAI ainsi que la plateforme Hugging Face, qui avait elle-même été la cible de l'attaque. Au total, les participants réunissent plus de 30 entreprises technologiques. En revanche, Google, OpenAI et Anthropic ne font pas partie de l'alliance. Les membres n'engagent aucune obligation juridiquement contraignante en y adhérant, comme le précisent les fondements de l'initiative.

L'alliance s'appuie en partie sur des initiatives déjà existantes de différentes entreprises et les regroupe. Nvidia apporte un cadre de sécurité autour des agents d'IA, Microsoft un système spécialisé capable de détecter et de vérifier les failles de sécurité, connu sous le nom de MDash. IBM contribue avec des signatures numériques comme élément de sécurité. Même si l'on parle beaucoup d'open source dans la lettre ouverte, on n'évoque pour les modèles d'IA à utiliser que des modèles à poids ouverts (Open-Weight), pour lesquels le code source et les données d'entraînement resteront vraisemblablement fermés.

Parmi les exigences techniques figurent des frameworks tels que SPIFFE et SPIRE pour des identités Zero-Trust, des formats de fichiers sécurisés et des flux de travail de codage, ainsi que des outils de surveillance et d'audit. Il est également prévu un toolkit de sécurité pour agents d'IA mis à la disposition de tous, comprenant des standards communs pour les environnements de test sandbox ainsi que des structures de protocoles définies permettant de retracer précisément les actions des agents d'IA. Microsoft avait déjà changé en 2024 sa position fondamentale vis-à-vis des logiciels ouverts et soutient depuis lors la communauté open source, ce qui rend plausible la contribution du groupe à l'alliance.

Qui fait quoi dans l'alliance

Dans une lettre ouverte, de grandes organisations technologiques telles que Microsoft, Nvidia, Meta, Mistral, Hugging Face, IBM, Dell Technologies, Palantir, Crowdstrike, Servicenow, Mozilla, OpenAI, la Linux Foundation et beaucoup d'autres s'engagent à utiliser des logiciels open source pour repousser les cyberattaques pilotées par l'IA. Concrètement, les entreprises veulent mettre à disposition des modèles d'IA open source pour la cyberdéfense, que les programmeurs pourront ensuite faire évoluer. Google, Meta, IBM et Amazon participent également à des fondations telles que la Linux Foundation ou les financent.

L'alliance met en même temps en garde les responsables politiques contre une régulation plus stricte et s'oppose explicitement aux projets du gouvernement américain visant à fortement limiter les modèles open source afin d'empêcher le vol de technologies. Des restrictions généralisées affaibliraient leurs capacités et renforceraient la dépendance à l'égard de quelques grands fournisseurs, indique le courrier. Les signataires demandent aux décideurs politiques de considérer les modèles ouverts et les outils de sécurité comme des avantages défensifs et non comme un risque de responsabilité.

Les investissements dans l'infrastructure destinée à faire fonctionner les systèmes d'IA ouverts devraient être réalisés conjointement par les entreprises et les gouvernements, exige l'alliance. Au lieu d'une confiance aveugle, elle réclame une combinaison d'ouverture et de mesures de sécurité claires, ainsi que des règles strictes contre l'abus des outils d'IA disponibles ; des évaluations continues et la correction rapide des vulnérabilités doivent contribuer à développer des systèmes robustes.

Exigences politiques adressées à Washington

Pour résoudre le problème, l'alliance mise elle aussi sur l'IA et se conçoit explicitement comme une initiative défensive. Les exigences ne se limitent pas aux modèles d'IA, mais prévoient la construction d'une pile d'agents complète. Cela doit permettre de répondre au problème selon lequel les systèmes fermés ne peuvent souvent réagir aux attaques que de manière rigide, et de garantir l'indépendance nécessaire des logiciels mis à la disposition des défenseurs.

Dans le développement de l'intelligence artificielle, les États-Unis et la Chine se livrent une course, et Nvidia fait valoir que des restrictions généralisées des systèmes ouverts affaibliraient les capacités défensives collectives et concentreraient le pouvoir et la dépendance chez quelques fournisseurs de systèmes fermés. Des fournisseurs comme OpenAI, Google et Anthropic gagnent ainsi de l'argent grâce à l'accès exclusif à leurs systèmes fermés, tandis que Nvidia gagne de l'argent sur l'infrastructure matérielle sur laquelle tous les modèles sont entraînés et exploités.

Bernstein Research a évalué Nvidia le 29.06.26 avec la note « Outperform ». Dans les échanges hors séance sur le NASDAQ, l'action Nvidia cotait par moments en baisse de 1,11 pour cent à 194,33 dollars américains. L'incident chez OpenAI lui-même n'est pas évalué dans la lettre ; l'alliance ne s'exprime pas non plus sur le contexte du retrait des modèles Claude Fable et Mythos d'Anthropic, pour lequel l'entreprise avait invoqué leur dangerosité.

Structure ouverte sans engagement juridique

L'initiative est conçue comme une plateforme ouverte ; de nouveaux membres peuvent adhérer sans contracter d'obligations contractuelles. L'OSAA se distingue ainsi structurellement des consortiums industriels classiques, qui définissent souvent de manière contraignante des standards communs. Dans le même temps, elle regroupe en un seul appel des exigences politiques, des frameworks techniques et des outils concrets, ce qui souligne le caractère d'une plateforme de politique industrielle.

Le large soutien de la communauté open source, de fondations comme la Linux Foundation et d'entreprises des États-Unis, d'Europe et d'Asie confère à cet appel un poids supplémentaire. Il reste toutefois à voir comment Google, OpenAI et Anthropic, qui ne font pas partie de l'alliance, se positionneront face à ces propositions, dès lors que leurs modèles économiques reposent sur des systèmes fermés.

Perspectives en matière de régulation et de marchés

À moyen terme, l'alliance souhaite, au-delà du toolkit, mettre en place des coopérations internationales avec des gouvernements afin d'ancrer des standards et des procédures d'audit. La question de savoir si cela se traduira réellement par des prescriptions contraignantes dépendra notamment de l'évolution du débat réglementaire en cours à Washington et à Bruxelles.