Anthropic retire ses modèles d'IA phares Fable 5 et Mythos 5 dans le monde entier après l'interdiction d'exportation américaine

La justification officielle du gouvernement américain était que les nouveaux modèles d'Anthropic représentent un risque inacceptable pour la sécurité nationale. Selon l'administration, les systèmes pourraient identifier des vulnérabilités logicielles critiques et les rendre exploitables pour des cyberattaques. Anthropic a rejeté cette caractérisation. L'entreprise a déclaré que les prétendues failles de sécurité étaient 'minimal' et a fait valoir que d'autres modèles concurrents librement accessibles, nommément cités comme GPT-5.5, possèdent des capacités similaires. Anthropic a également fait remarquer que l'application d'une norme comparable à chaque fournisseur d'IA de premier plan pourrait effectivement empêcher l'introduction de nouveaux modèles.

Le rôle rapporté d'Amazon dans la décision

Selon des informations des médias américains rapportées par The Wall Street Journal, Reuters et The Information, le PDG d'Amazon Andrew Jassy a été l'un des moteurs de l'interdiction d'exportation. Jassy a déclaré à de hauts responsables du gouvernement américain, dont le secrétaire au Trésor Scott Bessent, que les chercheurs en cybersécurité d'Amazon avaient réussi à 'jailbroken' le modèle Fable 5 à l'aide d'une séquence d'instructions ciblée. Dans un jailbreak, les utilisateurs trouvent des moyens de contourner les garde-fous de sécurité intégrés dans un système d'IA. La méthode consiste essentiellement à demander à un modèle d'analyser un codebase logiciel et d'identifier ou de corriger d'éventuelles erreurs. Jassy a déclaré que le modèle jailbreaké avait ensuite produit des informations sensibles qui pourraient être utilisées pour des cyberattaques à grande échelle. Amazon est l'un des plus grands investisseurs d'Anthropic et est étroitement lié à la société d'IA via sa division cloud AWS.

Le magnat de la tech David Sacks, décrit comme un ancien 'AI Czar' de l'administration Trump et coprésident du Conseil des conseillers du président pour la science et la technologie, a confirmé le rôle d'un 'partner' non nommé — qu'il faut comprendre comme étant Amazon — qui a présenté un jailbreak fonctionnel au gouvernement. "Die Administration forderte [Anthropic-CEO Dario Amodei] auf, den Jailbreak entweder zu flicken oder das Modell vorerst vom Netz zu nehmen. Dario weigerte sich," a déclaré Sacks, selon la traduction de finanzen.net. Il a ajouté : "Ein hochgradig glaubwürdiger, vertrauenswürdiger Partner sowohl von Anthropic als auch der US-Regierung trat mit einem funktionierenden Jailbreak an uns heran." Sacks a déclaré qu'après le refus d'Anthropic, le gouvernement a "widerwillig" déclenché la mesure et imposé l'interdiction d'exportation. Il a également exprimé l'espoir qu'Anthropic corrige le problème de sécurité, après quoi les contrôles à l'exportation seraient levés et Fable pourrait revenir à une diffusion générale.

La réponse d'Anthropic et le contentieux sur la proportionnalité

Un porte-parole d'Amazon a refusé de partager les détails de ces discussions, déclarant à finanzen.net : "Wenn dies geschieht, teilen wir die Details dieser Diskussionen nicht." Le porte-parole a ajouté que, en tant que fournisseur cloud de premier plan desservant un grand nombre de clients des secteurs privé et public, il n'est pas inhabituel que les gouvernements sollicitent les conseils de l'entreprise sur les risques potentiels en matière de sécurité.

Anthropic a reconnu que les autorités avaient eu connaissance d'une méthode permettant de contourner partiellement les mécanismes de protection de Fable 5, mais a déclaré avoir examiné une démonstration de la technique et constaté qu'elle exploitait quelques vulnérabilités déjà connues et relativement simples. L'entreprise a souligné qu'aucun jailbreak universel n'a encore été découvert — c'est-à-dire aucune méthode qui désactiverait de manière exhaustive les mesures de protection et déverrouillerait de nombreuses capacités cyber. Elle a également noté que l'agence n'a jusqu'à présent fourni que des indications verbales d'un éventuel jailbreak étroitement limité et non universel, et qu'une protection complète contre toutes les techniques de jailbreak n'est actuellement pas possible dans l'ensemble du secteur.

Dans un billet de blog, Anthropic a rétorqué que le gouvernement n'avait reçu des informations que sur un 'potential' jailbreak critique, et non sur un jailbreak vérifié, et a remis en cause la proportionnalité de la mesure. "Anthropic entschuldigte sich bei seinen Kunden für die Einschränkungen und erklärte, man gehe derzeit von einem Missverständnis aus," a rapporté finanzen.net. L'entreprise a déclaré que Fable 5 est déjà utilisé par des centaines de millions de personnes et que les restrictions imposent une charge significative à ses activités commerciales. Elle a également fait remarquer que Mythos avait été commercialisé pendant des semaines comme 'too dangerous for the public' afin de générer une image d'exclusivité — un positionnement qui contraste avec l'insistance actuelle de l'entreprise sur le fait que les modèles sont sûrs pour un usage général.

Ce qui va se passer ensuite

Anthropic a déclaré qu'elle travaillait à restaurer l'accès à Fable 5 et Mythos 5 le plus rapidement possible et a souligné que les autres modèles d'Anthropic ne sont pas affectés par la mesure. L'entreprise a également fait valoir que les autorités devraient avoir la possibilité d'interdire la mise sur le marché de modèles d'IA dangereux, mais a déclaré qu'une telle procédure devait être transparente, équitable et techniquement traçable. Selon Sacks, l'espoir immédiat de l'administration est qu'Anthropic résolve le problème de sécurité afin que les contrôles à l'exportation puissent être levés et que Fable puisse revenir à une diffusion générale.

Le différend met en lumière l'enchevêtrement inhabituel entre Anthropic et Amazon, qui est à la fois un investisseur majeur de la société d'IA et un concurrent dans les services cloud via AWS. L'épisode soulève également des questions plus larges sur la manière dont les gouvernements devraient peser les préoccupations de sécurité nationale face à la disponibilité commerciale des systèmes d'IA de pointe, en particulier lorsque des modèles concurrents offrent des capacités comparables. Alors qu'Anthropic s'efforce de restaurer l'accès et que l'administration signale qu'elle souhaite que le problème de sécurité soit résolu plutôt que les modèles retirés définitivement, la question immédiate est de savoir avec quelle rapidité l'entreprise pourra combler la vulnérabilité spécifique et reprendre la diffusion générale.