Anthropic désactive ses modèles Fable 5 et Mythos 5 sur ordre d'exportation américain

Selon des informations relayées par plusieurs médias américains, le PDG d'Amazon Andrew Jassy aurait joué un rôle moteur dans cette décision. Il aurait informé de hauts responsables gouvernementaux, dont le secrétaire au Trésor Scott Bessent, que des chercheurs en cybersécurité d'Amazon étaient parvenus à « jailbreaker » le modèle Fable 5 à l'aide d'une séquence d'instructions ciblée. Le modèle aurait alors produit des informations sensibles susceptibles d'être exploitées pour des cyberattaques à grande échelle.

Le rôle moteur d'Andrew Jassy et d'Amazon

Le gouvernement de Donald Trump a justifié l'embargo en invoquant un risque inacceptable pour la sécurité nationale : les nouveaux modèles d'Anthropic seraient capables d'identifier des failles logicielles critiques utilisables à des fins offensives. Selon David Sacks, ancien « tsar de l'IA » de l'administration Trump et coprésident du Council of Advisors on Science and Technology, l'administration aurait lancé un ultimatum au directeur général d'Anthropic Dario Amodei : corriger la faille de sécurité ou retirer temporairement le modèle. « Die Administration forderte [Anthropic-CEO Dario Amodei] auf, den Jailbreak entweder zu flicken oder das Modell vorerst vom Netz zu nehmen. Dario weigerte sich ». Face à ce refus, le gouvernement aurait tiré la gomme « widerwillig » en imposant un embargo strict.

Sacks a confirmé l'implication d'un « partenaire » anonyme, présenté comme « hautement crédible » et digne de confiance, à la fois vis-à-vis d'Anthropic et du gouvernement américain, qui aurait présenté un jailbreak fonctionnel aux autorités. Le milliardaire de la tech David Sacks aurait également joué un rôle dans ce processus. Amazon, qui figure parmi les plus grands investisseurs d'Anthropic et est étroitement lié à la société d'IA via sa division cloud AWS, a toutefois refusé de divulguer les détails de ces discussions : « Wenn dies geschieht, teilen wir die Details dieser Diskussionen nicht. » Un porte-parole d'Amazon a néanmoins souligné qu'il n'était pas inhabituel, pour un grand fournisseur de cloud, d'être consulté par des gouvernements sur des risques de sécurité potentiels : « Als führender Cloud-Anbieter, der eine große Anzahl von Kunden im privaten und öffentlichen Sektor bedient, ist es nicht ungewöhnlich, dass Regierungen unseren Rat zu potenziellen Sicherheitsrisiken suchen ».

Anthropic conteste la proportionnalité de la mesure

De son côté, Anthropic conteste fermement la proportionnalité de la mesure. Dans un billet de blog, l'entreprise affirme que les autorités n'ont reçu que des informations relatives à un jailbreak « potentiel » et non vérifié, et que les failles éventuellement exploitées seraient « minimal » et déjà connues. L'entreprise a expliqué avoir examiné une démonstration de la technique, qui exploitait quelques vulnérabilités déjà identifiées et relativement simples, et indiqué qu'aucun jailbreak universel — c'est-à-dire une méthode désactivant l'ensemble des mesures de protection — n'avait été découvert. Anthropic ajoute que les autorités n'ont jusqu'à présent fourni que des indications orales concernant un jailbreak possible, étroitement limité et non universel.

Pour se conformer aux exigences des autorités, Anthropic a désactivé l'accès aux deux modèles pour l'ensemble de ses clients, n'ayant pas la possibilité technique d'exclure uniquement les utilisateurs situés hors des États-Unis. L'entreprise s'est excusée auprès de ses clients pour ces restrictions et a déclaré présumer d'un malentendu : « Anthropic entschuldigte sich bei seinen Kunden für die Einschränkungen und erklärte, man gehe derzeit von einem Missverständnis aus. » Elle reconnaît par ailleurs qu'une protection complète contre l'ensemble des techniques de jailbreak n'est pas encore possible à l'échelle du secteur.

Des précédents et des appels à la transparence

Dans sa défense, Anthropic souligne que d'autres modèles librement accessibles sur le marché, dont GPT-5.5, présentent des capacités similaires. L'entreprise argue que l'application d'un standard comparable à l'ensemble des principaux fournisseurs d'IA pourrait, de fait, empêcher l'introduction de nouveaux modèles : « Andere, frei zugängliche Modelle auf dem Markt der Konkurrenz (genannt wird GPT-5.5) würden über ganz ähnliche Fähigkeiten verfügen. » Selon Anthropic, Fable 5 est un modèle commercial déjà utilisé par des centaines de millions de personnes.

L'entreprise a par ailleurs précisé qu'elle avait soumis Fable 5, avant sa sortie, à plusieurs milliers d'heures de tests dits de « red teaming » conduits conjointement avec des autorités, des organisations externes et des équipes internes. Ces vérifications n'avaient, selon elle, pas révélé de faille critique justifiant un embargo. Elle rappelle enfin que la procédure de blocage d'un modèle jugé dangereux doit, à ses yeux, reposer sur un processus transparent, équitable et techniquement traçable. Sacks a néanmoins indiqué que l'administration espère voir Anthropic corriger le problème de sécurité, après quoi les contrôles à l'exportation seraient levés et Fable pourrait revenir en diffusion générale : « Die Hoffnung der Administration ist nun, dass Anthropic das Sicherheitsproblem behebt, die Exportkontrolle aufgehoben wird und Fable wieder in den allgemeinen Release gehen kann. » Anthropic a déclaré travailler à la restauration de l'accès à Fable 5 et Mythos 5 dans les meilleurs délais.