L'interdiction d'exportation américaine oblige Anthropic à couper mondialement Fable 5 et Mythos 5

Le développeur d'IA américain Anthropic coupe, suite à une ordonnance du gouvernement, l'accès à ses modèles d'intelligence artificielle les plus avancés pour tous les utilisateurs dans le monde, et ce pour l'instant. Comme il était impossible pour Anthropic d'exclure uniquement les utilisateurs situés hors des États-Unis, la seule alternative praticable restait la mise hors service. « Nous partons d'un malentendu et œuvrons à rétablir l'accès aussi rapidement que possible », a déclaré l'entreprise, qui a présenté ses excuses aux utilisateurs.

Selon les médias américains, le déclencheur fut un rapport selon lequel des chercheurs en cybersécurité d'Amazon étaient parvenus à « jailbreaker » avec succès le modèle Fable 5 à l'aide d'une séquence de prompts ciblée. Andrew Jassy, le patron du groupe Amazon, aurait exposé la situation à des représentants du gouvernement américain, dont le secrétaire au Trésor Scott Bessent. Le modèle aurait alors produit des informations sensibles pouvant être directement exploitées pour des cyberattaques de grande ampleur.

Contexte de l'ordonnance venue de Washington

Anthropic a réfuté cette version dans un billet de blog. À sa connaissance, le gouvernement n'avait reçu que des informations sur un jailbreak « potentiel », et non sur un jailbreak critique et vérifié. De plus, les failles de sécurité prétendument découvertes étaient « minimes ». L'entreprise a souligné n'avoir reçu qu'une partie des informations du gouvernement et a parlé de malentendu.

Fable 5 est une variante du modèle Mythos d'Anthropic, capable d'identifier en un temps record des failles de sécurité dangereuses dans quasiment n'importe quel logiciel. L'intelligence artificielle derrière le modèle « Mythos » d'Anthropic est particulièrement douée pour repérer des vulnérabilités logicielles, parfois restées non détectées pendant des décennies. Cette capacité a jusqu'ici été utilisée par des agences américaines et des entreprises sélectionnées pour identifier des failles de sécurité.

Le Fable 5, moins performant, n'était devenu disponible dans l'abonnement Pro d'Anthropic que quelques jours avant l'incident. À la Maison-Blanche, des inquiétudes existedaient quant à un éventuel jailbreak – c'est-à-dire une astuce qui permet de libérer les capacités dangereuses de Fable 5 en contournant les mécanismes de protection intégrés. D'une part, Fable 5 ne devait être inclus dans l'abonnement que jusqu'au 22 juin, avant que le modèle ne soit disponible uniquement via API et avec une facturation à la consommation – et donc nettement plus cher.

Fonctionnement et limites de Fable 5

Fable 5 refuse de répondre aux prompts portant sur la biologie, la chimie, la cybersécurité et la distillation de connaissances. Fable 5 basculait régulièrement en arrière-plan vers le modèle Anthropic de gamme immédiatement inférieure, Claude Opus 4.8. Sans que cela soit perceptible pour les utilisateurs. Anthropic invoque comme justification une mesure de protection contre la distillation de connaissances, c'est-à-dire l'entraînement d'un modèle d'IA à partir d'un autre. Fable 5 est censé détecter de manière autonome lorsqu'il est utilisé pour un tel entraînement, puis basculer vers Opus 4.8.

Vous payez bien pour Fable 5, mais vous achetez au final un mix de modèles impossible à contrôler. Même si Anthropic a promis de réintégrer un jour Fable 5 dans l'abonnement. Dans la comparaison de benchmarks d'Anthropic, Fable 5 est nettement plus performant qu'Opus 4.8 ou ChatGPT 5.5, par exemple. Anthropic invoque comme raison un manque de capacité, qui devra d'abord être constitué via de nouveaux centres de calcul.

En coulisses, le PDG d'Amazon Andrew Jassy aurait joué un rôle central. Comme le rapportent à l'unisson des médias américains tels que The Wall Street Journal, Reuters et The Information, Jassy a cherché à s'entretenir de manière ciblée avec de hauts représentants du gouvernement, dont le secrétaire au Trésor américain Scott Bessent. Amazon est lui-même l'un des plus grands investisseurs d'Anthropic et étroitement imbriqué avec l'entreprise d'IA via sa branche cloud AWS. Un porte-parole d'Amazon a déclaré : « En tant que premier fournisseur de cloud, qui sert un grand nombre de clients des secteurs privé et public, il n'est pas inhabituel que des gouvernements sollicitent notre avis sur des risques de sécurité potentiels. Lorsque cela se produit, nous ne partageons pas le détail de ces discussions. »

Le rôle d'Amazon et de David Sacks

Le tech-milliardaire David Sacks a probablement aussi joué un rôle. David Sacks, l'ancien « tsar de l'IA » de l'administration Trump et coprésident du conseil consultatif scientifique et technologique du président, a confirmé auprès de TechCrunch qu'un « partenaire hautement crédible et de confiance, à la fois d'Anthropic et du gouvernement américain », était venu voir l'administration avec un jailbreak fonctionnel. Selon Sacks, l'administration aurait enjoint de manière ultime le PDG d'Anthropic Dario Amodei soit de corriger le jailbreak, soit de déconnecter provisoirement le modèle. « Dario a refusé » – le gouvernement a alors « à contrecœur » tiré la sonnette d'alarme et imposé une interdiction d'exportation stricte.

Sacks a exprimé le souhait de l'administration qu'Anthropic corrige le problème de sécurité, que le contrôle à l'exportation soit levé et que Fable puisse revenir dans le release général. La justification officielle de l'administration Trump pour l'interdiction d'exportation était catégorique : les nouveaux modèles d'Anthropic constituaient un risque intenable pour la sécurité nationale, car ils pouvaient détecter des failles de sécurité logicielles critiques et les rendre exploitables à des fins de cyberattaques.

Selon la version d'Anthropic, aucun moyen n'est connu d'amener le modèle à faire quelque chose qui ne soit également réalisable avec d'autres modèles, comme ChatGPT 5.5. Anthropic a en outre souligné que les dispositifs de sécurité de Fable 5 avaient été testés de manière approfondie. L'entreprise s'est opposée à un blocage d'un logiciel pour des centaines de millions d'utilisateurs pour cette raison. Mais les mesures actuelles du gouvernement ne correspondent pas aux principes d'une régulation équitable et factuelle, a-t-elle déclaré.

Positions et réactions d'Anthropic

Parallèlement, le patron d'Anthropic Dario Amodei avait encore exigé, quelques jours auparavant, une surveillance renforcée de l'IA, y compris la possibilité de bloquer les modèles présentant des risques inacceptables. Mercredi encore, Anthropic avait elle-même réclamé une surveillance renforcée de l'IA, y compris la possibilité de bloquer les modèles aux risques inacceptables. L'entreprise poursuit par ailleurs en justice le Pentagone, qui avait classé Anthropic comme risque pour la chaîne d'approvisionnement – une classification qui peut entraver considérablement l'utilisation du logiciel dans les administrations.

En Europe, la crainte de devenir trop dépendante des États-Unis en matière d'infrastructure d'IA grandissait. Le politicien autrichien des Verts en charge du numérique Süleyman Zorba a déclaré samedi : « Qui remet l'intégralité de son infrastructure numérique à des mains étrangères se rend dépendant et vulnérable au chantage. » Bien sûr, des familles de modèles comme Mistral ne peuvent pas, à l'heure actuelle, rivaliser avec les produits d'OpenAI ou d'Anthropic. Mais : pour des étapes individuelles d'un workflow, elles pourraient tout à fait constituer une alternative.

L'expert en sécurité informatique Dennis-Kenji Kipker a expliqué que « Mythos » pouvait détecter un grand nombre de vulnérabilités de sécurité informatique. Cela pourrait aussi être exploité par des acteurs criminels. Le fabricant d'IA interdit l'utilisation de ses modèles pour les systèmes d'armes autonomes de l'armée américaine, ce qui lui a valu des sanctions. Ces derniers mois, Anthropic s'était retrouvée à plusieurs reprises en conflit avec le gouvernement américain parce qu'elle exigeait que ses modèles d'IA ne soient pas utilisés dans des systèmes d'armes autonomes ni pour la surveillance de masse aux États-Unis.

Conséquences pour