Anthropic bloque son nouveau modèle d'IA phare sur ordre du gouvernement américain

Le blocage est d'une portée considérable : les étrangers se trouvant aux États-Unis — y compris les propres employés d'Anthropic — sont également concernés. « Seraient également concernées par cette interdiction les personnes étrangères séjournant aux États-Unis — et même celles travaillant chez Anthropic. » L'entreprise a parlé d'une mesure prise dans l'urgence : « Suite à cette instruction, il a fallu couper dans l'urgence l'accès pour tout le monde, a-t-on indiqué dans une déclaration. »

Fable 5 avait été publié la même semaine et repose sur la technologie sous-jacente Mythos, dont les capacités en cybersécurité et en biotechnologie sont toutefois désactivées dans la version publique. La version complète non publique, Mythos 5, devrait, selon Anthropic, continuer à être utilisée uniquement par des agences gouvernementales et des partenaires d'entreprise sélectionnés pour renforcer leurs systèmes. « Mythos 5 est la version complète non publique, qui devrait continuer à être utilisée uniquement par des agences gouvernementales et des partenaires d'entreprise sélectionnés pour renforcer leurs systèmes. »

De quoi il s'agit avec Fable 5 et Mythos 5

À l'origine de cette intervention se trouve, selon la présentation faite par l'entreprise, un rapport qu'Anthropic a examiné et qui aurait probablement déclenché l'ordre du gouvernement, de l'avis de la société. « Selon l'entreprise, le gouvernement estimerait avoir eu connaissance d'une méthode permettant de lever les restrictions intégrées au logiciel. » Les propres expertes et experts d'Anthropic parviendraient toutefois à une conclusion différente. « Les experts d'Anthropic seraient arrivés à la conclusion qu'il s'agissait là d'une capacité limitée permettant à l'IA d'examiner des codes de programmation spécifiques et d'en corriger les erreurs. »

Anthropic s'oppose au blocage général. L'entreprise a fait savoir au gouvernement qu'elle n'était pas d'accord avec le fait « qu'un logiciel destiné à des centaines de millions d'utilisateurs soit bloqué pour cette raison ». Elle n'a par ailleurs reçu jusqu'à présent que des informations partielles de la part du gouvernement. « Anthropic a souligné n'avoir reçu jusqu'à présent que des informations partielles de la part du gouvernement. »

L'entreprise fait en outre valoir que des capacités comparables existent également dans les produits concurrents. « Cette capacité existerait également dans des modèles d'autres fournisseurs, comme par exemple GPT-5.5 du rival OpenAI. » Anthropic souligne que les mesures de sécurité de Fable 5 ont été testées de manière approfondie. « L'entreprise souligne que les mesures de sécurité de Fable 5 ont été testées de manière approfondie. »

Les critiques d'Anthropic à l'égard de la procédure du gouvernement

Le groupe pose des exigences de principe à une telle procédure : tout blocage de logiciel d'IA doit reposer sur des procédures transparentes et claires ainsi que sur des faits techniques — ce qui, du point de vue d'Anthropic, n'est pas le cas en l'occurrence. Les capacités exceptionnelles en cybersécurité issues du modèle Mythos avaient, au cours des derniers mois, rendu l'entreprise à nouveau importante aux yeux du gouvernement américain : « L'intelligence artificielle qui sous-tend le modèle d'IA Mythos d'Anthropic est particulièrement douée pour détecter des vulnérabilités logicielles, parfois restées non découvertes pendant des décennies. » Jusqu'à présent, cette capacité a été utilisée par des agences américaines et des entreprises sélectionnées « pour combler les failles de sécurité ».

Contexte : les conflits entre Anthropic et Washington

Le conflit avec Washington n'est pas nouveau. Au cours des derniers mois, Anthropic a fait à plusieurs reprises les gros titres en raison de ses différends avec le gouvernement américain. Le Pentagone avait classé Anthropic comme un risque pour la chaîne d'approvisionnement, ce qui peut considérablement compliquer l'utilisation du logiciel au sein des agences ; l'entreprise a déposé un recours contre cette classification. Malgré la pression exercée, Anthropic a par ailleurs insisté pour que ses modèles ne soient pas utilisés dans des systèmes d'armes autonomes ni pour la surveillance de masse aux États-Unis.

Le contraste avec la position du patron d'Anthropic, Dario Amodei, est remarquable : ce dernier plaidait encore quelques jours auparavant pour que le gouvernement soit autorisé à bloquer les logiciels d'IA dangereux. L'entreprise procède désormais elle-même à un tel blocage — mais en protestant et en faisant valoir que la procédure choisie est opaque et qu'il a été décidé au mépris de centaines de millions d'utilisateurs et d'utilisatrices.