Anthropic publie une version limitée de son modèle d'IA Mythos

Accès limité pour le public

Les experts considèrent Mythos comme un modèle doté de capacités considérables dans le domaine de la cybersécurité. Le modèle d'IA peut, selon les experts, détecter et exploiter des failles de sécurité dans les logiciels. L'application d'IA peut, selon les experts, détecter et exploiter des failles de sécurité avec une vitesse et une précision jusqu'alors inégalées. Ainsi, de l'avis des spécialistes, le système se prête aussi bien au travail de sécurité défensif qu'aux attaques offensives.

Les services allemands de protection de la Constitution et des responsables politiques en matière de sécurité avaient mis en garde : des criminels ou des acteurs étatiques pourraient utiliser Mythos pour des cyberattaques visant par exemple des banques ou des installations énergétiques. L'avertissement portait sur les possibilités fondamentales offertes par la gamme de modèles. Avec la version limitée Fable 5, Anthropic semble tenter de trouver un compromis entre une disponibilité plus large et la limitation des risques.

Avertissements concernant les cyberattaques

La publication intervient dans le contexte d'un débat plus large sur la gestion des systèmes d'IA puissants. Ces derniers mois, les autorités de sécurité et les instituts de recherche ont à plusieurs reprises attiré l'attention sur les risques liés aux modules permettant la recherche et l'exploitation autonomes de failles logicielles. Anthropic lui-même avait déjà souligné en avril que la gamme complète de modèles devait être manipulée avec une responsabilité particulière.

Les observateurs interprètent cette démarche comme un compromis provisoire : d'une part, la technologie doit être rendue accessible à un cercle limité d'utilisateurs ; d'autre part, les capacités doivent être réduites par rapport à la version initialement annoncée. Il reste à voir si ces limitations suffiront à répondre aux préoccupations des autorités de sécurité et des décideurs politiques.

Questions ouvertes sur les développements à venir

Le débat autour de Mythos s'inscrit dans une série de discussions similaires qui ont récemment concerné d'autres fabricants. L'enjeu central est de savoir quelle autonomie un système d'IA devrait recevoir dans l'identification et l'exploitation de failles de sécurité, et quels mécanismes de contrôle sont nécessaires pour prévenir les abus.

Anthropic a annoncé qu'elle continuerait à suivre l'évolution et ajusterait progressivement l'étendue des fonctionnalités de Fable 5. Le communiqué n'a pas fourni d'informations supplémentaires sur la disponibilité future, les modèles de tarification ou les partenariats prévus. Une prise de position sur les préoccupations concrètes des responsables politiques allemands en matière de sécurité n'a pas encore été formulée.