Plus de 1 100 employés des grands groupes d'IA exigent une limitation de vitesse pour l'intelligence artificielle

Les signataires viennent précisément d'entreprises qui étaient jusqu'à présent considérées comme les moteurs d'un développement rapide de l'IA. OpenAI, l'entreprise derrière ChatGPT, ainsi qu'Anthropic, Google et Meta investissent depuis des années des milliards dans des modèles toujours plus performants. La position documentée aujourd'hui en provenance des propres effectifs indique que des parties du personnel perçoivent des risques qui doivent devenir visibles publiquement. Au cours des dernières semaines, les avertissements sur les risques de l'IA s'étaient également multipliés de la part de voix importantes comme Sam Altman, qui, en tant que leader de la branche de l'IA, avait maintes fois réclamé des normes internationales.

Des observateurs interprètent la démarche collective comme un signal exceptionnel au sein de l'industrie technologique, dans laquelle les employés se positionnent rarement publiquement contre leur propre direction. Des milieux de la branche soulignent que l'industrie technologique dans son ensemble a publié 15 rapports et évaluations sur le processus. Sur le cercle précis des signataires ou leur rattachement hiérarchique au sein des entreprises respectives, les auteurs ne donnent pas d'indications précises.

Contexte : que signifie « développement automatisé de l'IA » ?

Derrière la notion de « développement automatisé de l'IA » se cache un scénario dans lequel des systèmes d'IA devraient à l'avenir pouvoir développer de manière autonome de meilleurs systèmes d'IA. Les partisans y voient un éventuel coup de pouce à la productivité, les critiques mettent en garde contre le risque de perdre le contrôle de l'orientation technologique. L'appel commun vise à ne pas mener ce développement dans une concurrence non régulée, mais sous contrôle démocratique.

Les mesures concrètes que proposent les signataires n'ont pas été publiées en détail jusqu'à présent. Il reste également ouvert quels gouvernements, outre les États-Unis, sont censés se joindre à l'initiative. Au cours des derniers mois, plusieurs représentants de l'industrie avaient évoqué des normes internationales sur le modèle des autorités de surveillance nucléaire, sans qu'un accord contraignant ait pu être trouvé.

Débat de sécurité antérieur et contexte géopolitique

La discussion sur la sécurité de l'IA n'est pas nouvelle. Au cours des dernières années, des chercheurs, des éthiciens et des pans de l'industrie avaient mis en garde contre d'éventuels risques tels que la perte du contrôle humain, l'utilisation à des fins de désinformation ou une distorsion des marchés existants. La lettre ouverte émanant des rangs des entreprises de développement donne désormais à ces préoccupations un poids nouveau, provenant d'une source inhabituellement directe : les propres collaborateurs qui participent de manière déterminante au développement.

Si le gouvernement américain devait se joindre à l'initiative, cela pourrait avoir des répercussions sur la compétitivité des groupes technologiques américains vis-à-vis de la Chine, qui poursuit le développement de l'IA comme objectif stratégique étatique. Des observateurs voient dans cette exigence un exercice d'équilibre entre préoccupations sécuritaires et rivalité géopolitique dans le domaine des technologies de pointe.

Quand et sous quelle forme une réponse de Washington est attendue restait dans un premier temps incertain. La manière dont les signataires et signataires entendent accompagner publiquement leur appel au-delà de la lettre n'a pas non plus été annoncée. Une chose est sûre : la déclaration accroît la pression sur les responsables politiques et les autorités de régulation pour qu'ils se penchent sur la question de contrôles mesurables de l'IA.