Le pape Léon XIV met en garde contre les risques de l’IA dans sa première encyclique « Magnifica Humanitas »

La présentation a connu une première absolue : Christopher Olah, cofondateur de la société d’IA Anthropic, siège à San Francisco, était invité aux côtés de cardinaux et de théologiens. Jamais un représentant du secteur technologique n’avait participé au lancement d’une encyclique.

Anthropic est en conflit avec le gouvernement américain de Donald Trump depuis que l’entreprise a refusé de fournir ses modèles d’IA pour des systèmes d’armes autonomes et la surveillance civile. Le président a plusieurs fois critiqué l’entreprise et le pape, notamment après la condamnation par Léon XIV de la guerre contre l’Iran.

Armes autonomes et réhabilitation de la guerre

L’encyclique voit dans l’intelligence artificielle un accélérateur des tensions, en particulier pour la guerre et la paix. Le pape y affirme : « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen. » Il ajoute que « Wo die Entscheidung über Leben und Tod an Codezeilen delegiert wird, verliert der Mensch seine Würde und die Maschine triumphiert über den Geist. »

Le texte dénonce la capacité de l’IA à abaisser le seuil de recours à la violence et à occulter les responsabilités. Le pape regrette une « besorgniserregende Rehabilitierung des Krieges als Instrument der internationalen Politik » et abandonne de facto la doctrine de la guerre juste, lui préférant le dialogue, la diplomatie et le pardon.

La critique vise aussi les géants du numérique : « Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen », écrit le pape. Il réclame que les États et les sociétés soient réinvestis du pouvoir de gouverner la technologie.

La face cachée de l’économie numérique

Une large part est consacrée à l’exploitation humaine derrière les services numériques. L’encyclique dénonce le travail mal payé des données et l’extraction dangereuse de matières premières : « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt. » Elle évoque aussi la traite d’êtres humains où les personnes deviennent des « données » ou des « paquets ».

Le pape ne condamne pas toute IA. Il insiste néanmoins sur l’obligation de l’orienter selon la dignité humaine et le bien commun, et avertit que « wenn diese Moral von einigen wenigen bestimmt wird », cela ne sert à rien. Il exige également la régulation de la propriété des données des utilisateurs.

L’encyclique rappelle que l’intelligence artificielle peut imiter le langage et les jugements mais ne possède ni conscience ni morale. « Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt. », écrit Léon XIV.

Désinformation et régulation

Le texte met en garde contre les hypertrucages et les flux ininterrompus d’informations manipulées. Le pape supplie : « Bleiben wir der Wahrheit treu! » Il ne cite jamais Donald Trump nommément, mais le conflit a pris une tournure personnelle lorsque l’ancien président a diffusé une image de lui-même en Jésus, générée par IA.

Dans ce contexte, Anthropic refuse de livrer son IA pour des armes autonomes, ce que Trump a qualifié de « radikal linke und woke Firma », tout en déclarant n’être « kein Fan » du pape. La présence de Chris Olah au Vatican sonne comme un soutien aux positions pontificales.

Pour le pape, il est « unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird ». Il rappelle que la communauté internationale et la diplomatie restent les meilleurs outils pour résoudre les conflits, et que l’IA doit être « entwaffnet ».