Le pape Léon XIV lance un cri d’alarme sur l’intelligence artificielle dans sa première encyclique

Le pape décrit sans détour les conséquences humaines : « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt. » Il évoque aussi le trafic d’êtres humains dans l’espace numérique, où des personnes sont réduites à des « données » et des « paquets ».

Les chaînes de l’exploitation derrière le numérique

Le document critique le pouvoir des géants mondiaux de la technologie. « Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen », met en garde le texte, sans nommer explicitement d’entreprises ni de dirigeants.

Le pape s’inquiète également des systèmes d’armes autonomes. Il juge que ces technologies ont rendu les guerres « durchführbarer » et appelle à « entwaffnet » l’IA. « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen », tranche l’encyclique.

Conflit avec Washington et critique des élites

Le contexte américain est sous-jacent. Donald Trump, qui n’est pas cité nommément, a récemment critiqué à plusieurs reprises le pape et Anthropic. La société d’IA, basée à San Francisco, est en conflit avec l’administration Trump car elle refuse de mettre ses modèles à disposition pour des armes autonomes et la surveillance civile. Au plus fort de la dispute, Trump a publié une image générée par IA le représentant en Jésus.

La présence de Chris Olah, cofondateur et milliardaire de la tech, aux côtés de cardinaux et de théologiens de haut rang constitue un fait inédit. C’est la première fois qu’un dirigeant d’une entreprise d’IA participe à la présentation d’une encyclique.

Malgré la gravité des constats, le texte refuse la résignation. « Bleiben wir der Wahrheit treu ! », exhorte le pape, qui rappelle qu’aucun système informatique, aussi sophistiqué soit-il, ne crée « ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt. » L’IA peut imiter le langage, les comportements et les jugements, mais elle ne possède ni conscience morale ni compréhension de l’amour, du travail ou de la responsabilité.

Remettre l’humain au centre

Le pape réclame des critères clairs et des contrôles efficaces pour toute utilisation de l’IA touchant aux biens publics et aux droits fondamentaux. « Unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird », souligne le document, qui plaide aussi pour une régulation de la propriété des données personnelles.

L’encyclique insiste sur le rôle central du dialogue international et de la coopération multilatérale pour prévenir les crises et rétablir la confiance. Elle avertit que les bénéfices de l’IA ne doivent pas profiter qu’à une poignée de personnes déjà très riches.

En liant foi, morale et technologie, Léon XIV envoie un signal fort pour son pontificat : la dignité humaine doit rester au cœur de la révolution numérique.