Le pape Léon XIV avertit des risques de l’IA dans sa première encyclique, un document de combat

Intitulée « Magnifica Humanitas – De la préservation de l’humanité à l’ère de l’intelligence artificielle », l’encyclique constitue la déclaration de gouvernement du pontificat de Léon XIV, premier pape originaire des États-Unis. Elle dresse un réquisitoire sévère contre une technologie qui, derrière son apparente immatérialité, dissimule de lourdes chaînes d’exploitation et de dépendance.

Derrière l’immatérialité, l’exploitation

« Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen », peut-on lire dans le document. Le pape y fustige la concentration du pouvoir entre les mains de quelques acteurs privés capables de manipuler l’opinion et de fausser le débat public.

L’encyclique affirme avec force que « Nichts ist in der Welt der KI immateriell oder magisch. » Chaque service numérique repose sur le travail souvent invisible de millions de personnes, rappelle-t-elle, dénonçant des chaînes mondiales d’approvisionnement et de données où l’extraction de matières premières dangereuses côtoie le travail précaire de clercs de données.

Un « désarmement » moral et militaire

Dans un passage d’une rare brutalité, le texte assène : « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt. » Il décrit des corps blessés, mutilés et consumés pour que le flux de calcul ne s’arrête jamais. Le trafic d’êtres humains dans l’espace numérique, où des personnes sont réduites à l’état de « données » et de « colis », est également pointé du doigt.

Face à ces dérives, le pape de 70 ans appelle à encadrer la propriété des données personnelles et exige que l’usage de l’IA, surtout lorsqu’il touche aux biens publics et aux droits fondamentaux, « soit accompagné de critères clairs et de contrôles efficaces ». Selon la citation originale en allemand : « unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird ».

La dimension morale est centrale. « Wir können KI nicht als moralisch neutral betrachten », souligne Léon XIV, car tout système contient des décisions sur ce qu’il mesure, ignore ou évalue. Il ajoute que l’IA peut imiter le langage, les comportements et les jugements, mais ne possède ni conscience, ni sens moral, ni compréhension de l’amour, du travail, de l’amitié et de la responsabilité.

« Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt », écrit encore le pape, qui rappelle qu’« il n’est pas permis de confier des décisions létales ou en tout cas irréversibles à des systèmes artificiels ». Il appelle à ce que l’IA soit « désarmée », en particulier les armes autonomes qui, selon lui, « rendent les guerres plus faciles à mener ».

Le bras de fer Trump-Anthropic-pape

L’encyclique insiste aussi sur la responsabilité des organisations internationales et de la diplomatie comme instruments centraux de résolution des conflits. Elle met en garde contre la tentation de céder à la résignation face aux problèmes mondiaux, et exhorte : « Bleiben wir der Wahrheit treu ! » (Restons fidèles à la vérité !) pour ne pas tomber dans le piège des mensonges et des hypertrucages générés par IA.

La présence de Chris Olah au Vatican n’est pas un hasard. Son entreprise, Anthropic, basée à San Francisco, est en conflit ouvert avec l’administration Trump parce qu’elle refuse de mettre ses modèles d’IA à disposition pour des systèmes d’armes autonomes et de surveillance civile. Le président américain Donald Trump, qui n’est jamais nommé dans l’encyclique, a récemment critiqué à plusieurs reprises aussi bien le pape que l’entreprise. Au plus fort de la dispute, il avait publié une image générée par IA le représentant en Jésus.

Un nouveau « Rerum novarum » à l’âge numérique

Le pape rappelle enfin que l’alignement de l’IA sur la morale et les valeurs humaines est essentiel, mais qu’il restera vain « si cette morale est déterminée par quelques-uns ». « Magnifica Humanitas » entend ainsi poser les jalons d’une régulation mondiale qui replace la personne au centre, comme « Rerum novarum » l’avait fait pour le monde ouvrier il y a un siècle et demi.

Signe de l’importance du sujet, le souverain pontife s’est rendu lui-même à la présentation du texte – une première dans l’histoire de l’Église. Le geste confère au document un poids supplémentaire et signale que la protection de l’humanité face à l’IA est devenue une priorité du magistère.