Le pape Léon XIV publie une encyclique historique sur l’intelligence artificielle et appelle à la régulation mondiale

Le document épingle frontalement le pouvoir des grands groupes technologiques mondiaux. « Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen », peut-on y lire – de petits groupes très influents orientent l’information et la consommation, conditionnent les processus démocratiques et influencent les dynamiques économiques. Le texte met aussi en garde contre les mensonges et contrefaçons générés par IA, exhortant : « Bleiben wir der Wahrheit treu! ».

Le pape bat en brèche le mythe d’une intelligence artificielle « immatérielle » : « Nichts ist in der Welt der KI immateriell oder magisch », rappelle-t-il. Chaque service numérique repose sur le travail souvent invisible de millions d’êtres humains. L’encyclicale dénonce l’exploitation à l’œuvre dans les chaînes d’approvisionnement et de données, depuis l’extraction dangereuse de matières premières jusqu’à la sous-traitance de données mal rémunérée.

Dans un passage saisissant, le souverain pontife écrit : « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt » – des corps sont blessés, mutilés et consumés pour que le flux de calcul ne s’interrompe pas. Le texte évoque aussi la traite des êtres humains dans l’espace numérique, où des personnes sont réduites à l’état de « données » et de « paquets ».

Les chaînes de l’exploitation invisible

L’intelligence artificielle peut imiter le langage, les comportements et les jugements, mais elle ne possède ni conscience, ni conscience morale, et ne comprend pas l’amour, le travail, l’amitié ou la responsabilité, martèle l’encyclicale. « Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt » – aucun système informatique, aussi perfectionné soit-il, ne crée un cœur qui se donne ou une conscience qui reconnaît le bien.

Face à ces périls, Léon XIV réclame une régulation claire et des mécanismes de contrôle. « Wir können KI nicht als moralisch neutral betrachten », insiste-t-il : nous ne pouvons pas considérer l’IA comme moralement neutre. L’encyclicale exige que la propriété des données des utilisateurs soit réglementée et que l’usage de l’IA, surtout quand il touche aux biens publics et aux droits fondamentaux, soit accompagné de « klaren Kriterien und wirksamen Kontrollen » (critères clairs et contrôles effectifs).

Technologie et conflit : l’ombre de Donald Trump

Le texte consacre de longs développements aux systèmes d’armes autonomes, qui rendent les guerres plus probables, selon le pape. Il appelle à « entwaffnet » (désarmer) l’IA et affirme : « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen » – il n’est pas permis de confier des décisions létales ou irréversibles à des systèmes artificiels.

La présentation a vu la présence remarquée de Chris Olah, cofondateur d’Anthropic, entreprise d’IA basée à San Francisco. Anthropic est en conflit avec le gouvernement du président américain Donald Trump car elle refuse de livrer ses modèles pour des systèmes d’armes autonomes et la surveillance civile. Le président américain, qui a publié une image le représentant en Jésus générée par IA, n’est pas nommé dans le document pontifical.

Une réponse sociale à l’ère du numérique

L’encyclicale, datée du 15 mai, est parue exactement 135 ans après « Rerum novarum » du pape Léon XIII, texte fondateur de la doctrine sociale catholique à l’ère industrielle. Elle place les organisations internationales et la diplomatie multilatérale au cœur de la résolution des crises. Le pape avertit contre la tentation de la résignation et appelle à rester fidèle à la vérité, tout en replaçant la préservation de l’humain au centre de l’ère numérique.