Le pape Léon XIV met en garde contre les dérives de l’intelligence artificielle dans sa première encyclique

Un avertissement contre la concentration du pouvoir

Dans ce texte de référence, le pape dénonce avec force la concentration du pouvoir entre les mains de quelques groupes influents. « Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen », peut-on lire, soulignant que ces acteurs peuvent conditionner les processus démocratiques et orienter l’économie mondiale.

Léon XIV appelle à un encadrement rigoureux de l’intelligence artificielle. « Es ist unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird », insiste-t-il. Pour lui, aligner l’IA sur la morale ne suffit pas « wenn diese Moral von einigen wenigen bestimmt wird ».

Le souverain pontife consacre de longs développements aux armes autonomes, qu’il juge responsables d’avoir rendu les conflits « durchführbarer » (plus réalisables). Il exige que l’IA soit « entwaffnet » (désarmée), et affirme : « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen. ».

Les chaînes invisibles de l’exploitation

L’encyclique s’attaque aussi aux coulisses de la révolution numérique. « Nichts ist in der Welt der KI immateriell oder magisch », rappelle Léon XIV, dénonçant la chaîne d’exploitation qui se cache derrière les systèmes apparemment dématérialisés. Chaque service digital repose sur le travail souvent invisible de millions de personnes, et le texte va jusqu’à décrire des situations où « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt ».

La traite des êtres humains à l’ère numérique est également pointée du doigt : des personnes y sont réduites à l’état de « Daten » et de « Paketen » (données et colis). Face à ces dérives, le pape exhorte à rester fidèle à la vérité et à ne pas se laisser tromper par les faux contenus générés par l’IA.

Une distinction nette est établie entre intelligence humaine et artificielle. « Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt », écrit Léon XIV. L’IA peut imiter le langage et le comportement, mais elle ne possède ni conscience ni compréhension de l’amour ou de l’amitié.

Pour le pape, il est impossible de considérer la technologie comme moralement neutre. « Wir können KI nicht als moralisch neutral betrachten », affirme-t-il, car chaque système intègre des choix sur ce qu’il mesure, ignore ou évalue.

Ni neutre ni humaine : le regard du pape sur l’IA

L’encyclique insiste donc sur la nécessité d’une responsabilité claire et de contrôles efficaces, afin de protéger la dignité humaine et le bien commun. Elle souligne le rôle central des organisations internationales et de la diplomatie multilatérale pour prévenir les crises et rétablir la confiance.

Fait inédit, la présentation au Vatican a eu lieu en présence du pape lui-même, une première dans l’histoire de l’Église. Chris Olah, cofondateur de la société américaine d’IA Anthropic, basée à San Francisco, siégeait aux côtés de cardinaux et de théologiens – également une première pour un représentant d’une entreprise technologique lors d’une telle présentation.

Le contexte américain est sous-jacent. Le président Donald Trump, qui a récemment critiqué à la fois la papauté et Anthropic, n’est pas nommé dans le texte. Il avait notamment publié une image de lui-même en Jésus générée par IA. Anthropic refuse de mettre ses modèles à disposition pour des systèmes d’armes autonomes ou de surveillance civile, ce qui a provoqué un différend avec Washington.

Une première historique au Vatican

Enfin, l’encyclique s’inscrit dans une tradition d’enseignement social. Léon XIV a choisi le 15 mai, date qui marque le 135ᵉ anniversaire de l’encyclique « Rerum novarum » de Léon XIII, pierre angulaire de la doctrine sociale de l’Église face à la révolution industrielle. Par ce clin d’œil, le pape américain entend tirer les leçons du passé pour affronter les défis du futur.

Le document, qui invite à une collaboration renforcée et à un sursaut éthique collectif, marque ainsi une étape importante dans le débat mondial sur l’intelligence artificielle.