Le pape Léon XIV publie 'Magnifica Humanitas', une encyclique choc contre les dérives de l'intelligence artificielle

Cette critique intervient alors même que le président américain Donald Trump a récemment attaqué à plusieurs reprises le pape et l’entreprise d’IA Anthropic, basée à San Francisco, qui refuse de fournir ses modèles d’IA pour des systèmes d’armes autonomes et de surveillance civile.

L’encyclique souligne que derrière l’apparente immatérialité des algorithmes se cachent des chaînes d’exploitation bien réelles. « Nichts ist in der Welt der KI immateriell oder magisch », peut-on lire, chaque service numérique reposant sur le travail souvent invisible de millions de personnes mal payées et sur l’extraction dangereuse de matières premières.

Les coulisses de l’IA : travail caché et exploitation

Le texte dénonce les blessures infligées aux corps des travailleurs : « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt. » Il évoque aussi le trafic d’êtres humains dans l’espace numérique, où des personnes sont réduites à l’état de « données » et de « paquets ».

Le pape rappelle par ailleurs que l’IA peut imiter le langage et simuler des jugements, mais qu’elle ne possède ni conscience morale ni compréhension de l’amour, du travail, de l’amitié ou de la responsabilité. Aucun système informatique, précise-t-il, « erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt ».

Régulation et désarmement : les pistes du pape

Sur le plan réglementaire, Léon XIV estime qu’il est « unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird ». Il demande que la propriété des données des utilisateurs soit réglementée et que l’usage de l’IA soit orienté vers la morale et les valeurs humaines.

Le pape met spécialement en garde contre les armes autonomes, qui ont selon lui rendu les conflits « durchführbarer » (plus réalisables). « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen », tranche-t-il, appelant à « entwaffnet » (désarmer) l’intelligence artificielle.

L’encyclique consacre aussi de longs passages aux risques de désinformation algorithmique. Léon XIV avertit contre les mensonges et les trucages générés par IA, ces « unaufhörlichen Flüsse von Informationen, Meinungen und Bildern » qui influencent les décisions et les préférences. Il encourage à y résister : « Bleiben wir der Wahrheit treu! »

Un événement sans précédent au Vatican

Le texte ne nomme pas Donald Trump, mais le pape rappelle que les organisations internationales et la diplomatie sont des instruments centraux pour résoudre les conflits, et que le dialogue multilatéral est indispensable face aux crises.

Le souverain pontife prévient enfin contre la tentation de la résignation : même ceux qui semblent avoir peu d’influence portent une responsabilité. L’encyclique souligne que chaque système d’IA contient des décisions éthiques, et que l’on ne peut pas considérer l’IA comme moralement neutre – « Wir können KI nicht als moralisch neutral betrachten ».

La présentation de l’encyclique avait une tonalité inédite : non seulement le pape y assistait en personne, mais le cofondateur d’Anthropic, Chris Olah, était présent aux côtés de cardinaux et théologiens de haut rang. Cette participation d’un dirigeant de la tech à un tel événement est une première dans l’histoire de l’Église.