Le pape Léon XIV met en garde contre les dangers de l’intelligence artificielle dans une encyclique historique

Une critique inédite du pouvoir technologique

Dans ce document, le pape critique ouvertement le pouvoir des géants mondiaux de la technologie. 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen', peut-on lire, dénonçant la capacité de 'petits groupes très influents' à orienter l’information, la consommation et les processus démocratiques.

L’encyclique insiste sur la face cachée de l’IA. 'Nichts ist in der Welt der KI immateriell oder magisch' (Rien n’est immatériel ou magique dans le monde de l’IA), rappelle le texte, soulignant que chaque service numérique repose sur le travail souvent invisible de millions de personnes.

Le pape dénonce les chaînes d’exploitation mondiales, depuis l’extraction dangereuse de matières premières jusqu’au travail de données mal rémunéré. L’encyclique va jusqu’à affirmer : 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt' – des corps sont blessés, mutilés et usés pour que le flux de calcul ne s’arrête pas.

L’appel à un encadrement éthique et à des contrôles

Le texte aborde également la traite des êtres humains dans l’espace numérique, où des personnes sont réduites à l’état de 'données' et de 'paquets'. Léon XIV voit dans l’économie numérique des risques majeurs pour la dignité humaine et la justice sociale.

Face à ces dérives, le pape appelle à des règles strictes. Il juge 'unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird' (indispensable que l’utilisation de l’IA s’accompagne de critères clairs et de contrôles efficaces). La propriété des données des utilisateurs doit aussi être réglementée, ajoute-t-il.

Le souverain pontife avertit aussi contre les mensonges et les falsifications générés par l’IA. 'Bleiben wir der Wahrheit treu!' (Restons fidèles à la vérité !), exhorte-t-il, mettant en garde contre des flux incessants d’informations capables d’influencer les décisions et les préférences.

L’encyclique rappelle que l’intelligence artificielle peut 'Sprache, Verhalten und Beurteilungen imitieren' (imiter le langage, le comportement et les jugements), mais qu’elle ne possède ni conscience, ni conscience morale, ni compréhension de 'l’amour, du travail, de l’amitié et de la responsabilité'. 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.', insiste le pape.

La présence d’un géant de l’IA au Vatican

Sur le plan militaire, Léon XIV réclame que l’IA soit 'entwaffnet' (désarmée). Il déclare : 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.' (Il n’est donc pas permis de confier des décisions mortelles ou irréversibles à des systèmes artificiels). Selon lui, les armes autonomes rendent les guerres plus probables.

Le pape souligne que l’IA doit être alignée sur la morale et les valeurs humaines, mais prévient que cela est insuffisant 'wenn diese Moral von einigen wenigen bestimmt wird' (si cette morale est déterminée par quelques-uns). Il appelle à une responsabilité partagée et à un contrôle démocratique.

La présentation de l’encyclique, le 25 mai, a été marquée par une présence inédite : Chris Olah, cofondateur de l’entreprise d’IA Anthropic, a participé au Vatican aux côtés de cardinaux et de théologiens. C’est la première fois qu’un dirigeant d’une société d’IA assiste à un tel événement.

Anthropic, basé à San Francisco, est en conflit avec le gouvernement américain de Donald Trump, car il refuse de fournir ses modèles d’IA pour des systèmes d’armes autonomes et de surveillance civile. Trump a récemment critiqué à plusieurs reprises l’entreprise et le pape, allant jusqu’à publier une image générée par IA le représentant en Jésus.

L’encyclique ne mentionne pas nommément le président américain. Léon XIV insiste en revanche sur le rôle central des organisations internationales et de la diplomatie pour résoudre les conflits. Le texte, daté du 15 mai, marque le 135ᵉ anniversaire de 'Rerum novarum' de Léon XIII, fondement de la doctrine sociale catholique.