Le pape Léon XIV publie sa première encyclique et met en garde contre les risques de l'IA

Léon XIV, premier pape américain à la tête de 1,4 milliard de catholiques, a placé son pontificat dès le début sous le signe de l'alerte technologique. L'encyclique est considérée comme la déclaration de gouvernement de son règne, et elle s'attaque de front aux enjeux éthiques et sociaux de l'IA.

Les mises en garde principales

Le texte avertit que "Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen" (De petits groupes très influents peuvent orienter l'information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques). Il insiste sur le fait que derrière les systèmes d'IA apparemment "immatériels" se cache une chaîne d'exploitation et de dépendance.

"Nichts ist in der Welt der KI immateriell oder magisch" (Rien dans le monde de l'IA n'est immatériel ni magique), souligne le document, avant de décrire le fondement concret des services numériques : le travail souvent invisible de millions de personnes, des chaînes d'approvisionnement mondiales, des extractions dangereuses de matières premières et un travail des données mal rémunéré.

L'exploitation derrière les écrans

L'encyclique ne mâche pas ses mots sur les violences physiques liées à l'économie numérique : "Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt" (Des corps sont blessés, mutilés et consumés pour que le flux de calcul ne s'arrête pas). Elle dénonce également le trafic d'êtres humains dans l'espace numérique, où des personnes sont réduites à l'état de "données" et de "paquets".

Le pape établit une distinction fondamentale entre l'intelligence humaine et les machines : "Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt" (Aucun système informatique, aussi sophistiqué soit-il, ne crée un cœur qui se donne, ni une conscience qui reconnaît le bien). L'IA peut imiter le langage, les comportements et les jugements, mais elle ne possède ni conscience ni sens moral, et elle ne comprend pas l'amour, le travail, l'amitié ou la responsabilité.

L'IA n'est pas humaine

Le texte appelle donc à une régulation stricte. "Es ist unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird" (Il est indispensable que l'utilisation de l'IA – surtout lorsqu'il s'agit de biens publics et de droits fondamentaux – s'accompagne de critères clairs et de contrôles efficaces), peut-on lire.

La présentation de l'encyclique a pris une dimension politique avec la présence de Chris Olah, cofondateur de l'entreprise d'IA Anthropic, basée à San Francisco. Anthropic est en conflit avec le gouvernement américain de Donald Trump, car l'entreprise refuse de mettre ses modèles à disposition pour des systèmes d'armes autonomes et la surveillance civile.

Un bras de fer avec Washington

Ces derniers mois, Donald Trump a vivement critiqué à la fois Anthropic et le pape. Au plus fort de la dispute, il a publié une image générée par IA le représentant sous les traits de Jésus. Le président américain n'est jamais nommé directement dans l'encyclique, mais son ombre plane sur le texte.

Le pape appelle à "désarmer" l'IA, littéralement. "Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen" (C'est pourquoi il n'est pas permis de confier des décisions mortelles ou de toute façon irréversibles à des systèmes artificiels), écrit-il, tout en soulignant que les armes autonomes rendent les guerres plus envisageables.

Face aux risques de manipulation de l'information, l'encyclique exhorte : "Bleiben wir der Wahrheit treu!" (Restons fidèles à la vérité!). Le texte insiste sur la nécessité du dialogue et de la coopération multilatérale pour prévenir les crises et restaurer la confiance, rappelant que les organisations internationales et la diplomatie restent des instruments centraux pour résoudre les conflits.

"Wir können KI nicht als moralisch neutral betrachten" (Nous ne pouvons pas considérer l'IA comme moralement neutre), conclut le pape, en affirmant que la propriété des données des utilisateurs doit aussi être régulée et que l'alignement de l'IA sur la morale humaine est inutile "wenn diese Moral von einigen wenigen bestimmt wird" (si cette morale est déterminée par quelques-uns).