Le pape Léon XIV met en garde contre les risques de l’IA dans sa première encyclique

Un pape américain à l’ère du numérique

Dès les premières pages, le texte pontifical prévient que « Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen. » Ces petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et peser sur les dynamiques économiques.

L’encyclique met également en lumière la face cachée de l’économie numérique. Elle dénonce l’exploitation des chaînes d’approvisionnement mondiales, les travaux de données mal rémunérés et l’extraction dangereuse de matières premières. « Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt », peut-on lire : des corps sont blessés, mutilés et consumés pour que le flux informatique ne s’arrête pas.

Dans l’espace numérique, la traite des êtres humains est aussi pointée du doigt : des personnes y sont réduites à l’état de « données » et de « colis ».

Le souverain pontife rappelle que l’IA peut « Sprache, Verhalten und Beurteilungen imitieren », imiter le langage, le comportement et les jugements, mais qu’elle ne possède ni conscience, ni morale, et qu’elle ne comprend pas « l’amour, le travail, l’amitié et la responsabilité ».

Un entrepreneur de la tech au Vatican

Fait inédit : un représentant d’une entreprise technologique a participé pour la première fois à la présentation d’une encyclique. Chris Olah, cofondateur d’Anthropic, était présent aux côtés de hauts cardinaux et de théologiens. Son entreprise, basée à San Francisco, refuse de mettre ses modèles d’IA à disposition pour des systèmes d’armes autonomes et la surveillance civile, ce qui lui vaut un contentieux avec l’administration américaine.

Sous la présidence de Donald Trump, le gouvernement des États-Unis critique vivement cette position. Le président américain a récemment multiplié les attaques à la fois contre Anthropic et contre le pape, allant jusqu’à publier une image générée par IA le représentant en Jésus. Léon XIV ne mentionne jamais nommément Trump dans son encyclique.

Le texte réclame des garde-fous solides. « Unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird » : il est indispensable que l’usage de l’IA, surtout lorsqu’il touche aux biens publics et aux droits fondamentaux, soit accompagné de critères clairs et de contrôles efficaces. La propriété des données des utilisateurs doit également être réglementée.

« Désarmer » l’intelligence artificielle

Le pape estime que les armes autonomes rendent les guerres plus faciles à mener. L’IA doit être « entwaffnet », désarmée. « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen » : il n’est pas permis de confier des décisions mortelles ou autrement irréversibles à des systèmes artificiels.

Le message spirituel se double d’une exigence de cohérence. « Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt » : aucun système informatique, si sophistiqué soit-il, ne crée un cœur qui se donne ou une conscience qui reconnaît le bien. L’IA ne peut être considérée comme moralement neutre, insiste l’encyclique, et si elle doit être alignée sur des valeurs, il est inutile que cette morale soit déterminée par quelques-uns.

Face aux manipulations et aux infox, le texte exhorte à ne pas se laisser abuser par les mensonges de l’IA : « Bleiben wir der Wahrheit treu! », restons fidèles à la vérité. Il rappelle que les organisations internationales et la diplomatie restent des instruments centraux pour résoudre les conflits.

L’encyclique porte la date du 15 mai, jour anniversaire des 135 ans de « Rerum novarum », le texte fondateur de la doctrine sociale de l’Église publié par Léon XIII en pleine révolution industrielle. Un clin d’œil historique qui souligne la volonté de Léon XIV d’inscrire ses mises en garde dans la continuité de l’enseignement social catholique.