Le pape Léon XIV met en garde contre les dangers de l'IA dans sa première encyclique

Les chaînes d’exploitation invisibles

Le pape s’attaque au pouvoir des géants technologiques, estimant que « Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen ». Il y voit une menace directe pour la souveraineté des peuples.

Face à ces dérives, Léon XIV exige des garde-fous. « Unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird », déclare-t-il. Il appelle également à une régulation de la propriété des données personnelles.

Un plaidoyer pour une régulation mondiale

La présentation officielle au Vatican a été marquée par une double première : le pape y a assisté en personne, un fait inédit, et Chris Olah, cofondateur de l’entreprise d’intelligence artificielle Anthropic, siégeait aux côtés de cardinaux et de théologiens.

Âgé de 70 ans, Léon XIV est le premier pontife originaire des États-Unis. Il a succédé au pape François en mai de l’année dernière et guide aujourd’hui 1,4 milliard de catholiques à travers le monde. Sa première encyclique est perçue comme une déclaration d’intention pour son pontificat.

L’ombre de tensions politiques

Le contexte politique américain affleure en filigrane. Le président Donald Trump a récemment critiqué à plusieurs reprises à la fois le pape et Anthropic, société basée à San Francisco qui refuse de fournir ses modèles d’IA pour des systèmes d’armes autonomes et de surveillance civile. L’encyclique ne mentionne toutefois pas le nom du président.

La question des armes autonomes est longuement évoquée. Le texte affirme que l’intelligence artificielle doit être « entwaffnet » (désarmée), et juge non admissible de confier à des machines des décisions létales ou irréversibles. « Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen. »

Sur le plan moral, le pape écarte toute neutralité : « Wir können KI nicht als moralisch neutral betrachten. » Il insiste sur l’absence de conscience des systèmes informatiques : « Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt. »

Une encyclique programmatique

L’encyclique met aussi en garde contre les infox et les trucages générés par l’IA, appelant à ne pas se laisser berner : « Bleiben wir der Wahrheit treu! » Elle prône le dialogue et la coopération multilatérale pour prévenir les crises et restaurer la confiance.

La date choisie, le 15 mai, fait écho à une autre encyclique fondatrice : il y a exactement 135 ans, Léon XIII publiait « Rerum novarum », socle de la doctrine sociale de l’Église face à la révolution industrielle. Léon XIV inscrit ainsi son pontificat dans une tradition de discernement des mutations technologiques.

Le document met en garde contre la tentation du découragement face aux défis planétaires, tout en rappelant que les organisations internationales et la diplomatie restent des instruments centraux pour résoudre les conflits. Il exhorte enfin à ne jamais sacrifier la dignité humaine au nom d’un progrès technique mal maîtrisé.