Le pape Léon XIV publie sa première encyclique et alerte sur les dérives de l'intelligence artificielle

Le pape Léon XIV y critique vertement le pouvoir des géants technologiques mondiaux. 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen', peut-on lire. Selon lui, rien dans le monde de l'IA n'est immatériel ou magique : 'Nichts ist in der Welt der KI immateriell oder magisch'.

L'encyclique démonte le mythe de l'immatérialité du numérique en rappelant que chaque service digital repose sur le travail souvent invisible de millions de personnes. Elle dénonce l'exploitation dans les chaînes mondiales d'approvisionnement et de données, citant le travail de données mal rémunéré et l'extraction dangereuse de matières premières.

Les chaînes invisibles de l'exploitation numérique

Dans un passage particulièrement saisissant, le pape écrit : 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt'. Il évoque aussi la traite d'êtres humains dans l'espace numérique, où des personnes sont réduites à l'état de 'données' et de 'paquets'.

Le souverain pontife insiste sur l'absence de conscience des systèmes d'intelligence artificielle : 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.' Il avertit que l'IA peut imiter le langage et les jugements, mais ne possède ni conscience morale ni compréhension de l'amour, du travail ou de la responsabilité.

Face à ces constats, le pape Léon XIV réclame des règles strictes. 'Unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird', déclare-t-il. Il juge indispensable de réglementer la propriété des données des utilisateurs.

L'IA n'est pas neutre : un appel à la régulation

Le texte met également en garde contre les risques de manipulation de l'information. Avec des flux incessants d'images et d'opinions générés par des algorithmes de plus en plus sophistiqués, les citoyens peuvent être facilement influencés. L'encyclique exhorte : 'Bleiben wir der Wahrheit treu!'

Le pape consacre un long développement aux systèmes d'armes autonomes, estimant qu'ils rendent les guerres plus probables. Il affirme que l'IA doit être 'entwaffnet' et qu'il n'est pas permis de confier des décisions létales ou irréversibles à des machines : 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.'

La présence à la cérémonie de Chris Olah, co-fondateur du groupe d'IA Anthropic basé à San Francisco, a été remarquée – une autre première. Anthropic est actuellement en conflit avec le gouvernement américain de Donald Trump pour avoir refusé de mettre ses modèles d'IA à disposition pour des armes autonomes et la surveillance civile.

Le président américain n'est pas nommé dans l'encyclique, mais il a récemment critiqué à plusieurs reprises le pape et Anthropic. Au plus fort du différend, Donald Trump avait publié une image générée par IA le représentant en Jésus.

Conflit avec Trump et présence d'Anthropic

Le pape Léon XIV appelle de ses vœux un dialogue multilatéral et une coopération internationale renforcée pour prévenir les crises et rétablir la confiance. 'Wir können KI nicht als moralisch neutral betrachten', insiste-t-il, soulignant que chaque système d'IA contient des décisions sur ce qu'il mesure, ignore ou évalue.

Enfin, l'encyclique met en garde contre la tentation de la résignation face aux problèmes mondiaux et réaffirme le rôle central des organisations internationales et de la diplomatie dans la résolution des conflits.