Le pape Léon XIV publie sa première encyclique sur l'IA et dénonce les dérives du numérique

Un texte inédit présenté par le pape en personne

Pour la première fois dans l'histoire de l'Église catholique, le souverain pontife a assisté personnellement à la présentation du texte, un geste qualifié de 'nouveauté' par le Vatican. Le cofondateur d'Anthropic, Chris Olah, était également présent aux côtés de cardinaux et de théologiens.

Anthropic, dont le siège est à San Francisco, est en conflit avec l'administration Trump pour avoir refusé de mettre ses modèles d'IA à disposition des systèmes d'armement autonomes et de la surveillance civile. Le président américain a récemment critiqué à plusieurs reprises le pape et l'entreprise.

Donald Trump a publié au plus fort du différend une image générée par IA le représentant en Jésus. Son nom n'est toutefois pas mentionné dans l'encyclique.

Critiques acerbes des géants de la technologie

Le texte dénonce le pouvoir des grandes entreprises technologiques mondiales : 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen.'

Il s'attaque aussi aux conditions de travail dans les chaînes d'approvisionnement du numérique : 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.'

L'encyclique rappelle que derrière des systèmes d'IA apparemment 'immatériels' se cache une chaîne d'exploitation et de dépendance : 'Nichts ist in der Welt der KI immateriell oder magisch.'

Appel à une régulation mondiale de l'IA

Le pape Léon XIV, premier Américain à la tête de l'Église catholique et âgé de 70 ans, exhorte à ne pas tomber dans la résignation face aux problèmes planétaires. Il insiste sur le rôle central des organisations internationales et de la diplomatie dans la résolution des conflits.

Il met en garde contre les systèmes d'armes autonomes, affirmant qu'ils ont rendu les guerres plus faciles à déclencher, et exige que l'IA soit 'entwaffnet'. Il écrit : 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.'

Le souverain pontife souligne que les systèmes d'IA peuvent 'Sprache, Verhalten und Beurteilungen imitieren' mais n'ont ni conscience, ni morale, et ne comprennent pas 'l'amour, le travail, l'amitié et la responsabilité'.

Il appelle à ce que l'utilisation de l'IA, en particulier pour les biens publics et les droits fondamentaux, soit accompagnée de critères clairs et de contrôles efficaces : 'unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird.'

L'encyclique demande que la propriété des données des utilisateurs soit également réglementée et qu'on ne confie pas à des systèmes artificiels des décisions létales ou irréversibles.

Un écho à 'Rerum novarum'

La publication coïncide avec le 135e anniversaire de l'encyclique 'Rerum novarum' de Léon XIII, qui avait jeté les bases de la doctrine sociale catholique à l'ère de la révolution industrielle.

Le pape conclut en exhortant à rester fidèle à la vérité et à ne pas se laisser tromper par les mensonges de l'IA : 'Bleiben wir der Wahrheit treu!'