Le pape Léon XIV publie « Magnifica Humanitas », une encyclique historique sur les dangers de l’intelligence artificielle

Un texte fondateur dans la tradition sociale

Le texte, daté du 15 mai, jour du 135e anniversaire de l’encyclique « Rerum novarum » de Léon XIII, s’inscrit dans la tradition de la doctrine sociale catholique. Comme son prédécesseur, le pape Léon XIV entend répondre aux défis de son temps, marqué par la révolution numérique.

Le document critique d’emblée le pouvoir des géants de la technologie. Il affirme que « de petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques », selon la traduction officielle en allemand.

L’encyclique s’attaque aussi aux coulisses de l’IA. « Rien dans le monde de l’IA n’est immatériel ou magique », peut-on lire. Elle dénonce l’exploitation dans les chaînes mondiales d’approvisionnement et de données, évoquant le travail mal payé et l’extraction dangereuse de matières premières.

Les faces cachées de l’intelligence artificielle

Le pape y dénonce avec force : « Des corps sont blessés, mutilés et usés pour que le flux de calcul ne s’arrête pas. » Le trafic d’êtres humains dans l’espace numérique, où des personnes sont réduites à l’état de « données » et de « colis », est également pointé du doigt.

L’intelligence artificielle, poursuit le texte, peut « imiter le langage, le comportement et les jugements », mais elle ne possède ni conscience ni sens moral. « Aucun système informatique, aussi sophistiqué soit-il, ne crée un cœur qui se donne ou une conscience qui reconnaît le bien. »

Face à ces dangers, le pape n’est pas technophobe. Il reconnaît que l’IA peut être une « aide précieuse » dans de nombreux domaines. Mais il exige des garde-fous : « Il est indispensable que l’usage de l’IA – en particulier quand il touche aux biens publics et aux droits fondamentaux – soit accompagné de critères clairs et de contrôles efficaces. »

Le document insiste sur la régulation de la propriété des données des utilisateurs et appelle à ne pas déléguer de décisions mortelles aux machines. « Il n’est donc pas permis de confier des décisions létales ou de toute façon irréversibles à des systèmes artificiels », déclare-t-il.

Un contexte tendu avec Washington

La présence de Chris Olah, cofondateur de l’entreprise d’IA Anthropic basée à San Francisco, aux côtés de cardinaux et de théologiens, a donné un relief particulier à la cérémonie. Anthropic est actuellement en conflit avec le gouvernement américain de Donald Trump pour avoir refusé de mettre ses modèles à disposition pour des armes autonomes et la surveillance civile.

Le président américain n’est pas nommé dans l’encyclique, mais il a récemment critiqué à plusieurs reprises le pape comme l’entreprise Anthropic. M. Trump a même publié une image générée par IA le représentant en Jésus au plus fort de cette querelle.

L’encyclique plaide résolument pour une IA « désarmée » et orientée vers la morale et les valeurs humaines. Elle met toutefois en garde : cette morale ne doit pas être dictée par une poignée d’acteurs. « Nous ne pouvons pas considérer l’IA comme moralement neutre », souligne le texte.

Pour une IA éthique et désarmée

Sur le front de la guerre, le pape estime que les systèmes d’armes autonomes rendent les conflits « plus faciles à mener ». Il appelle à un renforcement du rôle des organisations internationales et de la diplomatie pour résoudre les différends.

Enfin, le souverain pontife exhorte à ne pas céder à la résignation face aux problèmes globaux. « Restons fidèles à la vérité ! », lance-t-il, invitant à résister aux mensonges et aux falsifications que l’IA peut propager.

L’encyclique, qui constitue un jalon pour l’Église universelle forte de 1,4 milliard de catholiques, entend montrer que la technologie ne doit jamais écraser la personne humaine, mais la servir. Elle fixe un cap pour un débat qui ne fait que commencer.