Le pape Léon XIV dénonce les dérives de l'intelligence artificielle dans sa première encyclique

L'encyclique dénonce la concentration du pouvoir entre les mains de quelques géants technologiques. Le pape y écrit : 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen.' Selon lui, une poignée de personnes déjà très riches tire profit de l'IA.

Derrière l'IA, des êtres humains exploités

Le document souligne que derrière les systèmes d'IA apparemment immatériels se cache une réalité humaine douloureuse. Il rappelle que rien dans le monde de l'IA n'est immatériel ni magique, citant le slogan : 'Nichts ist in der Welt der KI immateriell oder magisch.'

Les chaînes d'approvisionnement mondiales sont pointées du doigt pour leur exploitation des travailleurs. L'encyclique dénonce le travail de données mal rémunéré et l'extraction dangereuse de matières premières, nécessaire à la fabrication des ordinateurs.

Dans un passage saisissant, le pape affirme que les corps sont blessés et mutilés pour que le flux de calcul ne s'arrête pas : 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.' Il y voit une chaîne d'exploitation et de dépendance.

Le texte évoque également la traite des êtres humains dans l'espace numérique, où des personnes sont dégradées au rang de 'données' et de 'paquets'. Chaque service digital repose, selon lui, sur le travail souvent invisible de millions d'individus.

Conscience morale et régulation : les garde-fous exigés

Sur le plan moral, le pape rappelle qu'un système informatique, aussi perfectionné soit-il, ne crée ni cœur ni conscience : 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.' L'IA peut imiter le langage mais ne possède pas de conscience morale, ne comprend pas l'amour, le travail, l'amitié ou la responsabilité.

Face à ces constats, l'encyclique appelle à une régulation claire. Elle réclame des critères et des contrôles efficaces pour l'utilisation de l'IA, notamment lorsqu'il s'agit de biens publics et de droits fondamentaux. Elle juge indispensable de réglementer la propriété des données des utilisateurs.

Léon XIV insiste sur la nécessité d'aligner l'IA sur des valeurs morales et humaines. Mais il met en garde : même un alignement moral serait vain 'wenn diese Moral von einigen wenigen bestimmt wird'. Il récuse l'idée d'une IA moralement neutre : 'Wir können KI nicht als moralisch neutral betrachten.'

Armes autonomes et désinformation, menaces directes

Les armes autonomes sont un autre sujet d'inquiétude. Le pape écrit qu'elles ont rendu les guerres 'durchführbarer', donc plus faciles à envisager, et appelle à les 'entwaffnen', désarmer. Il juge qu'il est inadmissible de confier des décisions irréversibles à des machines : 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.'

L'encyclique ne mentionne pas nommément Donald Trump, mais le contexte politique est tendu. Le président américain a critiqué à plusieurs reprises le pape et Anthropic, cette dernière refusant de fournir ses modèles d'IA pour des armes autonomes et la surveillance civile. Trump a même publié une image générée par IA le représentant en Jésus.

Chris Olah, cofondateur d'Anthropic, dont l'entreprise est en conflit avec l'administration Trump, a assisté à la présentation. Par sa présence, une première pour le lancement d'une encyclique, il a semblé incarner une volonté de dialogue entre la tech et le magistère de l'Église.

Un contexte politique tendu et un appel au dialogue

Datée du 15 mai, l'encyclique rend hommage à Léon XIII, dont la publication de 'Rerum novarum' il y a exactement 135 ans avait jeté les bases de la doctrine sociale catholique face à la révolution industrielle. Le pape Léon XIV, âgé de 70 ans, est le premier pontife originaire des États-Unis, à la tête de 1,4 milliard de catholiques dans le monde.

Le document salue la diplomatie et les organisations internationales comme instruments centraux pour résoudre les conflits. Il appelle à rester fidèles à la vérité, alors que les algorithmes sophistiqués influencent les décisions et les préférences de chacun : 'Bleiben wir der Wahrheit treu!'

L'encyclique reconnaît toutefois que l'IA peut être une 'wertvolle Hilfe', une aide précieuse, dans de nombreux domaines. Elle plaide pour une technologie au service du bien commun, conditionnée à une responsabilité claire dans son développement.