Pour le lundi de Pentecôte, le 25 mai 2026, le Pape Léon XIV a publié sa première Encyclique « Magnifica Humanitas » signée le 15 mai dernier. Elle est consacrée à la « protection de la personne humaine à l’ère de l’intelligence artificielle ». Elle vient 135 ans après « Rerum Novarum » (1891) de Léon XIII qui signifie en latin « des choses nouvelles », laquelle établissait avec un demi-siècle de retard la doctrine sociale de l’Église en rebond à la Révolution industrielle du XIXe siècle. Cette fois l’Eglise répond à l’avènement de l’IA générative popularisée par ChatGPT le 30 novembre 2022 moins de 4 ans après, ce qui manifeste l’ampleur et l’urgence du sujet.
L’Eglise assure ainsi pleinement ses responsabilités sur ce sujet technique, économique et social majeur.
En résumé, l’IA a besoin d’une boussole éthique pour éviter la concentration des pouvoirs, la manipulation de l’information, l’accroissement des inégalités et la déshumanisation progressive des relations humaines qui sont des risques réels. L’Eglise se positionne ainsi comme contre-pouvoir et vigie morale.
[Image générée par Grok]
Ce document de 134 pages est téléchargeable ici. Il est destiné à tous, croyant ou non, catholique ou d’autres religions. Il questionne à juste titre sur la transformation générée par l’intelligence artificielle et son impact sur nos sociétés et au-delà l’avenir de l’humanité.
L’encyclique aborde dans son chapitre 2 les fondements et les principes de la doctrine sociale de l’Eglise. Il s’agit des défis anthropologiques et spirituels posés par la révolution technologique en cours. Les références aux encycliques et aux travaux passés des précédents souverains pontifes sont soulignés (Pie XII, Jean XIII, Paul VI, Jean-Paul II, François) au fil des pages.
Ce premier Pape américain au pays des GAFAM a invité lors de la présentation de l’Encyclique, aux côtés de théologiens, le chercheur reconnu au sein d’Anthropic, Christopher Olah, ce qui a permis d’initier un dialogue avec le pouvoir technologique. On observera que Sam Altman d’OpenAI n’a pas été convié comme si le Vatican avait senti qu’Anthropic faisait des profits et qu’OpenAI serait une machine à fabriquer des pertes (pour 3 dollars investis, un peu plus d’un dollar de chiffre d’affaires est généré pour l’heure) et que les GAFAM seront par ailleurs dans cette compétition mondiale sans état d’âme à l’égard de la fondation. Le Saint Siège avec le temps religieux qui est un temps long préférerait dialoguer avec les acteurs les plus stables et les plus transparents ?
Léon XIV a personnellement présenté son encyclique car l’heure est grave. Selon lui, la révolution de l’IA est peut-être plus transformatrice encore que la révolution industrielle.
L’objectif central est de défendre la dignité humaine dans un monde où les technologies deviennent capables d’agir, de décider et d’influencer les comportements humains. Il vient rappeler que la personne humaine est un être libre, relationnel, responsable, doté d’une dignité inaliénable.
L’IA intéresse l’Eglise et la société car elle a des impacts sur la dignité humaine (façon de travailler, de s’informer, de gouverner, de se lier aux autres et aux IA elles-mêmes).
L’IA transforme également très rapidement la société (accélération du temps, influence des opinions – la technologie n’étant pas neutre quoi qu’on dise, modifie les rapports de force et redistribue le pouvoir avec des perdants et des gagnants comme lors de toute révolution (agricole, industrielle, numérique).
Le Vatican est neutre économiquement et militairement et peut apporter un recul sachant que l’Eglise planche sur les questions de liberté, de conscience, de responsabilité et de bien commun. Et notamment en quoi l’IA peut être un allié ou une menace pour les plus vulnérables (santé, pauvreté, inclusion des personnes, planète) avec aussi des menaces (déshumanisation, manipulation des consciences, accroissement des inégalités, responsabilités afférentes).
Le Pape souhaite une IA au service de l’humanité. Aussi l’encyclique appelle à une gouvernance mondiale de l’IA, fondée sur la dignité humaine, la justice sociale, la paix, la responsabilité, la transparence.
Deux icônes bibliques pour éclairer notre époque
Léon XIV ouvre son encyclique en évoquant deux images bibliques qui servent de matrices de discernement :
- La tour de Babel (cf. Gn 11, 1-9), symbole d’un progrès technologique sans limites, guidé par l’orgueil, la compétition et la volonté de puissance ;
- La reconstruction des murs de Jérusalem (cf. Ne 2-6), image d’un progrès orienté vers le bien commun, la protection des plus vulnérables et la coopération ;
Ces deux récits servent de repères pour comprendre le choix décisif auquel l’humanité est confrontée : ériger une nouvelle tour de Babel ou bâtir une cité humaine et fraternelle.
L’approche est celle d’un dialogue et non une compétition avec d’autres religions. L’éthique de l’IA est centrale dans cette analyse pour qu’elle ne soit pas exclusivement monopolisée par les acteurs économiques et militaires. On pourra observer que Le Vatican a déjà lancé des initiatives internationales comme Rome Call for AI Ethics en 2020, l’année du Covid, et signé par Microsoft, IBM, la FAO, et également des représentants juifs et musulmans. C’est un document interreligieux.
Cette encyclique est plus large que l’IA et concerne le numérique dans son ensemble. Dans cette transformation numérique (terme cité 3 fois), les questions du travail, du chômage, de l’économie qui valorise la dignité et la famille sont évoquées tout comme les questions des dépendances et du contrôle social et les nouvelles formes d’esclavage.
Elle examine en quoi l’IA peut être alliée (santé, inclusion, lutte contre la pauvreté, protection de la planète) ou menace (déshumanisation, manipulation des consciences, nouvelles formes d’esclavage numérique).
Les questions de transhumanisme (cité 6 fois) et posthumanisme sont abordées alors que Laurent Alexandre avec Alexandre Tsicopoulos (Les Alexandre nom et prénom) publient leur ouvrage qui peut être déstabilisant Vivre 1000 ans, soit plus que Mathusalem qui aurait vécu 969 ans dans la Genèse.
Léon XIV en appelant à un discernement collectif, enraciné dans la dignité humaine et le bien commun conclut que la « magnifique humanité » créée par Dieu se trouve face à un choix décisif. Chaque génération doit façonner son époque pour que la dignité de toute personne soit préservée, la justice promue et la fraternité rendue possible.
L’IA peut contribuer à bâtir cette cité… ou devenir une nouvelle tour de Babel.
Quelques morceaux choisis dans l’Encyclique et leur analyse
Au début de chaque extrait de l’Encyclique, qui figure en italique, est mentionné le numéro de paragraphe associé. Le commentaire et l’analyse figurent à la suite en caractères romain.
« [4] Ces dernières années, il est apparu de plus en plus évident combien la numérisation, l’intelligence artificielle et la robotique sont en train de transformer rapidement et profondément notre monde. », ce qui est évident et que nous constatons avec le combat que se livrent les Etats-Unis et la Chine pour le leadership mondial. L’Encyclique n’est pas hors sol, elle s’inscrit justement dans un contexte de rivalité technologique réelle à vouloir atteindre les sommets tel la Tour de Babel.
« [4] Au fil des siècles, le développement technologique a contribué à une amélioration significative des conditions de vie de l’humanité ; en même temps, chaque étape du progrès a également révélé la face ambigüe d’outils susceptibles de causer du tort lorsqu’ils ne sont pas mis au service du bien. Cependant aujourd’hui, nous sommes confrontés à une situation nouvelle, où la puissance et l’omniprésence des technologies émergentes s’inscrivent dans le tissu de la vie quotidienne, façonnent les processus décisionnels et marquent profondément l’imaginaire collectif », les technologies seront ce que nous en feront pour le bien comme pour le mal. L’IA amplifie cette ambivalence car elle automatise des décisions et pas seulement des tâches. Il s’agit d’un saut qualitatif important.
« [4] Les nouvelles technologies ouvrent un horizon étendu vers des directions que, bien qu’intuitives, nous ne pouvons pas encore pleinement prévoir. », c’est le sentiment que l’humain perd le contrôle face à la machine un peu comme dans le film 2001 L’odyssée de l’espace avec l’ordinateur HAL qui était toutefois conscient et malveillant alors que les IA actuelles ont des algorithmes opaques ou du moins complexes dans l’explicabilité des décisions prises, sont imprévisibles et induisent une dépendance systémique.
« [5] Nous ne pouvons pas ignorer que l’énergie nucléaire, la biotechnologie, l’informatique, la connaissance de notre propre ADN et d’autres capacités que nous avons acquises […] donnent à ceux qui ont la connaissance, et surtout le pouvoir économique d’en faire usage, une emprise impressionnante sur l’ensemble de l’humanité et sur le monde entier », ce qui dénote la prise de conscience du Vatican sur la transformation de la société en cours et des usages tous azimuts.
« [5] Par le passé, c’étaient surtout les États qui guidaient et orientaient l’innovation. Aujourd’hui, en revanche, les principaux moteurs du développement sont des acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’intervention supérieures à celles de nombreux gouvernements », cette privatisation du progrès génère un problème démocratique : pas ou peu de contrôle citoyen, absence de transparence, absence de responsabilité
« [16] Ne craignons pas de nous salir les mains sur le chantier de notre époque », sonne comme un « N’ayez pas peur » (de l’IA) qu’aurait pu prononcer Jean-Paul II. Le nouveau Pape souhaite encourager une attitude active et constructive face à l’IA et non une crispation paralysante.
« [58] Il ne suffit pas de vanter la liberté individuelle ou l’initiative privée si l’on accepte ensuite qu’une multitude de personnes continue à vivre sans un travail décent, sans protection, sans accès aux biens fondamentaux », la fracture numérique créée dont il convient d’être conscient ainsi que d’une fracture que l’on pourrait qualifier de dignité qui est capitale tout comme la responsabilité et les libertés.
« [67] Dans un contexte où la richesse des nations dépend de plus en plus des connaissances et des technologies, quand ces biens restent concentrés entre les mains de quelques-uns, sans formes adéquates de partage et d’accès, il se crée un nouveau déséquilibre contredisant la destination universelle des biens et alimentant le fossé entre les inclus et les exclus, entre ceux qui peuvent participer à la révolution numérique et ceux qui en restent à l’écart. », ce qui présente le risque d’avoir une infime partie qui détient tout et des pronétaires qui seront abondants avec la disparition de la classe moyenne dont toute société a besoin pour son équilibre. En effet, comme c’est le cas pour toute grande avancée technologique, l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données. Comme le soulignait déjà Bernard Tricot dans son rapport en 1974 de la Commission informatique et libertés près de 4 ans avant la création de la CNIL, « l’informatique est au service des puissants ». Vladimir Poutine avait enfoncé le clou en disant en 2017 que la nation qui maîtriserait l’IA dominerait le monde.
« [71] La subsidiarité exige que ces processus ne soient pas imposés d’en haut de façon opaque et unilatérale, mais qu’ils soient orientés vers le bien commun à travers la transparence, la responsabilité et des formes réelles de participation (contrôles indépendants, transparence sur les algorithmes, accès équitable aux données, dispositifs de recours) », ce qui nécessite des contre-pouvoirs et aussi la séparation des pouvoirs dont les démocraties ont besoin.
« [98] Il convient de formuler deux remarques préliminaires : la première est que toute affirmation concernant l’IA risque de devenir rapidement obsolète, compte tenu de la vitesse impressionnante à laquelle ces systèmes évoluent. La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel. », un vrai enjeu avec le risque de jouer les apprentis-sorciers car les concepteurs ne peuvent plus mesurer les conséquences, ce qui explique aussi les moratoires voulus par des dirigeants (politique ou de la tech) cependant utopiques car lorsqu’une pause est décrétée certains peuvent s’en exonérer (par ex. Etats-Unis vs Chine). L’encyclique appelle à une éthique de l’humilité à savoir reconnaître que nous ne comprenons pas tout.
« [99] Il n’est pas possible de donner une définition univoque et complète de l’IA. Ce que nous pouvons affirmer, c’est qu’il faut éviter l’erreur consistant à assimiler cette intelligence à l’intelligence humaine. Ces systèmes imitent certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données », ce qui serait une limite de l’IA. Il en existe d’autres comme la capacité d’oublier pour mieux créer, etc. L’IA optimise et calcule et ne possède pas de mémoire autobiographique, ce qui limite pour l’heure toute forme de conscience.
« [110] Je voudrais enfin employer un mot qui me tient à cœur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. », ce qui fait écho à « Science sans conscience n’est que ruine de l’âme ». Désarmer renvoie aussi à la démilitarisation cognitive car l’IA pourrait devenir un outil de guerre psychologique, de manipulation et de contrôle social.
« [132] L’utilisation des plateformes numériques et des systèmes d’IA accélère les profonds changements qui touchent la communication publique et politique. Des outils qui pourraient favoriser le débat et la participation sont souvent utilisés pour construire des récits déformés et brouiller les frontières entre le vrai et le faux, en mélangeant données et opinions. La désinformation n’est pas née avec l’IA, mais elle trouve aujourd’hui en elle un puissant multiplicateur. La possibilité de manipuler des contenus, des images et des vidéos expose les citoyens à des perspectives partielles ou trompeuses. », c’est un risque effectivement, l’Eglise l’a vécu avec le Pape François et la doudoune blanche créée par une IA et devenue virale. L’IA ne crée pas de désinformation mais permet de l’industrialiser. Ceci peut entraîner une perte de confiance collective alors que les citoyens sont déjà par ailleurs et pour beaucoup désabusés par les élus.
« [134] La recherche de la vérité est un élément essentiel de la démocratie, qui est elle-même un instrument de participation au bien commun. Lorsque la question de savoir ce qui est vrai perd de son intérêt et qu’un pragmatisme se répand, se contentant de ce qui semble utile ou efficace, la vie démocratique s’affaiblit. En effet, celle-ci ne se nourrit pas seulement de règles et de procédures, mais avant tout d’un rapport loyal aux faits et d’une réelle orientation vers le bien des personnes et de la société. Le désintérêt pour la vérité conduit lentement mais inexorablement à glisser vers le totalitarisme, pour lequel, comme l’a écrit la philosophe Hannah Arendt, les sujets idéaux ne sont pas tant ceux qui sont idéologiquement convaincu, mais « les gens pour qui la distinction entre fait et fiction (c’est-à-dire la réalité de l’expérience) et la distinction entre vrai et faux (c’est-à-dire les normes de la pensée) n’existent plus », l’Encyclique s’appuie aussi sur des philosophes. Pour autant la vérité absolue est une quête difficile car souvent celle-ci est relative sauf pour les religions. La démocratie ne peut pas fonctionner si les citoyens ne partagent plus un socle minimal de réalité commune. Or l’IA menace ce socle en permettant la falsification aisée.
« [136] C’est pourquoi ceux qui contrôlent les plateformes numériques et les moyens de communication ont une capacité remarquable pour influencer l’imaginaire collectif et présenter comme désirable une certaine vision de la réalité. », ceci est illustré par les premières capitalisations boursières où nous avons désormais Nvidia et les GAFAM en tête. Ce pouvoir est transnational et en dehors du contrôle démocratique mais avec le DSA on peut passer de Charybde en Scylla car celui-ci a pour conséquence pour les plateformes de limiter des contenus ou de diminuer leur visibilité s’ils ne sont pas en ligne avec la doxa. Ceci constitue un autre risque à ne pas négliger.
« [150] Aujourd’hui, l’imbrication entre l’automatisation, la robotique et l’IA transforme rapidement la structure même du travail. Selon certains, cela apportera de grandes améliorations pour tous. En réalité, les “nouvelles façons” de travailler ne sont pas nécessairement meilleures « alors que l’IA promet de stimuler la productivité en prenant en charge des tâches ordinaires, les travailleurs sont souvent contraints de s’adapter à la vitesse et aux exigences des machines, au lieu que ces dernières soient conçues pour aider ceux qui travaillent. Ainsi, contrairement aux avantages annoncés de l’IA, les approches actuelles de la technologie peuvent paradoxalement déqualifier les travailleurs, les soumettre à une surveillance automatisée et les reléguer à des tâches rigides et répétitives. » rejoint les analyses du chercheur Antonio Casilli sur les travailleurs du clic, la plateformisation et les nouvelles formes d’esclavage moderne avec une faibles protection sociale de type chauffeur Uber ou livreur Uber Eats. Le risque est la disparition de la classe moyenne dont toute société équilibrée a besoin.
« [165] La famille est un bien social primordial. Fondée sur l’union stable entre un homme et une femme, elle est le premier milieu dans lequel chacun développe ses potentialités, prend conscience de sa dignité et apprend les premières formes de vérité et de bonté, en intériorisant des habitudes qui préparent à la vie sociale. Première société naturelle, dotée de droits originels, la famille est la cellule fondamentale et irremplaçable de toute organisation communautaire. Par conséquent, lorsque les projets politiques et les grandes décisions économiques la relèguent à un rôle marginal ou secondaire, la croissance authentique de l’ensemble du corps social s’en trouve compromise. », c’est aussi une question essentielle alors que le lien social disparaît, les repas en famille se font plus rares et on le voit avec le ravage des smartphones car le contrat social y compris au sein de la famille est plus délicat à établir avec les pressions extérieures de la société numérique. L’IA s’immisce en tiers relationnel dans la famille (assistants personnels, robots intelligents, omniprésence des écrans qui captent l’attention et isolent la personne par rapport aux autres membres de la famille). L’éducation et l’attention portée aux autres sont challengées.
Digital Impacts
Editions des Cassines
Paperblog
Renaissance numérique
Commentaires récents