Léon XIV et l’IA : la guerre des mondes

Sa présence n’est pas passée inaperçue. Aux côtés du pape, qui présentait lui-même - c’est une première dans l’histoire - son encyclique Magnifica humanitas consacrée à l’IA, se tenait un autre ponte, mais de la Silicon Valley celui-ci, cofondateur d’Anthropic - la société qui a créé le logiciel Claude : Christopher Olah. 

C’est que Léon XIV, premier pape né après 1945, à Chicago, au milieu du grand boom consumériste des années cinquante, titulaire d’une maîtrise de mathématiques, s’intéresse de très près depuis longtemps à ce nouveau monde et aux bouleversements que celui-ci engendre.

Le pape des révolutions technologiques

« Le pape n’est pas un geek au sens premier, mais il a une vraie familiarité avec les technologies, cela a été très clair dès ses premières prises de parole », observait auprès de nous il y a quelques semaines le frère dominicain Eric Salobir, qui a l’oreille des grands patrons de la Silicon Valley et organisait, début octobre, comme il le fait chaque année, une rencontre de plusieurs d’entre eux avec les responsables du Vatican, réunion dans un huis clos absolu, d’où il ne filtre rien - ni sur les noms des participants, ni sur la teneur des échanges.

Si Léon XIV s’appelle ainsi, c’est justement en réaction à l’expansion vertigineuse de l’IA. Par référence au pape Léon XIII, qui à la fin du XIXe siècle établit la doctrine sociale de l’Église sur la condition ouvrière. Celui-ci fut le pape de la révolution industrielle, son lointain successeur est celui de la révolution numérique. Au XXIe siècle, comme au XIXe siècle, il ne s’agit pas de s’opposer frontalement à un - inévitable - progrès technique, mais d’en canaliser les effets. « Léon XIII ne fut pas le pape de la machine, mais celui du changement de paradigme social que celle-ci produit, précise Eric Salobir. Il développe une réflexion sociale, politique afin de replacer l’humain au centre d’une révolution. L’Eglise se pose en garde-fou des plus vulnérables ».

Dans les pas de Léon XIII

Plus de cent ans après, Léon XIV affirme la nécessité de « répondre à une autre révolution industrielle et aux développements de l’intelligence artificielle, qui posent de nouveaux défis pour la défense de la dignité humaine, de la justice et du travail ». Il le fait dès le lendemain de son élection, devant le collège des cardinaux, en particulier les Africains, inquiets du pillage des minerais sur leur continent pour servir ces nouvelles industries. 

Le défi auquel nous sommes actuellement confrontés n’est pas technologique, mais anthropologique

Au Vatican, depuis, se multiplient séminaires, réunions publiques et rencontres informelles sur le sujet. Pas plus tard que le 21 mai, chercheurs et experts débattaient de la nécessité, dans « une époque marquée par la croissance exponentielle de la technologie » comme le soulignait le pape, de l’importance de « préserver les voix et les visages humains ».

Léon XIV dénonçait alors « la promotion et la mise en œuvre effrénées de la technologie au détriment de la dignité humaine, ainsi que les dommages causés lorsque les chatbots et autres technologies exploitent notre besoin de relations humaines ». Ce qui avait pour conséquence de révéler «une éclipse du sens de l’existence humaine ». Conclusion : « le défi auquel nous sommes actuellement confrontés n’est pas technologique, mais anthropologique ».

Léon XIV ne délivre pas d’anathème, il se fait lanceur d’alerte. « Que sommes-nous en train de construire ? » interpelle-t-il dans son encyclique pour provoquer un sursaut des consciences et « désarmer l’IA ». Parce que « le développement technologique modifie rapidement les langages, les relations, les institutions et les formes de pouvoir ». Parce que « les innovations technologiques – notamment l’intelligence artificielle – ne sont pas neutres : elles peuvent favoriser la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion ».

« Le défi n’est pas technologique, mais anthropologique »

Face à la prolifération des « fake news », dont il est lui-même victime, il saluait, le 9 octobre, le travail «précieux» des agences de presse, « rempart » face « aux sables mouvants de l’approximation et de la post-vérité », à l’heure où « le monde a besoin d’informations libres, rigoureuses et objectives ». « Les algorithmes génèrent du contenu et des données à une échelle et à une vitesse jamais vues auparavant. Mais qui les gouverne ? », interpelle le pontife. 

Qui, déjà, refuse lui-même son instrumentalisation virtuelle. « S’il y a bien une personne qui ne devrait pas être représentée par un avatar, c’est le pape, à mon avis », confie-t-il à la journaliste Elise Ann Allen, autrice de sa première biographie, Léon XIV, pape missionnaire d’une Église mondialisée (Ed. du Rocher/Artège).

Robert Prévost y raconte l’anecdote suivante : « En parlant à quelqu’un un jour, on m’a demandé : « Vous allez bien ? » Et j’ai répondu : « Oui, je vais bien, pourquoi ? » « Eh bien, vous êtes tombé dans un escalier. » J’ai répondu : « Non, je ne suis pas tombé », mais il existait une vidéo fabriquée de toutes pièces dans laquelle j’apparaissais tombant dans un escalier alors que je marchais normalement. C’était si bien fait, apparemment, qu’ils pensaient que c’était moi sans hésitation ». 

Dans ce livre, le pape résume ainsi sa position : « L’Église n’est absolument pas opposée aux progrès technologiques, mais perdre le lien entre foi et raison scientifique, je pense, réduit la science à une coquille vide et froide, ce qui portera un grand préjudice à l’humanité ». « Si, poursuit Léon XIV, nous perdons de vue la valeur de l’humanité et pensons que le monde numérique est primordial, et que nous pensons ensuite aux personnes extrêmement riches qui investissent dans l’intelligence artificielle, ignorant totalement la valeur des êtres humains et de l’humanité, je pense que l’Église doit s’exprimer. Notre vie humaine prend sens non pas grâce à l’intelligence artificielle, mais grâce aux êtres humains et à la rencontre, grâce à la convivialité, à la création de relations et à la découverte de la présence de Dieu dans ces relations humaines ». 

Léon XIV reconnaît la dimension puissante et potentiellement bénéfique d’une technologie, ce qui est important car on peut volontiers taxer les catholiques d’être négatifs face à une telle révolution. Mais il met en garde sur les conséquences éthiques et humaines. Eric Salobir

Exemple concret : le pape reconnaît les progrès permis par l’IA dans la médecine, mais affirme que « l’intelligence artificielle ne pourra jamais remplacer le médecin », incitant plusieurs d’entre eux, dans une audience au Vatican le 2 octobre, à soigner leur relation avec les patients, car « vous êtes des réserves d’amour qui apportent sérénité et espérance aux personnes qui souffrent », dit le souverain pontife.

Dont la vive préoccupation, il l’exprime le 20 juin, porte sur « le sort des enfants et des jeunes, et les conséquences possibles de l’utilisation de l’IA sur leur développement intellectuel et neurologique ». Le pape s’exprimait dans un message aux participants de la deuxième Conférence annuelle de Rome sur l’IA, martelant que « l’accès aux données, aussi vaste soit-il, ne doit pas être confondu avec l’intelligence ». 

« Léon XIV, souligne Eric Salobir, reconnaît la dimension puissante et potentiellement bénéfique d’une technologie, ce qui est important car on peut volontiers taxer les catholiques d’être négatifs face à une telle révolution. Mais il met en garde sur les conséquences éthiques et humaines ».

Vers une gouvernance mondiale de l’IA

C’est ce que le pontife exprime nettement, en juillet, dans son message aux participants du Sommet AI for Good 2025. « L’humanité est à la croisée des chemins, confrontée à l’immense potentiel généré par la révolution numérique induite par l’intelligence artificielle », écrit Léon XIV, insistant sur l’enjeu crucial à développer l’IA avec « responsabilité et discernement ». Et le pape d’appeler de ses vœux la mise en place d’une « gouvernance locale et mondiale coordonnée de l’IA ».

Le terrain a été préparé par le pape François qui, le 14 juin 2024, s’adressant au sommet des dirigeants du G7 en 2024, qualifiait l’IA de « fascinante et terrifiante », déclarant que l’humanité irait vers sa perte si les « choix des machines » remplaçaient les décisions des individus concernant leur vie, affirmant que l’IA est « avant tout un outil », mais à prendre avec précaution, dans une époque marquée par la « disparition ou du moins une éclipse du sens de l’humain ».

Une réflexion que Léon XIV est en train d’approfondir, et qui devrait faire l’objet de textes pontificaux alors que, relève Eric Salobir, la mise à jour de la doctrine sociale de l’Eglise énoncée au XIXe siècle remonte à 2004, avant l’explosion de la révolution numérique et des réseaux sociaux. C’est au cœur de cette première encyclique, dans laquelle le pape consacre de longs développements à la doctrine sociale et aux enrichissements effectués à ce corps par tous les papes successifs.

Le 2 mars dernier, un séminaire organisé au Vatican planchait sur l’IA et l’éthique, encouragé par le pape lui-même, insistant sur une longue note publiée par les dicastères pour la doctrine de la foi et pour la culture et l’éducation le 14 janvier 2025. Le texte reprenait l’alerte de Georges Bernanos, dans La France contre les robots en… 1947 : « Le danger n’est pas dans la multiplication des machines, mais dans le nombre toujours croissant d’hommes habitués, dès l’enfance, à ne rien vouloir de plus que ce que les machines peuvent donner ».

Dans son encyclique, le pape écrit : « Si le développement technologique se poursuit sans une maturation éthique et sociale adéquate, il peut arriver que les moyens augmentent sans que l’humanité ne croisse dans la même mesure : on “a plus” mais on “n’est pas plus”, et la personne risque d’être évaluée avant tout en fonction des performances qu’elle garantit ».

Les rédacteurs de la note de 2025, à la suite de Bernanos, affirmaient : « Le défi est tout aussi vrai aujourd’hui qu’à l’époque, car la progression rapide de la numérisation entraîne le risque d’un « réductionnisme numérique », dans lequel les expériences non quantifiables sont mises de côté, puis oubliées, ou considérées comme non pertinentes parce qu’elles ne peuvent pas être calculées en termes formels. L’IA ne devrait être utilisée que comme un outil complémentaire à l’intelligence humaine et ne devrait pas en remplacer la richesse. Cultiver les aspects de la vie humaine qui vont au-delà du calcul est essentiel pour préserver une « humanité authentique », qui « semble habiter au milieu de la civilisation technologique, presque imperceptiblement, comme un brouillard filtrant sous une porte fermée ». Prémonitoire… !

Jérôme Cordelier, rédacteur en chef du journal Le Point

Source : https://www.lepoint.fr/postillon/leon-xiv-et-lia-la-guerre-des-mondes-6HDTUCZNBVBPXF42EITCGTG5FM/