Chronique
Léon XIV : les enjeux mondiaux de l’IA
par Jean-Baptiste Noé

Il y avait du monde à Rome, lundi dernier, pour assister à la présentation du texte sur l’IA de Léon XIV. Un texte annoncé dès l’élection du pape, qui a fait des défis de l’intelligence artificielle l’un des axes de son pontificat. S’il s’inscrit dans la théologie catholique, le texte va bien au-delà et fait dialoguer des industriels et des ingénieurs.

Preuve en est : lors de la présentation du texte était présent, aux côtés du pape, Christopher Olah, l’un des fondateurs d’Anthropic. L’enjeu du Vatican, avec ce texte, est de devenir l’un des lieux de débats et de réflexions sur ce qui se produit en intelligence artificielle aux États-Unis et en Asie. À défaut de pouvoir produire de l’industrie, de pouvoir au moins réfléchir sur les conséquences sociales et humaines de cette production industrielle.

Parmi les nombreux thèmes abordés par le texte, deux s’intègrent pleinement dans une réflexion géopolitique. Le premier concerne le risque de captation du pouvoir technologique, le second celui des évolutions techniques et morales de la guerre.

Contrôler le pouvoir technologique

La chose n’est pas inédite : quand une nouvelle technologie apparaît, celui qui la contrôle dispose d’un sérieux avantage sur ses concurrents. L’intelligence artificielle n’échappe pas à cette règle. Le risque est donc à la fois celui de l’établissement d’un monopole de fait et celui du contrôle des données, indispensables au bon fonctionnement de l’IA. Le pluralisme d’une part, la finalité bonne de l’autre, sont les deux éléments à maintenir pour éviter que l’IA n’enferme ses utilisateurs.

L’une des transformations accentuées par l’IA est le poids important donné aux entreprises qui la contrôlent, au détriment des États. Ces derniers perdent une partie de leur monopole de la puissance politique, diluée dans la puissance technologique et industrielle des grandes compagnies. Ce phénomène s’était amplifié une première fois avec Google et les autres Gafam ; il prend une tournure encore plus intense avec l’IA. Ce sont donc de nouvelles formes de coopération qu’il va falloir inventer et tester, entre les États qui conservent les attributs classiques du pouvoir et les nouvelles entreprises qui maîtrisent les leviers contemporains.

Le pape décrit ainsi des systèmes, dont les concepteurs eux-mêmes « savent peu de choses sur leur fonctionnement réel ». Cette opacité structurelle crée une asymétrie de pouvoir que les institutions démocratiques ne savent pas encore gérer. Et il nomme le risque sans ambages : de petits groupes privés pourraient « orienter l’information et la consommation, façonner les processus démocratiques et influencer les dynamiques économiques à leur avantage ». Ce qui serait un détournement de leur puissance et une manipulation des populations en contrôlant leurs émotions et donc leurs comportements. Le débat est déjà présent sur l’usage des réseaux sociaux et de leurs algorithmes ; l’IA ne fait que l’amplifier.

La banalisation de la guerre

Mais Léon XIV consacre aussi un long chapitre à la guerre et à ses évolutions sous l’effet des innovations techniques. Ici, le risque est celui de la déshumanisation, c’est-à-dire que l’homme soit complètement exclu du processus de décision et de validation.

Léon XIV observe que l’usage de la guerre s’est banalisé, devenant presque une norme de régulation internationale. Il constate ainsi « un véritable changement de paradigme dans le discours public et dans les décisions en matière de réarmement, avec une inquiétante réhabilitation de la guerre comme instrument de politique internationale ». Soixante ans après le célèbre « Jamais plus la guerre » de Paul VI devant l’ONU, les critères éthiques encadrant le recours à la force « s’érodent progressivement ».

Plusieurs facteurs convergent dans cette banalisation. L’industrie de l’armement d’abord : « Les industries de l’armement et les pays qui fournissent des armes tirent profit d’un marché qui prospère précisément grâce aux conflits. » La fin du monopole étatique de la force ensuite, avec l’émergence de « groupes jihadistes, milices privées et réseaux criminels ». Et enfin, « une perte inquiétante de mémoire historique » à mesure que les témoins des guerres mondiales disparaissent.

La moralité de la guerre

Sur les armes autonomes, Léon XIV exprime sa très grande méfiance : « Il n’existe aucun algorithme capable de rendre la guerre moralement acceptable. » L’IA, précise-t-il, « ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données ». La conséquence pratique est posée sans détour : « La décision de recourir à la force létale ne peut être déléguée à des processus opaques ou automatisés, mais doit rester sous un contrôle humain effectif, conscient et responsable. »

L’IA oblige en effet à revoir les doctrines militaires et à repenser l’usage moral des armes.

Un nouveau réalisme contre le fatalisme

Face à ceux qui invoquent le réalisme pour justifier la course aux armements ou la guerre comme horizon inévitable, Léon XIV établit une précision importante sur ce qu’il entend par « réalisme ». Il refuse que la guerre soit « inévitablement inscrite dans la nature humaine », et il décrit le « prétendu réalisme politique » comme un réalisme qui « sème la résignation face à une guerre inévitable, dans les consciences des gens comme dans la culture ».

À ce fatalisme déguisé en lucidité, il oppose un « sain réalisme ». « Le réalisme authentique ne renonce pas à changer le monde. Il commence par voir clairement les intérêts, les peurs, les entraves et les rapports de force, précisément pour évaluer ce qu’il est possible d’obtenir et par quelles étapes. Il ne réduit pas la politique à la morale, mais ne la livre pas non plus à la violence. » Ce n’est pas de l’angélisme, mais la reconnaissance des rapports de force comme point de départ d’une action politique qui ne se résigne pas à les sacraliser. Des débats anciens et déjà présents dans la philosophie classique, mais qui sont revivifiés par l’irruption de l’IA.