Le pape Léon XIV, désormais guéri du cancer, exhorte les nations du monde à « désarmer » l’IA, notamment en appelant spécifiquement les membres des Nations Unies à « prendre des mesures concrètes pour interdire les armes autonomes mortelles » lors d’une réunion à Genève prévue en novembre. Il a également appelé les nations à créer des institutions mondiales pour gérer le développement de l’IA et a rejeté les affirmations selon lesquelles l’IA était une personne.
Dans un discours papal vendredi, Leo a déclaré : “Premièrement, l’avenir de l’intelligence artificielle n’est pas prédéterminé. En tant que technologie développée par les êtres humains, son avenir dépend des choix que nous faisons. Nous avons donc la responsabilité d’orienter, de modifier et, si nécessaire, de rejeter ses applications.”
« La question décisive n’est donc pas simplement « Que peut faire l’IA ? » mais plutôt : « À quoi cela devrait-il servir ? » », a demandé le pape.
« Deuxièmement, les machines sont des outils, pas des personnes », a poursuivi le pape, avant de citer son encyclique de mai 2026, sa première déclaration idéologique majeure pour l’Église catholique et sa position officielle sur l’IA.
“Les soi-disant intelligences artificielles ne subissent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers les relations et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité”, a-t-il cité.
Leo a déclaré que ceux qui traitent l’IA comme si elle avait des expériences conscientes risquent « d’obscurcir la responsabilité humaine et de laisser ceux qui subissent un préjudice affronter une entité sans visage ». Cela ressemble à peu près à une réponse directe à cette partie de la Silicon Valley qui ne cesse d’insister sur le fait que les LLM actuels ont évolué au-delà des programmes vers une nouvelle forme de conscience et ont, dans certains cas, manifesté un comportement proche d’une secte. Il est également clair que Leo voit un lien direct entre la façon dont les sociétés d’IA fonctionnent et les utilisateurs qui se retrouvent avec des croyances délirantes sur les personnes à qui ils parlent.
Leo a ajouté que certaines décisions « ne doivent jamais être déléguées », comme celles qui affectent « la vie humaine, la liberté et le recours à la force ». Leo a spécifiquement cité les listes de cibles créées par l’IA (faisant probablement référence à des systèmes qui sélectionnent des cibles pour des frappes aériennes ou de drones), des bases de données de contrôle des frontières et des armes autonomes.
Le pape a également recommandé que « les technologies intelligentes soient orientées vers le bien commun », ce qui est une bonne chose, mais un objectif un peu ambitieux. Plus concrètement, il a déclaré que le plus grand besoin actuel réside dans la collaboration internationale :
« Ce dont nous avons actuellement besoin, ce sont des institutions capables de mettre en pratique ces principes, en particulier des institutions internationales efficaces, capables de sauvegarder le bien commun mondial », a conclu le pape. « Cela nécessite des normes communes, une surveillance indépendante et des mécanismes de responsabilisation clairs, afin que les décisions concernant le développement et l’utilisation de l’IA puissent être examinées, contestées si nécessaire et accompagnées de recours appropriés pour tout préjudice causé. »
Léon a suggéré qu’il avait pris son nom papal du pape Léon XIII, qui a présidé une autre période de changements technologiques massifs. Le pape François, son prédécesseur, avait également appelé à l’interdiction des armes autonomes.
