Le Pape a dit NON à l'IA autonome. 3 milliards de croyants l'écoutent.

Quand la crosse de l'évêque rencontre le code de l'algorithme

En janvier 2024, le Vatican a publié un document officiel demandant un traité international contraignant sur l'intelligence artificielle. Ce n'est pas un détail anecdotique. C'est le signal que la gouvernance de l'IA n'est plus seulement une question de technologie — elle est devenue une question de civilisation.

Des salles du Congrès américain aux palais des Nations Unies, des mosquées du Caire aux synagogues de Jérusalem, une même inquiétude monte : qui contrôle les algorithmes qui, demain, pourraient décider de vos crédits, de vos soins de santé, ou de la cible d'un drone militaire ? Cette question, autrefois réservée aux ingénieurs de Palo Alto, est maintenant posée par des leaders spirituels qui pèsent sur des milliards de consciences.

Un consensus mondial inattendu contre l'IA sans garde-fous

Il est rare de voir le Pape François, l'Union européenne, Joe Biden et des gouvernements du G7 tirer dans la même direction. Sur la gouvernance de l'IA, c'est pourtant ce qui se passe depuis 2023.

Le Saint-Siège a signé en mars 2024 le Pacte de Rome sur l'éthique de l'IA, aux côtés d'Interpol et du gouvernement italien — un événement sans précédent historique. Le message papal est direct :

• L'IA ne doit jamais prendre de décisions irréversibles sur des vies humaines sans supervision humaine.
• Les données personnelles sont une extension de la dignité humaine, pas une marchandise.
• L'autonomie des systèmes d'armement est moralement inacceptable.

Ces positions ne tombent pas du ciel. Elles répondent à des réalités concrètes : des systèmes de reconnaissance faciale utilisés pour persécuter des minorités religieuses en Chine, des algorithmes de modération qui censurent des discours religieux légitimes sur les réseaux sociaux, des outils de notation de crédit qui discriminent structurellement certaines communautés.

La vraie peur : l'algorithme qui juge sans rendre de comptes

Ce qui cristallise l'alarme, ce n'est pas l'IA en tant que telle. C'est l'IA opaque, non expliquable, et non contestable.

Imaginez un système comme GPT-4 ou Gemini intégré dans un processus judiciaire, décidant de libération conditionnelle, sans que le prévenu puisse contester la logique de la décision. C'est déjà une réalité partielle dans certains États américains avec des outils comme COMPAS, un logiciel d'évaluation des risques criminels dont le code est protégé par des droits commerciaux — et donc inaccessible à la défense.

C'est précisément ce type de scénario qui horrifie les leaders religieux et politiques :

• Pas de transparence sur les critères de décision.
• Pas de recours humain effectif pour les personnes lésées.
• Pas de responsabilité juridique claire quand l'algorithme se trompe.

La position de l'Union européenne : la réglementation comme réponse

L'AI Act européen, entré en vigueur en 2024, est la première législation au monde à classer les systèmes d'IA par niveau de risque. Les usages à haut risque — recrutement, éducation, justice, santé — sont soumis à des obligations strictes d'auditabilité et de supervision humaine. Les systèmes d'IA en temps réel pour la surveillance biométrique de masse sont quasi interdits dans les espaces publics.

C'est un pas concret. Mais il ne suffit pas à lui seul : les géants comme OpenAI, Anthropic, ou Google Deepmind opèrent à l'échelle planétaire, bien au-delà des frontières européennes.

Ce que les professionnels de l'IA doivent en retenir

Pour ceux qui développent ou déploient des systèmes d'IA en entreprise, ces signaux institutionnels traduisent des exigences qui arrivent rapidement :

• L'explicabilité devient obligatoire. Être capable de justifier chaque décision algorithmique n'est plus un "nice to have".
• L'audit éthique sera normalisé. Les prestataires qui ne documentent pas leurs biais et leurs limites seront exposés juridiquement.
• La supervision humaine doit être réelle, pas cosmétique. Un bouton "valider" cliqué mécaniquement ne constitue pas une supervision.

L'alarme religieuse : un levier d'influence sous-estimé

Ne sous-estimez pas le poids des institutions religieuses dans ce débat. L'Église catholique représente 1,4 milliard de fidèles. L'Islam sunnite, près de 1,9 milliard. Ces communautés ont des structures d'influence sur des gouvernements, des universités, des hôpitaux et des médias. Quand elles se positionnent collectivement contre l'autonomie non régulée des algorithmes, elles créent une pression politique réelle sur les législateurs — y compris dans des pays technologiquement puissants.

La gouvernance de l'IA ne se jouera pas uniquement dans les labos du MIT ou les open spaces de San Francisco. Elle se jouera aussi dans les assemblées générales de l'ONU, les synodes, et les forums interreligieux de Genève.

Conclusion : un moment fondateur

Nous sommes à un point d'inflexion. L'intelligence artificielle est suffisamment puissante pour que les gardiens traditionnels des valeurs humaines — qu'ils soient politiques, religieux ou philosophiques — ressentent le besoin d'intervenir massivement dans sa régulation.

Ce n'est pas un frein au progrès. C'est le signe que le progrès est pris au sérieux. Une IA bien gouvernée sera plus durable, plus adoptée, et plus utile qu'une IA qui fracture les sociétés qu'elle est censée servir. Le Pape l'a dit à sa façon. Les législateurs le disent à la leur. Il est temps que l'industrie technologique l'entende.

— Reservoir Live