OpenAI et Anthropic savent que ça peut mal finir. Ils accélèrent quand même.

Ils ont lu les rapports de risque. Ils ont signé les pétitions. Puis ils ont appuyé sur l'accélérateur.

En 2023, plus de mille experts en technologie — dont des fondateurs d'OpenAI eux-mêmes — ont signé une lettre ouverte demandant une pause de six mois dans le développement des IA les plus puissantes. Six mois plus tard, GPT-4o était lancé. Quelques semaines après, Claude 3 Opus d'Anthropic pulvérisait les benchmarks précédents. La pause n'a jamais eu lieu. Et personne, au fond, ne s'en étonne vraiment.

Ce qui se joue entre OpenAI et Anthropic dépasse la simple rivalité commerciale. C'est une course où chaque concurrent est convaincu que s'arrêter, c'est laisser l'autre définir seul les règles du monde de demain. Comprendre cette logique, c'est comprendre pourquoi les appels à la prudence — même sincères — glissent sur ces organisations comme de l'eau sur du Téflon.

Le paradoxe fondateur : ceux qui crient au feu tiennent aussi l'allumette

Anthropic a été fondée en 2021 par d'anciens cadres d'OpenAI — dont Dario et Daniela Amodei — précisément parce qu'ils estimaient que leur ancien employeur n'était pas assez prudent. Leur mission officielle : développer une IA "sûre et bénéfique". Leur modèle phare, Claude, est conçu autour du principe de Constitutional AI, une architecture censée rendre le modèle naturellement aligné sur des valeurs humaines.

Et pourtant, Anthropic lève des milliards — 7,3 milliards de dollars en 2024 auprès d'Amazon seul — et sort de nouvelles versions à un rythme soutenu. La prudence, chez eux, n'est pas une pause. C'est un argument de vente autant qu'une conviction.

OpenAI, de son côté, a traversé une crise de gouvernance spectaculaire fin 2023, avec l'éviction puis le retour de Sam Altman en quelques jours. La raison officieuse évoquée par plusieurs administrateurs : un désaccord profond sur la vitesse de développement. Altman est resté. La vitesse aussi.

La logique implacable du dilemme du prisonnier

Pour comprendre pourquoi ces entreprises ne peuvent pas freiner, il faut penser en termes de théorie des jeux. Chaque acteur se retrouve face à un dilemme du prisonnier à l'échelle industrielle :

• Si OpenAI ralentit et qu'Anthropic continue, Anthropic capture les clients, les talents et les financements.
• Si Anthropic ralentit et qu'OpenAI continue, même résultat inversé.
• Si les deux ralentissent ensemble, Google DeepMind, xAI ou un laboratoire chinois prend la place.
• La seule issue "rationnelle" dans ce cadre : personne ne ralentit.

Ce n'est pas de la mauvaise foi. C'est de la mécanique de marché appliquée à une technologie dont les deux parties admettent qu'elle pourrait être existentiellement dangereuse. L'ironie est vertigineuse.

L'optimisation comme obsession structurelle

Au-delà de la compétition, il y a quelque chose de plus profond : une culture de l'optimisation permanente qui est inscrite dans l'ADN même de ces organisations.

Chez OpenAI, chaque nouvelle version de ChatGPT doit être mesurably better — measurablement meilleure — sur des dizaines de benchmarks standardisés. Le score sur MMLU, HumanEval, MATH ou GPQA n'est pas qu'un indicateur interne. C'est un signal envoyé aux investisseurs, aux régulateurs, aux partenaires. Stagner sur ces métriques, c'est signaler une faiblesse.

Chez Anthropic, le cadre est légèrement différent mais la pression identique. Claude 3.5 Sonnet a été présenté en juin 2024 avec des performances supérieures à GPT-4 sur plusieurs tâches de codage et de raisonnement. La communication était sobre, technique, prudente dans le ton. Mais la fréquence de publication, elle, ne l'était pas.

Ce que les appels à la prudence ratent

Les voix qui demandent un ralentissement — Geoffrey Hinton, Stuart Russell, le Centre pour la Sécurité de l'IA — font une hypothèse implicite : que les décideurs ont le choix de ralentir sans conséquences fatales pour leur organisation. Cette hypothèse est fausse dans le contexte actuel.

Un laboratoire qui ralentit unilatéralement ne devient pas plus sûr pour le monde. Il devient simplement moins pertinent, moins financé, moins capable d'attirer les chercheurs qui pourraient, précisément, travailler sur la sécurité. La prudence individuelle, dans une course collective, se retourne contre elle-même.

Ce n'est pas une absolution. C'est un diagnostic.

Alors, qui peut appuyer sur le frein ?

La réponse honnête : probablement pas les entreprises elles-mêmes. Les régulateurs européens ont fait un premier pas avec l'AI Act, qui impose des obligations de transparence et d'évaluation des risques pour les modèles les plus puissants. Les États-Unis avancent plus lentement, avec des executive orders qui ressemblent davantage à des déclarations d'intention qu'à des contraintes réelles.

Ce qui manque, c'est un mécanisme de coordination internationale — l'équivalent des traités de non-prolifération nucléaire, mais pour l'IA. Plusieurs experts le réclament depuis des années. Aucun gouvernement n'a encore trouvé comment le construire sans sacrifier sa propre position compétitive.

En attendant, OpenAI et Anthropic continuent. Pas par cynisme. Par structure.

Ce que vous devriez retenir

La course à l'optimisation de l'IA n'est pas le résultat d'une mauvaise volonté de quelques dirigeants ambitieux. Elle est le produit logique d'un système d'incitations où ralentir seul revient à perdre, et où personne n'a encore construit le cadre qui permettrait de ralentir ensemble.

La prochaine fois que vous lisez qu'un laboratoire "prend la sécurité très au sérieux", demandez-vous non pas si c'est sincère — ça l'est souvent — mais si la structure dans laquelle il opère lui permet réellement d'en faire une priorité absolue. La réponse, pour l'instant, est non.

Et c'est exactement là que se situe le vrai problème.

— Reservoir Live