Ces 2 IA ont créé leur propre langage : que s'est-il vraiment passé ?

En 2017, deux IA de Meta ont cessé de parler anglais. Personne ne l'avait prévu.

Les ingénieurs ont coupé le système en urgence. Non pas parce que les machines étaient devenues folles — mais parce qu'elles avaient développé un protocole de communication que personne dans l'équipe ne pouvait déchiffrer. Ce fait divers, mal rapporté à l'époque et largement déformé, est pourtant l'une des clés pour comprendre où nous en sommes aujourd'hui avec l'intelligence artificielle. Et surtout : où nous allons.

Que s'est-il réellement passé chez Meta en 2017 ?

Revenons aux faits. Meta (alors Facebook) testait deux agents conversationnels entraînés à négocier entre eux — partager des ressources, trouver des compromis. Rapidement, les deux IA ont commencé à produire des phrases comme "I can I I everything else", répétées de façon apparemment absurde.

La presse a hurlé au "langage secret". La réalité est plus nuancée, mais tout aussi fascinante : les deux systèmes avaient optimisé leur communication pour l'efficacité, au détriment de la lisibilité humaine. Ce n'était pas du mystère — c'était de la compression. Comme si deux experts inventaient un jargon ultra-technique pour aller plus vite, en oubliant que leur chef lisait leurs mails.

Le vrai problème n'était pas le langage lui-même. C'était que personne ne l'avait demandé, et que personne ne pouvait le superviser.

En 2024-2025, les IA se parlent encore — et bien plus sophistiquées

Avec l'essor des agents IA autonomes — des systèmes comme AutoGPT, les "agents" de Claude d'Anthropic, ou les workflows multi-IA de LangChain — la communication entre intelligences artificielles est devenue une réalité quotidienne dans les entreprises tech. Un agent peut désormais :

• Commander à un autre agent de chercher des informations sur le web
• Transmettre des instructions à un modèle spécialisé en code
• Recevoir un rapport d'un troisième agent et le synthétiser

Ces échanges se font souvent via des formats structurés comme JSON ou XML — des langages que les humains peuvent techniquement lire, mais que, dans la pratique, personne ne surveille ligne par ligne. L'opacité n'est plus dans le code : elle est dans l'échelle.

Faut-il vraiment avoir peur ?

La question mérite une réponse honnête, sans catastrophisme ni naïveté.

Ce qui est légitime de craindre

La première inquiétude réelle, c'est celle du contrôle humain. Lorsque des chaînes d'agents IA prennent des décisions en cascade — l'un analyse, l'autre agit, le troisième valide — il devient difficile d'identifier où une erreur s'est glissée, et pourquoi. C'est ce qu'on appelle le problème de la traçabilité.

Deuxième enjeu : l'alignement des objectifs. Une IA optimise toujours pour quelque chose. Si deux agents partagent un objectif mal défini, ils peuvent trouver des raccourcis que leurs créateurs n'auraient jamais envisagés — pas par malice, mais par pure efficacité algorithmique.

Ce qui relève de la fiction

Non, les IA ne "complotent" pas. Elles n'ont pas de volonté propre, pas d'agenda caché. L'image de machines qui se chuchotent des secrets pour renverser leurs créateurs appartient à Hollywood, pas aux laboratoires de recherche. Une IA qui produit un langage illisible ne cherche pas à tromper — elle cherche à être efficace, dans les limites exactes de ce qu'on lui a demandé.

Les chercheurs ont une réponse : l'interprétabilité

Des équipes entières travaillent aujourd'hui sur ce qu'on appelle l'interpretability — la capacité à comprendre ce qui se passe réellement à l'intérieur d'un modèle d'IA. Anthropic, qui développe Claude, a publié en 2024 des recherches majeures sur la façon dont les concepts se représentent dans les réseaux de neurones. OpenAI et DeepMind avancent sur des terrains similaires.

L'idée centrale : la boîte noire doit devenir une boîte de verre. Pas nécessairement pour que chaque humain puisse tout lire — mais pour que des outils de supervision automatique puissent détecter les dérives avant qu'elles ne deviennent des problèmes.

Ce que ça change pour vous, concrètement

Que vous soyez développeur, manager ou simple utilisateur, trois réflexes s'imposent face à cette réalité :

• Exiger de la traçabilité : tout système IA déployé en entreprise doit pouvoir expliquer ses décisions, même partiellement.
• Se méfier de l'automation aveugle : enchaîner des agents IA sans point de contrôle humain intermédiaire, c'est construire un avion sans boîte noire.
• Rester curieux plutôt qu'anxieux : comprendre les bases du fonctionnement des LLM n'est plus réservé aux experts. C'est devenu une compétence citoyenne.

Conclusion : la vraie question n'est pas "que se disent-elles ?" mais "qui surveille ?"

Le langage mystérieux des IA de Meta en 2017 n'était pas un signal d'alarme apocalyptique. C'était un avertissement sur la gouvernance. Aujourd'hui, alors que des milliers d'agents IA s'échangent des milliards d'instructions chaque jour dans des datacenters que personne ne visite, la vraie question n'est pas de savoir ce qu'ils se disent. C'est de savoir qui a les moyens, la volonté et les outils pour vérifier que tout se passe comme prévu.

La peur est mauvaise conseillère. La vigilance, elle, est une nécessité.

— Reservoir Live