En 3 clics, un lycéen peut commander un microbe synthétique armé

Ce n'est plus de la science-fiction. C'est une commande en ligne.

En 2023, des chercheurs de l'Université de Californie ont démontré qu'ils pouvaient utiliser GPT-4 pour obtenir, étape par étape, les instructions de synthèse d'agents pathogènes dangereux — avec un taux de succès de 88 %. La barrière entre la connaissance théorique et la menace concrète vient de s'effondrer. Et la grande majorité du public l'ignore encore.

L'alliance entre l'intelligence artificielle générative et la biologie synthétique est en train de redessiner le paysage des risques existentiels. Pas dans vingt ans. Maintenant.

La biologie synthétique : un couteau suisse à double tranchant

La biologie synthétique est la discipline qui consiste à concevoir et construire des systèmes biologiques qui n'existent pas dans la nature. Ses applications légitimes sont immenses : production de médicaments, biocarburants, thérapies géniques, capteurs environnementaux. Des entreprises comme Ginkgo Bioworks ou Twist Bioscience ont bâti des empires industriels sur ces fondations.

Mais cette même boîte à outils permet, en théorie, de modifier la virulence d'un pathogène, d'augmenter sa résistance aux antibiotiques, ou de créer des organismes entièrement nouveaux n'ayant aucun prédateur naturel.

Jusqu'à récemment, ces manipulations nécessitaient des années de formation, des équipements de biosécurité de niveau 3 ou 4, et un accès à des publications scientifiques hautement spécialisées. L'IA vient de supprimer ces trois verrous simultanément.

Comment l'IA abaisse le seuil d'entrée à un niveau critique

Les grands modèles de langage comme Claude, ChatGPT ou Gemini ont ingéré des quantités astronomiques de littérature scientifique. Ils peuvent non seulement expliquer des protocoles complexes en langage simple, mais aussi combler les lacunes de raisonnement d'un utilisateur inexpérimenté — ce qu'on appelle en anglais le "uplift" (montée en compétence indésirable).

Concr��tement, l'IA peut :

• Proposer des séquences génétiques optimisées pour une fonction précise
• Identifier les fournisseurs de synthèse d'ADN qui pratiquent des contrôles insuffisants
• Suggérer des méthodes de contournement des systèmes de filtrage existants
• Automatiser la recherche de vulnérabilités dans des organismes cibles

Les fournisseurs de synthèse d'ADN comme Integrated DNA Technologies (IDT) ont mis en place des filtres de séquences dangereuses. Mais ces filtres sont fragmentaires, non coordonnés à l'échelle mondiale, et facilement contournables par un modèle de langage averti.

Des exemples concrets qui ont déjà eu lieu

Ce ne sont pas des hypothèses d'école :

• 2023, étude MIT/Johns Hopkins : Des modèles d'IA non censurés ont fourni des "conseils de niveau expert" sur la création d'agents biologiques potentiellement utilisables comme armes, en moins de deux heures de conversation.
• 2022, virus de la variole du singe : Des séquences génomiques complètes ont été publiées en open access pendant l'épidémie, rendant théoriquement possible leur reconstruction assistée par IA.
• AlphaFold et la prédiction de structure protéique : L'outil de DeepMind, salué pour ses contributions médicales, permet aussi de concevoir des toxines protéiques avec une précision sans précédent.

La dual-use research of concern (DURC) — la recherche légitime qui peut être détournée — n'est plus cantonnée aux laboratoires gouvernementaux. Elle est maintenant accessible depuis un laptop dans un appartement.

Qui gouverne ce risque ? Personne, vraiment.

Le cadre réglementaire actuel est tragiquement en retard. La Convention sur les armes biologiques de 1972 n'a aucun mécanisme de vérification contraignant. L'OCDE a publié des lignes directrices, mais elles sont non contraignantes. Aux États-Unis, le cadre HHS/USDA de surveillance de la DURC couvre les laboratoires fédéraux, mais pas les acteurs privés ni les utilisateurs de modèles d'IA commerciaux.

Anthropic, OpenAI et Google ont tous intégré des garde-fous spécifiques au domaine biologique dans leurs modèles. Mais ces efforts restent inégaux, non standardisés, et font face à une course permanente contre des modèles open source non filtrés comme certaines variantes de Llama, qui peuvent être déployés localement sans aucune restriction.

Ce que cela change pour tout le monde

Pour les décideurs politiques, l'urgence est de créer un traité international contraignant sur la synthèse d'ADN, similaire au Traité de non-prolifération nucléaire — mais adapté à la vitesse d'évolution du secteur biologique.

Pour les entreprises de biotech, la question n'est plus "est-ce que nos données sont protégées ?" mais "est-ce que nos protocoles peuvent être reconstitués par un tiers via une IA ?"

Pour le grand public, comprendre que les risques technologiques ne se limitent pas aux cyberattaques ou aux deepfakes. La prochaine frontière est biologique.

Conclusion : la lucidité comme première ligne de défense

Nous n'avons pas à choisir entre le progrès scientifique et la sécurité. Mais nous devons cesser de traiter la biologie synthétique comme un secteur régulé de la même façon que la chimie industrielle du XXe siècle. L'IA a changé les règles du jeu en moins de trois ans.

La vraie menace n'est pas un État voyou disposant de laboratoires secrets. C'est un acteur isolé, compétent, motivé, disposant d'un accès à des outils d'IA publics et d'un budget de quelques milliers d'euros pour la synthèse d'ADN. Ce profil existe déjà. La question est de savoir combien de temps il nous reste pour construire les garde-fous adéquats.

Et cette fenêtre se referme plus vite que la plupart des gouvernements ne le réalisent.

— Reservoir Live