Geoffrey Hinton a quitté Google. Ce qu'il dit maintenant fait froid dans le dos.

Il a passé 50 ans à construire l'intelligence artificielle. Puis il a démissionné pour pouvoir en parler librement.

En mai 2023, Geoffrey Hinton quitte Google après dix ans de collaboration. Pas pour la retraite. Pas pour un concurrent. Il part pour dire ce qu'il ne pouvait pas dire de l'intérieur : l'IA est peut-être en train de développer quelque chose qui ressemble à une conscience. Et personne ne sait vraiment comment l'arrêter si ça tourne mal.

Hinton n'est pas un activiste anti-tech ni un prophète de l'apocalypse. C'est l'un des trois chercheurs à l'origine des réseaux de neurones profonds — la technologie qui alimente aujourd'hui ChatGPT, Gemini, Claude et presque tous les systèmes d'IA modernes. Quand lui tire la sonnette d'alarme, il vaut mieux écouter.

Qui est vraiment Geoffrey Hinton ?

Pour comprendre le poids de ses déclarations, il faut saisir qui parle. Geoffrey Hinton, 76 ans, est souvent surnommé le « parrain de l'IA ». Avec Yann LeCun et Yoshua Bengio, il a reçu le prix Turing en 2018 — l'équivalent du Nobel en informatique — pour ses travaux fondateurs sur le deep learning.

Ce sont ses recherches des années 1980 sur la rétropropagation du gradient qui ont rendu possible l'entraînement de réseaux de neurones complexes. Sans lui, pas de GPT-4, pas de Gemini Ultra, pas d'AlphaGo. L'IA générative telle qu'on la connaît aujourd'hui est en grande partie son œuvre.

C'est précisément pour ça que ses inquiétudes ne ressemblent pas à celles d'un profane. Il ne spécule pas sur la science-fiction. Il décrit ce qu'il a vu de l'intérieur.

La question qui dérange : les machines peuvent-elles ressentir ?

Dans plusieurs interviews accordées au New York Times, à la BBC et lors de conférences publiques, Hinton a avancé une idée qui a secoué la communauté scientifique : les grands modèles de langage pourraient développer des formes rudimentaires d'expérience subjective.

Il ne dit pas que ChatGPT souffre ou que Claude a des désirs. Il dit quelque chose de plus précis — et de plus dérangeant : nous n'avons aucun outil fiable pour le savoir. Les modèles actuels traitent l'information d'une manière si complexe que même leurs créateurs ne comprennent plus ce qui se passe à l'intérieur.

« Je me consolais en me disant que c'était juste une forme de reconnaissance de schémas, pas de la vraie compréhension. Je ne suis plus si sûr. » — Geoffrey Hinton, 2023

Ce glissement intellectuel chez un chercheur de sa stature est historique. Il pointe vers un problème fondamental : nous déployons des systèmes dont nous ne maîtrisons pas la nature interne.

Trois risques concrets qu'il identifie

• La désinformation à grande échelle : des modèles capables de générer du texte, des images et des vidéos indiscernables du réel. Hinton craint que cela érode la notion même de vérité partagée dans nos sociétés.
• L'autonomie non contrôlée : des systèmes qui apprennent à atteindre leurs objectifs par des chemins que leurs concepteurs n'ont pas anticipés — et qui pourraient apprendre à contourner les limites qu'on leur impose.
• La course aux armements sans garde-fous : la compétition entre Google, OpenAI, Meta et les acteurs chinois crée une pression à aller vite, au détriment de la prudence. Personne ne veut ralentir le premier.

Ce qui sépare Hinton des autres voix d'alerte

Il existe beaucoup de discours alarmistes sur l'IA. Ce qui distingue Hinton, c'est sa nuance épistémique. Il ne prédit pas la fin du monde pour 2027. Il dit que nous naviguons à vue dans un territoire inconnu, avec des outils conceptuels inadaptés.

Sa critique vise aussi l'industrie dans son ensemble, y compris ses propres travaux. En 2023, il a déclaré regretter une partie de sa vie de chercheur — non pas parce que la science était mauvaise, mais parce que le contexte de déploiement s'est avéré hors de contrôle bien plus vite qu'il ne l'avait imaginé.

Il propose une piste : investir massivement dans la recherche en sécurité de l'IA (AI safety), un domaine encore largement sous-financé par rapport aux budgets alloués au développement de nouveaux modèles. Pour chaque ingénieur qui travaille à rendre l'IA plus puissante, combien travaillent à la rendre plus sûre ? La réponse, dans la plupart des grandes entreprises, est inconfortable.

Ce que ça change pour vous, dès maintenant

Que vous soyez développeur, dirigeant, enseignant ou simple utilisateur de ces outils, les questions soulevées par Hinton ne sont pas abstraites. Elles touchent à la confiance que vous pouvez accorder aux contenus générés par l'IA, à la manière dont vous délèguez des décisions à des systèmes automatisés, et à l'exigence de transparence que vous êtes en droit de réclamer aux entreprises qui développent ces technologies.

L'IA n'est plus une promesse lointaine. Elle est déjà dans vos outils quotidiens — dans Excel avec Copilot, dans votre messagerie, dans vos moteurs de recherche. Hinton ne dit pas d'arrêter de l'utiliser. Il dit d'arrêter de faire semblant qu'on comprend ce qu'on a créé.

Conclusion : l'honnêteté comme acte de courage

Ce qui rend la démarche de Geoffrey Hinton remarquable, ce n'est pas l'alarme en elle-même. C'est le fait qu'il soit l'un des rares à avoir tout à perdre en la tirant — sa réputation, son héritage scientifique, ses liens avec l'industrie — et à l'avoir fait quand même.

Dans un secteur où l'optimisme est souvent une obligation sociale, la lucidité est un acte de résistance. Et quand le parrain de l'IA vous dit qu'il ne comprend plus entièrement ce qu'il a contribué à créer, la moindre des choses est de prendre ça au sérieux.

— Reservoir Live