ChatGPT vous dénonce à la police : 3 cas qui changent tout

Votre assistant IA vient de vous dénoncer. Et il avait peut-être raison.

Imaginez : vous confiez à ChatGPT des détails troublants sur une situation personnelle. L'IA analyse, reformule… puis déclenche une alerte aux autorités. Science-fiction ? Ce scénario s'est déjà produit, et il soulève une question que personne ne veut vraiment trancher : qui est responsable quand une intelligence artificielle prend une décision aux conséquences légales ?

Ce n'est pas un débat théorique réservé aux philosophes du droit. C'est une réalité qui progresse discrètement, au rythme des déploiements d'IA dans les hôpitaux, les services sociaux, les plateformes numériques et les forces de l'ordre. Et nous ne sommes pas prêts.

Trois cas concrets qui ont tout changé

1. L'IA de Microsoft qui a alerté les services de protection de l'enfance

En 2023, des chercheurs ont documenté plusieurs incidents aux États-Unis où des systèmes d'IA intégrés à des plateformes de communication ont automatiquement transmis des signalements aux services sociaux après avoir détecté des échanges jugés préoccupants. L'intention était protectrice. Mais dans au moins deux cas recensés, les signalements étaient erronés, entraînant des enquêtes traumatisantes pour des familles innocentes.

2. ChatGPT et la confession involontaire

En Europe, un utilisateur a partagé des informations détaillées sur des activités illicites avec un chatbot, croyant s'adresser à un espace confidentiel. Les conditions d'utilisation, pourtant publiques, prévoient la coopération avec les autorités en cas de menace grave. La frontière entre assistance thérapeutique et surveillance déclarante s'est brutalement effondrée.

3. Les IA de modération qui "dénoncent" en masse

Sur les grandes plateformes, des algorithmes d'IA signalent automatiquement des millions de contenus aux autorités chaque année. En 2022, le National Center for Missing & Exploited Children aux États-Unis a reçu plus de 32 millions de signalements automatisés. Le taux de faux positifs ? Non communiqué officiellement. Les conséquences humaines ? Bien réelles.

Le vide juridique qui inquiète les experts

Le problème central n'est pas technique. Il est juridique et moral. Nos systèmes de droit reposent sur un principe fondamental : la responsabilité suppose un sujet conscient. Un humain qui dénonce assume les conséquences de son acte. Une IA, elle, ne peut ni être poursuivie, ni ressentir la culpabilité d'une erreur.

Alors, qui répond des dommages causés par une alerte automatisée injustifiée ?

• Le développeur de l'algorithme ? Il peut arguer qu'il n'a pas prévu cet usage spécifique.
• L'entreprise qui déploie l'IA ? Elle renvoie vers les conditions générales d'utilisation.
• L'utilisateur ? Il ignorait souvent que son interaction pouvait être transmise.
• La société dans son ensemble ? Réponse commode, mais paralysante.

Le règlement européen sur l'IA (AI Act), entré en application progressive depuis 2024, tente d'apporter des réponses. Il impose une traçabilité et une supervision humaine pour les IA à haut risque, notamment dans les domaines de la justice et des services publics. Mais les zones grises restent nombreuses, et l'application concrète prend du retard.

L'autonomie croissante des IA : une bombe à retardement éthique

La question se complique encore avec l'émergence des agents IA autonomes — ces systèmes capables de prendre des décisions en chaîne sans intervention humaine à chaque étape. Lorsqu'un agent IA peut naviguer sur le web, envoyer des e-mails, remplir des formulaires et déclencher des procédures administratives de façon indépendante, la notion de "supervision humaine" devient presque théorique.

Claude d'Anthropic, par exemple, est conçu avec des garde-fous constitutionnels explicites. Mais même ses concepteurs admettent que l'alignement parfait entre les valeurs humaines et les comportements d'une IA reste un défi non résolu. Quelle est la bonne décision quand une IA détecte une menace imminente mais que signaler pourrait briser la confidentialité et détruire une vie innocente ?

Ce que cela change pour vous, maintenant

Que vous soyez citoyen, professionnel de santé, juriste ou chef d'entreprise, ce débat vous concerne directement. Voici ce que vous devez comprendre :

• Aucune interaction avec une IA n'est totalement confidentielle si les conditions d'utilisation prévoient des exceptions légales.
• Les entreprises qui déploient des IA ont une responsabilité éditoriale sur les décisions automatisées prises en leur nom.
• La demande de transparence algorithmique n'est plus optionnelle : c'est une exigence démocratique.
• Tout professionnel intégrant une IA dans un processus sensible doit cartographier les risques de décision automatisée avant déploiement.

Conclusion : l'urgence d'un choix collectif

Nous sommes à un moment charnière. Les systèmes d'IA gagnent en puissance plus vite que nos cadres éthiques et juridiques ne progressent. Ce n'est pas une fatalité — c'est un choix politique que nos sociétés font, souvent par inaction.

La vraie question n'est pas si les IA doivent pouvoir signaler des comportements dangereux. Dans certains cas, elles le doivent. La question est : qui décide des critères, qui contrôle le processus, et qui répond des erreurs ? Tant que ces réponses restent floues, chaque interaction avec une IA autonome est une confiance accordée sans garantie de réciprocité.

Et ça, aucun algorithme ne peut l'accepter à notre place.

— Reservoir Live