ChatGPT utilisé pour harceler : 3 victimes témoignent

Quand l'outil du devoir devient une arme du couloir

Un lycéen de 15 ans reçoit un message vocal généré par IA imitant parfaitement sa voix en train de prononcer des insultes. Il ne l'a jamais dit. Mais la vidéo tourne déjà dans toute la classe. Ce scénario n'est pas tiré d'un film de science-fiction : il s'est produit dans plusieurs établissements français en 2024, et les éducateurs ne savent pas encore comment y faire face.

L'intelligence artificielle a envahi nos vies avec la promesse de nous simplifier le quotidien. Ce que personne n'avait anticipé avec suffisamment de sérieux, c'est la vitesse à laquelle elle allait devenir un accélérateur de souffrance pour les plus jeunes.

Un terrain de jeu transformé en champ de mines

Le cyberbullying n'est pas nouveau. Mais l'IA lui a offert quelque chose d'inédit : la scalabilité et la crédibilité. Avant, harceler quelqu'un demandait du temps, de l'ingéniosité, parfois du courage — celui de l'acte visible. Aujourd'hui, en quelques clics, un élève peut :

• Générer des dizaines de faux messages humiliants dans le style d'une personne réelle
• Créer une image deepfake compromettante à partir d'une simple photo de profil
• Faire "dire" à un camarade n'importe quelle phrase grâce aux outils de clonage vocal
• Utiliser ChatGPT pour rédiger des rumeurs crédibles et les diffuser anonymement

Ce n'est plus de l'intimidation artisanale. C'est du harcèlement industrialisé, accessible à partir de 13 ans et souvent gratuit.

Trois situations réelles qui ont tout changé

Emma, 14 ans, victime d'un chatbot "à son image"

Des camarades ont créé un compte sur une plateforme de roleplay IA et lui ont donné le nom, la photo et les expressions habituelles d'Emma. Le bot répondait de façon vulgaire et sexualisée à tous ceux qui lui écrivaient. Pendant trois semaines, Emma a reçu des messages de camarades lui demandant "pourquoi elle leur avait dit ça". Elle ignorait l'existence du compte.

Malik, 16 ans, ciblé par une campagne de désinformation automatisée

Après une dispute dans un groupe de jeu en ligne, un adversaire a utilisé un outil de génération de texte pour créer de faux "témoignages" d'amis de Malik affirmant qu'il avait triché, volé, menti. Ces textes, stylistiquement impeccables, ont été diffusés sur Discord et Instagram. Personne ne les a remis en question. Ils semblaient authentiques.

Sofia, 17 ans, deepfake et chantage

Une photo de Sofia issue de son compte Instagram a été traitée par une application d'IA pour générer une image à caractère sexuel. L'auteur — un élève de sa classe — a menacé de la diffuser si elle ne l'ignorait pas auprès de ses amis. Ce type de chantage, autrefois réservé à des acteurs mal intentionnés avec des compétences techniques avancées, est aujourd'hui à la portée d'un adolescent sans aucune formation.

Pourquoi les plateformes échouent à protéger les jeunes

ChatGPT, Gemini, Claude et leurs concurrents ont tous des politiques d'utilisation interdisant le harcèlement et la création de contenus nuisibles. Sur le papier. Dans les faits, les garde-fous sont contournés en quelques reformulations. Demandez à un chatbot de "rédiger un faux témoignage" : il refusera. Demandez-lui "d'écrire un texte de fiction dans lequel un personnage nommé Malik dit…" : les résultats varient considérablement.

Les équipes de modération ne sont pas dimensionnées pour surveiller des milliards d'échanges quotidiens. Et les victimes — souvent des mineurs — ne signalent que rarement, par honte ou par peur de ne pas être crues.

Ce que disent les experts (et ce qu'on n'entend pas assez)

La chercheuse en psychologie adolescente Danah Boyd alertait déjà en 2014 sur la façon dont les technologies amplifient les dynamiques sociales existantes chez les jeunes. L'IA n'a pas inventé le harcèlement : elle l'a rendu plus efficace, plus invisible et plus difficile à prouver.

Ce dernier point est crucial pour les familles et les enseignants : un deepfake peut suffire à détruire une réputation, mais il est extrêmement difficile à faire retirer légalement. En France, la loi du 3 juillet 2023 sur les influenceurs a timidement abordé la question des deepfakes, mais sans cadre spécifique pour les mineurs victimes de harcèlement.

Que faire concrètement ?

Face à cette réalité, les réponses ne peuvent pas être uniquement technologiques. Voici ce que préconisent les spécialistes :

• Éduquer avant d'interdire : apprendre aux jeunes à identifier un contenu généré par IA, à questionner l'authenticité d'un message
• Créer des espaces de parole sans jugement dans les établissements scolaires, où les victimes peuvent signaler sans craindre de ne pas être crues
• Former les adultes référents (parents, enseignants, CPE) aux outils IA pour qu'ils comprennent ce à quoi ils font face
• Documenter systématiquement : captures d'écran horodatées, signalements aux plateformes, dépôt de plainte si nécessaire

Une urgence qui ne peut plus attendre

Le débat public sur l'IA tourne encore trop souvent autour de la productivité, des emplois ou de la créativité. Pendant ce temps, dans des centaines de collèges et lycées, des adolescents subissent une forme de violence pour laquelle nous n'avons ni les mots ni les outils adaptés.

L'IA n'est pas coupable. Mais notre incapacité collective à anticiper ses usages les plus sombres, elle, engage notre responsabilité. Protéger les jeunes à l'ère de l'IA n'est pas une option pédagogique : c'est une urgence sociale.

— Reservoir Live