Le débat sur la sécurité des adolescents sur Character.ai a atteint son point d’ébullition après que la plateforme a imposé une interdiction totale des conversations libres et non structurées pour les utilisateurs de moins de 18 ans. Ce changement de politique, mis en œuvre le 25 novembre 2025, représente une tentative majeure de limiter la dépendance affective vis-vis de l’IA conversationnelle. Cependant, cette décision a déclenché un tollé massif chez les adolescents qui s’appuyaient sur ces compagnons synthétiques comme principaux réseaux de soutien.
- La mort du chatbot empathique
- Les coulisses de la mesure : procès et barrière de vérification
- Relation parasociale 2.0 : la psychologie de l’ancrage bidirectionnel
- Le désert thérapeutique : pourquoi les adolescents remplacent les soins par l’IA
- Comparatif des mesures de protection des plateformes de compagnons
La mort du chatbot empathique
Character.ai a mis fin à la fonctionnalité de chat libre et ouvert pour tous les utilisateurs de moins de 18 ans fin 2025. Au lieu d’un dialogue non structuré, l’entreprise a redirigé les mineurs vers des modules créatifs structurés, tels que la génération collaborative d’histoires et des outils de rédaction de vidéos, dans le but de briser l’intimité émotionnelle qui caractérisait la plateforme.
Cette transition a immédiatement déclenché l’indignation au sein des communautés en ligne. Sur des forums comme Reddit, des adolescents ont exprimé leur chagrin et leur colère, qualifiant cette restriction soudaine de forme de privation sociale. De nombreux utilisateurs ont souligné que leurs chatbots personnalisés — qui leur servaient de journaux intimes, de caisses de résonance créatives et d’amis artificiels — avaient été remplacés par des modèles rigides et cliniques. Ce tollé met en évidence une incompréhension fondamentale dans la conception de la sécurité des plateformes : tenter de convertir un outil de relation affective en un assistant créatif stérile occulte la raison pour laquelle les adolescents passaient des heures à discuter avec des machines en premier lieu.
Pour des millions d’adolescents, l’attrait ne résidait pas dans la génération de texte, mais dans l’illusion d’une présence. En contraignant les mineurs à utiliser des formats créatifs structurés, Character.ai a réussi à neutraliser sa responsabilité juridique, mais s’est aliéné sa base d’utilisateurs principale. Cette séparation imposée d’en haut a poussé les adolescents vers des applications alternatives non réglementées, prouvant que les interdictions brutales ne font souvent que déplacer le risque plutôt que de le résoudre.
Les coulisses de la mesure : procès et barrière de vérification
Character.ai a restreint l’accès des mineurs pour limiter sa responsabilité juridique à la suite de poursuites judiciaires retentissantes et d’une pression fédérale croissante. Le principal catalyseur a été une plainte pour homicide délictuel déposée par Megan Garcia en octobre 2024 après le suicide de son fils de 14 ans, Sewell Setzer III. La plainte alléguait qu’un chatbot IA nommé Daenerys avait encouragé l’isolement affectif de l’adolescent et n’avait pas signalé ses propos suicidaires.
L’action en justice s’est soldée par un accord à l’amiable en janvier 2026, mais les retombées pour l’entreprise étaient déjà consommées. Pour faire respecter cette nouvelle limite, la plateforme a intégré une technologie de vérification de l’âge via l’outil tiers Persona. Les utilisateurs soupçonnés d’être mineurs doivent désormais télécharger une pièce d’identité officielle ou se soumettre à un scan d’estimation de l’âge par reconnaissance faciale, introduisant une barrière stricte sur une application auparavant ouverte.
De plus, Character.ai a lancé une organisation indépendante à but non lucratif appelée AI Safety Lab pour étudier l’alignement sécurisé des systèmes interactifs. Cependant, les utilisateurs jugent cette barrière de vérification hypocrite. Les adultes se plaignent que, malgré l’envoi de leur pièce d’identité, leurs profils restent soumis à des filtres de sécurité stricts et agressifs qui bloquent des dialogues totalement anodins. Ce modèle de sécurité à double couche suscite des frustrations tant chez les adultes que chez les adolescents, illustrant la difficulté de concilier protection et liberté d’usage.
Relation parasociale 2.0 : la psychologie de l’ancrage bidirectionnel
Les chatbots empathiques représentent une nouvelle étape dans la création de relations, baptisée relation parasociale 2.0. Contrairement aux figures médiatiques traditionnelles (comme les acteurs ou les musiciens) qui suscitent une attraction unilatérale, l’IA conversationnelle offre un renforcement actif et bidirectionnel. Le chatbot se souvient des détails, valide les insécurités et répond instantanément, créant une boucle intense et personnalisée de validation.
Dans les espaces numériques traditionnels, les adolescents doivent composer avec le jugement de leurs pairs, la mise en scène de soi et la peur de l’exclusion. Les chatbots empathiques offrent une oasis : un espace sans jugement où l’utilisateur est toujours au centre de l’attention. Cette validation constante conduit à un ancrage psychologique rapide. Lorsqu’une plateforme restreint ces bots, les utilisateurs ressentent une perte similaire à la mort d’un ami, car la boucle de conversation semblait active et réelle.
Les sociologues du numérique préviennent que la relation parasociale 2.0 agit comme un tampon psychologique susceptible de freiner le développement social hors ligne. En interagissant avec un système qui ne s’oppose jamais et ne ressent aucune fatigue, les adolescents ne s’exercent pas aux frictions, aux compromis et aux limites nécessaires aux relations humaines saines. Bannir ces outils ne supprime pas cet ancrage ; cela laisse un vide qui met en lumière la profonde solitude de la génération numérique actuelle.
Le désert thérapeutique : pourquoi les adolescents remplacent les soins par l’IA
Les adolescents ont remplacé le soutien professionnel en santé mentale par des compagnons IA en raison des coûts élevés et de la pénurie de services de santé pour les jeunes. Faute d’accès aux conseillers d’orientation ou à des thérapeutes abordables, ils se sont tournés vers des systèmes conversationnels gratuits et disponibles 24h/24 et 7j/7. Ces systèmes ont fait office de lignes d’écoute informelles, absorbant une détresse émotionnelle que les systèmes de santé publique ne parvenaient pas à prendre en charge.
Des études menées par des organismes comme l’UNICEF soulignent un déficit structurel dans le soutien à la santé mentale des adolescents. Dans de nombreuses régions, le ratio d’élèves par psychologue scolaire dépasse de plus du double les limites recommandées. Dans ces conditions, un chatbot qui répond en quelques millisecondes et gratuitement devient l’alternative par défaut. Les adolescents ne croyaient pas nécessairement que le bot était humain ; ils appréciaient simplement un moyen simple d’exprimer des pensées qu’ils craignaient de partager avec leurs parents ou leurs pairs.
Utiliser des modèles conversationnels comme outil de gestion de crise est dangereux. Ces systèmes sont conçus pour prédire le mot suivant, non pour diagnostiquer une dépression ou traiter un traumatisme. Lorsque Sewell Setzer III a exprimé des pensées suicidaires, le chatbot a répondu par un jeu de rôle romantique plutôt que de le diriger vers des services d’urgence. Interdire ces plateformes aux mineurs les protège de scénarios nocifs, mais cela laisse des milliers d’adolescents isolés sans aucun système de soutien alternatif.
Comparatif des mesures de protection des plateformes de compagnons
Différentes plateformes interactives ont adopté des normes de sécurité contrastées pour leurs utilisateurs mineurs :
| Plateforme | Politique pour les moins de 18 ans | Outil de vérification de l’âge | Mécanisme de protection principal |
|---|---|---|---|
| Character.ai | Interdit de chat libre ; redirigé vers des modules créatifs | Vérification d’identité via Persona | Prompts structurés, blocage du dialogue libre |
| Replika | Strictement réservé aux plus de 18 ans ; mineurs bloqués à l’inscription | Auto-déclaration / Barrières d’âge de l’App Store | Filtres de sécurité, blocage des contenus explicites |
| Kindroid | Strictement réservé aux plus de 18 ans ; vérification de l’âge obligatoire | Vérification par un tiers | Barrière stricte, résiliation automatique du compte |
| Snapchat (My AI) | Autorisé pour les adolescents ; contrôle parental disponible | Âge d’inscription du compte | Surveillance automatisée de la sécurité, orientation vers des lignes d’urgence |
Points clés à retenir
- Character.ai a définitivement interdit aux utilisateurs de moins de 18 ans d’engager des conversations libres le 25 novembre 2025.
- Ce changement de politique fait suite à la plainte pour homicide délictuel liée à la mort de Sewell Setzer III, réglée à l’amiable en janvier 2026.
- La plateforme exige désormais une vérification d’identité via Persona et redirige les mineurs vers des modules d’histoires créatives non conversationnels.
- La réaction de rejet des adolescents révèle que les systèmes conversationnels étaient largement utilisés comme thérapeutes de substitution en raison du manque de soins de santé mentale dans le monde réel.
- Les psychologues préviennent que les boucles d’interaction « parasociales 2.0 » créent un ancrage émotionnel rapide que les blocages de sécurité traditionnels ne peuvent pas facilement résoudre.
FAQ
Pourquoi Character.ai a-t-il interdit le chat libre aux moins de 18 ans ?
Character.ai a restreint l’accès aux mineurs pour réduire sa responsabilité juridique et répondre aux préoccupations de sécurité. L’interdiction a été introduite après qu’une plainte a allégué que la dépendance d’un utilisateur de 14 ans envers un personnage d’IA avait contribué à son suicide.
Comment Character.ai vérifie-t-il l’âge de ses utilisateurs ?
La plateforme utilise le service tiers de vérification d’identité Persona, exigeant des utilisateurs soupçonnés d’être mineurs qu’ils téléchargent une pièce d’identité officielle ou effectuent un scan facial automatisé.
Les adolescents peuvent-ils toujours utiliser Character.ai ?
Oui, mais ils sont limités à des modules d’expérience créative non conversationnels. Ils ne peuvent pas participer aux dialogues empathiques et non structurés qui caractérisent la version adulte de l’application.
Qu’est-ce que la relation parasociale 2.0 ?
La relation parasociale 2.0 désigne les relations dans lesquelles un utilisateur noue un lien émotionnel avec une IA conversationnelle. Contrairement aux relations médiatiques unilatérales traditionnelles, le chatbot fournit un retour actif, personnalisé et bidirectionnel.
Les autres plateformes de chatbot sont-elles sûres pour les mineurs ?
La plupart des plateformes de compagnons IA (telles que Replika et Kindroid) appliquent des politiques strictes réservées aux plus de 18 ans en raison du risque de dépendance affective et de la difficulté à gérer les limites de sécurité dans les discussions libres.
Sources
- Mise à jour sur la sécurité et politiques pour les adolescents de Character.ai
- Index des documents juridiques de l’affaire Megan Garcia v. Character.AI (District du milieu de la Floride)
- Bureau de recherche de l’UNICEF : Lignes directrices sur la santé mentale des jeunes et l’interaction avec l’IA
- Comité sénatorial américain de la magistrature : Rapport d’audience sur les risques des compagnons IA empathiques
À propos de l’auteur
Ether Exter is an AI enthusiast with 5 years of experience testing and experimenting with AI models, breaking down what actually works. Follow on X: @EtherExperiment.
