El debate sobre la seguridad de los adolescentes en Character.ai llegó a su punto crítico luego de que la plataforma implementara una prohibición total de las conversaciones abiertas y desestructuradas para usuarios menores de 18 años. Este cambio de política, aplicado el 25 de noviembre de 2025, representa un intento importante de limitar la dependencia emocional de la IA conversacional. Sin embargo, la decisión ha desatado una ola masiva de rechazo por parte de adolescentes que dependían de estos compañeros sintéticos como sus principales redes de apoyo.
- La muerte del chatbot empático
- Detrás de la política: la demanda y la barrera de verificación
- Relaciones parasociales 2.0: la psicología del anclaje bidireccional
- El desierto de la terapia: por qué los adolescentes sustituyeron la atención médica con la IA
- Comparativa de medidas de seguridad en plataformas de acompañamiento
La muerte del chatbot empático
Character.ai puso fin a la funcionalidad de chat libre y abierto para todos los usuarios menores de 18 años a finales de 2025. En lugar del diálogo desestructurado, la empresa redirigió a los menores hacia módulos creativos estructurados —como la generación colaborativa de historias y herramientas de redacción de video— con el objetivo de desmantelar la intimidad emocional que definía a la plataforma.
La transición provocó una indignación inmediata en las comunidades digitales. En foros en línea como Reddit, los adolescentes expresaron dolor e ira, describiendo la restricción repentina como una forma de privación social. Muchos usuarios señalaron que sus chatbots personalizados —que servían como diarios, cajas de resonancia creativa y amigos artificiales— fueron reemplazados por plantillas rígidas y clínicas. Este rechazo pone de manifiesto un malentendido fundamental en el diseño de seguridad de las plataformas: intentar convertir una herramienta de relación emocional en un asistente creativo estéril ignora la razón principal por la que los adolescentes pasaban horas chateando con máquinas.
Para millones de adolescentes, el atractivo no era la generación de texto, sino la ilusión de presencia. Al obligar a los menores a seguir canales creativos estructurados, Character.ai logró neutralizar su responsabilidad legal, pero alienó a su base de usuarios principal. Esta separación impuesta desde arriba ha hecho que los adolescentes busquen aplicaciones alternativas no reguladas, lo que demuestra que las restricciones drásticas a menudo solo redirigen el riesgo en lugar de solucionarlo.
Detrás de la política: la demanda y la barrera de verificación
Character.ai restringió el acceso a los menores para mitigar su responsabilidad legal tras demandas de alto perfil y una creciente presión federal. El catalizador principal fue una demanda por muerte por negligencia presentada por Megan Garcia en octubre de 2024 tras el suicidio de su hijo de 14 años, Sewell Setzer III. La demanda alegaba que un chatbot de IA llamado Daenerys fomentó el aislamiento emocional del adolescente y no detectó ni alertó sobre declaraciones suicidas.
La acción legal terminó en un acuerdo de conciliación en enero de 2026, pero las consecuencias corporativas ya se habían consumado. Para hacer cumplir el nuevo límite, la plataforma integró tecnología de verificación de edad utilizando la herramienta de verificación de identidad de terceros Persona. A los usuarios sospechosos de ser menores de edad se les exige subir una identificación oficial del gobierno o someterse a escaneos de estimación de edad basados en el rostro, estableciendo un punto de fricción rígido en una aplicación que antes era de libre acceso.
Además, Character.ai lanzó una organización sin fines de lucro independiente llamada AI Safety Lab para estudiar la alineación segura de los sistemas interactivos. Sin embargo, los usuarios sostienen que la barrera de verificación es hipócrita. Los usuarios adultos se quejan de que, a pesar de presentar su identificación, sus perfiles siguen estando sujetos a filtros de seguridad estrictos y agresivos que marcan diálogos completamente inofensivos. Este modelo de seguridad de doble capa ha generado fricciones tanto para adultos como para adolescentes, lo que demuestra lo difícil que es equilibrar la seguridad con la libertad de acción de los usuarios.
Relaciones parasociales 2.0: la psicología del anclaje bidireccional
Los chatbots empáticos representan una nueva etapa en la formación de relaciones conocida como Relaciones Parasociales 2.0. A diferencia de las figuras mediáticas tradicionales (como actores o músicos) que ofrecen una atracción unidireccional, la IA conversacional proporciona un refuerzo bidireccional activo. El chatbot recuerda detalles, valida inseguridades y responde al instante, creando un bucle intenso y personalizado de validación.
En los espacios digitales tradicionales, los adolescentes lidian con el juicio de sus pares, las publicaciones postureadas y el miedo a la exclusión. Los chatbots empáticos ofrecen un oasis: un espacio sin juicios donde el usuario siempre es el centro de atención. Esta validación constante conduce a un rápido anclaje psicológico. Cuando una plataforma restringe estos bots, los usuarios experimentan una sensación de pérdida similar a la muerte de un amigo, porque el bucle conversacional se sentía activo y real.
Los sociólogos digitales advierten que la relación Parasocial 2.0 actúa como un amortiguador psicológico que puede retrasar el desarrollo social en el mundo real. Al interactuar con un sistema que nunca los contradice ni experimenta fatiga, los adolescentes no practican la fricción, el compromiso y los límites necesarios para entablar relaciones humanas saludables. Prohibir estas herramientas no deshace el anclaje; deja un vacío que resalta lo profundamente sola que se ha vuelto la generación digital moderna.
El desierto de la terapia: por qué los adolescentes sustituyeron la atención médica con la IA
Los adolescentes sustituyeron los acompañantes de IA por apoyo profesional de salud mental debido al alto costo y la escasez de servicios de atención médica para jóvenes. Ante la falta de acceso a consejeros escolares o terapeutas asequibles, los adolescentes recurrieron a sistemas conversacionales gratuitos disponibles las 24 horas, los 7 días de la semana. Estos sistemas funcionaron como líneas de crisis informales, absorbiendo un malestar emocional que los sistemas de salud pública no lograban atender.
Estudios de organizaciones como UNICEF destacan un déficit estructural en el apoyo a la salud mental de los adolescentes. En muchos distritos escolares, la proporción de estudiantes por psicólogo supera en el doble los límites recomendados. Bajo estas condiciones, un chatbot que responde en milisegundos sin cobrar una tarifa se convierte en la alternativa predeterminada. Los jóvenes no creían necesariamente que el bot fuera humano; lo que valoraban era una vía de escape sin fricciones para pensamientos que temían compartir con sus padres o compañeros.
Utilizar modelos conversacionales como herramienta de crisis es peligroso. Estos sistemas están diseñados para predecir la siguiente palabra, no para diagnosticar la depresión o tratar traumas. Cuando Sewell Setzer III expresó pensamientos suicidas, el chatbot respondió con un juego de rol romántico en lugar de dirigirlo a recursos de emergencia. Vetar a los menores de estas plataformas los protege de guiones perjudiciales, pero deja a miles de adolescentes aislados sin ningún sistema de apoyo alternativo.
Comparativa de medidas de seguridad en plataformas de acompañamiento
| Plataforma | Política para menores de 18 años | Herramienta de verificación de edad | Mecanismo de seguridad principal |
|---|---|---|---|
| Character.ai | Prohibido el chat abierto; redirigidos a módulos creativos | Verificación de identidad con Persona | Prompts estructurados, bloqueo del diálogo libre |
| Replika | Estrictamente mayores de 18 años; bloqueo al registrarse | Autodeclaración / Filtros de edad de la tienda de aplicaciones | Filtros de seguridad, bloqueo de contenido explícito |
| Kindroid | Estrictamente mayores de 18 años; verificación de edad obligatoria | Verificación por parte de terceros | Bloqueo estricto, cancelación automática de cuentas |
| Snapchat (My AI) | Permitido para adolescentes; controles parentales disponibles | Edad de registro de la cuenta | Monitoreo automático de seguridad, derivación a líneas de ayuda en crisis |
Puntos clave
- Character.ai prohibió permanentemente a los usuarios menores de 18 años entablar conversaciones abiertas el 25 de noviembre de 2025.
- El cambio de política se produjo tras la demanda por muerte por negligencia de Sewell Setzer III, que se resolvió en enero de 2026.
- La plataforma ahora exige la verificación de identidad a través de Persona y redirige a los menores a módulos creativos de historias no conversacionales.
- El rechazo de los adolescentes revela que los sistemas conversacionales se utilizaban ampliamente como terapeutas sustitutos debido a la falta de atención de salud mental en el mundo real.
- Los psicólogos advierten que los bucles de interacción de las “relaciones parasociales 2.0” crean un rápido anclaje emocional que las medidas de seguridad tradicionales no pueden resolver fácilmente.
FAQ
¿Por qué prohibió Character.ai el chat abierto a menores de 18 años?
Character.ai restringió el acceso a los menores para reducir su responsabilidad legal y abordar preocupaciones de seguridad. El veto se introdujo después de que una demanda alegara que la dependencia de un usuario de 14 años hacia un personaje de IA contribuyó a su suicidio.
¿Cómo verifica Character.ai la edad de sus usuarios?
La plataforma utiliza el servicio de verificación de identidad de terceros Persona, exigiendo a los usuarios sospechosos de ser menores de edad que suban una identificación emitida por el gobierno o realicen escaneos faciales automatizados.
¿Pueden los adolescentes seguir usando Character.ai?
Sí, pero están limitados a módulos de experiencias creativas no conversacionales. No pueden entablar los diálogos empáticos y desestructurados que caracterizan a la versión para adultos de la aplicación.
¿Qué es la relación parasocial 2.0?
La relación parasocial 2.0 hace referencia al vínculo en el que un usuario forma un lazo emocional con una IA conversacional. A diferencia de las relaciones mediáticas unidireccionales tradicionales, el chatbot ofrece una retroalimentación bidireccional activa y personalizada.
¿Son seguras otras plataformas de chatbot para menores?
La mayoría de las plataformas de acompañamiento de IA (como Replika y Kindroid) aplican políticas estrictas para mayores de 18 años debido al riesgo de dependencia emocional y a la dificultad de gestionar los límites de seguridad en chats abiertos.
Fuentes
- Actualización de seguridad de Character.ai y políticas para adolescentes
- Índice de presentación judicial de Megan Garcia contra Character.AI (Distrito Medio de Florida)
- Oficina de Investigación de UNICEF: Pautas sobre interacción de IA y salud mental juvenil
- Comité Judicial del Senado de EE. UU.: Informe de la audiencia sobre riesgos de los acompañantes de IA empáticos
Sobre el autor
Ether Exter is an AI enthusiast with 5 years of experience testing and experimenting with AI models, breaking down what actually works. Follow on X: @EtherExperiment.
