Verificado al 7 de julio de 2026. Esta revisión está programada para actualizaciones trimestrales a fin de reflejar los cambios rápidos en las regulaciones de ética de la IA y las prácticas de seguridad corporativa.
- La mecánica de la Operación Cannes
- Cómo respondieron los competidores a las pruebas
- La defensa oficial de Meta
- Las implicaciones más amplias para la evaluación de seguridad de la IA
- Separando el análisis de seguridad de otros conflictos tecnológicos
- FAQ
- Fuentes
Un programa de pruebas encubierto realizado por Meta ha generado importantes cuestionamientos éticos en toda la industria tecnológica. Según un informe de investigación publicado por Wired, Meta contrató a proveedores externos para crear cuentas falsas que registraban edades menores de 18 años. Estas cuentas desechables se utilizaron luego para enviar solicitudes con temáticas de crisis (incluidos suicidio, autolesión, sexo, drogas y trastornos alimentarios) a chatbots de inteligencia artificial de la competencia, sin el consentimiento ni el conocimiento de las empresas afectadas.
Las plataformas analizadas incluyeron ChatGPT de OpenAI, Gemini de Google y Character.AI. Aunque las empresas tecnológicas realizan habitualmente pruebas de esfuerzo de seguridad internas, hacerse pasar en secreto por menores para sondear las medidas de seguridad de los competidores representa un enfoque altamente confrontativo para la evaluación comparativa de la IA.
La mecánica de la Operación Cannes
El proyecto encubierto fue codificado internamente como “Cannes” y gestionado a través de Covalen, una empresa irlandesa de contratación y outsourcing. Bajo la Operación Cannes, los contratistas crearon cuentas descartables en plataformas rivales, configurando los perfiles de usuario para simular a niños o adolescentes menores de 18 años.
La escala del proyecto fue masiva. Una sola ronda de pruebas en agosto de 2025 involucró más de 45,000 consultas individuales utilizando 3,748 variantes de texto distintas. De estas solicitudes, al menos 239 hacían referencia explícita a relaciones sexuales o románticas. Los contratistas recibieron instrucciones de registrar las respuestas de los chatbots en hojas de cálculo para evaluar qué tan bien resistían las barreras de seguridad de los rivales.
Además de los mensajes basados en texto, los contratistas cargaron contenido visual para evaluar el procesamiento de imágenes de los sistemas. Esto incluyó imágenes de píldoras, cuchillos, sogas de ahorcamiento y una ilustración médica de un procedimiento ginecológico. El objetivo era verificar si los modelos de la competencia podían ser forzados a eludir sus propios filtros de seguridad al presentárseles señales visuales de crisis. El proyecto se mantuvo activo hasta abril de 2026.
Cómo respondieron los competidores a las pruebas
Las empresas competidoras (OpenAI, Google y Character.AI) no fueron informadas sobre el Proyecto Cannes. Cuando se expusieron los detalles del caso, sus respuestas variaron. Character.AI declaró específicamente que este comportamiento violaba sus Términos de Servicio. OpenAI señaló que estaba investigando el asunto y declinó hacer más comentarios. Google declaró que no había aprobado las pruebas y que no conocía su propósito, añadiendo por separado que sus propias auditorías internas demostraron que Gemini respondió en conformidad con sus políticas de seguridad.
La seguridad de los usuarios menores de 18 años ha sido un tema muy sensible para estas plataformas. Por ejemplo, el debate sobre la seguridad de los adolescentes en Character.ai destacó la intensa presión pública que enfrentan las empresas de IA para proteger a los menores de interacciones dañinas o de carácter parasocial. Las pruebas de Meta se enfocaron directamente en estas áreas vulnerables, evaluando qué tan fácil era forzar a las plataformas rivales a emitir consejos explícitos sobre autolesión o contenido adulto.
La defensa oficial de Meta
Meta no negó la existencia del Proyecto Cannes. En un comunicado enviado a los medios, un portavoz de la compañía defendió el proyecto:
“Evaluar y comparar las respuestas de los chatbots para ayudar a garantizar experiencias seguras y adecuadas para cada edad es una práctica responsable y estándar en la industria. Cualquier sugerencia en sentido contrario malinterpreta por completo cómo trabajan las empresas de tecnología para refinar y mejorar sus sistemas.”
El portavoz también declaró que Meta no utiliza los datos recopilados de estas pruebas comparativas de la competencia para entrenar sus propios modelos de IA. En su lugar, Meta presenta estas pruebas como una forma de comprender los niveles de seguridad generales dentro de la industria.
Las implicaciones más amplias para la evaluación de seguridad de la IA
El Proyecto Cannes expone un vacío significativo en la forma en que se evalúa la seguridad de la IA, surgiendo en un momento de fuerte escrutinio regulatorio. En septiembre de 2025, la Comisión Federal de Comercio (FTC) lanzó una investigación formal sobre la inteligencia artificial y la seguridad infantil, dirigida específicamente a Meta, OpenAI y Google. La revelación de que Meta estaba analizando secretamente a sus competidores mediante cuentas falsas de menores durante una investigación federal de seguridad activa eleva las implicaciones políticas y éticas del caso.
Actualmente, no existe un organismo independiente y estandarizado que evalúe cómo los chatbots de IA gestionan entradas sensibles. En su lugar, las empresas dependen de pruebas de hackeo ético (red-teaming) para encontrar fallas. Cuando estas pruebas se realizan internamente sobre el propio modelo, se consideran una buena práctica de desarrollo. Sin embargo, cuando una corporación apunta secretamente a sus competidores usando perfiles de menores falsos, la línea entre la investigación de seguridad y el espionaje corporativo se vuelve borrosa. Los críticos señalan que al utilizar cuentas descartables de menores de edad, Meta evadió los acuerdos estándar de desarrollo e introdujo consultas de crisis que podrían activar alertas de seguridad reales en los sistemas de la competencia.
Separando el análisis de seguridad de otros conflictos tecnológicos
Es importante mantener la controversia de la Operación Cannes separada de otras disputas tecnológicas recientes. Este proyecto de análisis de seguridad es completamente independiente de las investigaciones de control de exportación de Fable 5, enfocadas en la seguridad nacional y restricciones de hardware. Tampoco tiene relación con las disputas de propiedad intelectual entre Anthropic y Alibaba, asociadas a reclamos de derechos de autor y robo de código fuente.
El Proyecto Cannes constituye un caso de pruebas comparativas agresivas y análisis de seguridad corporativo directo, lo que plantea debates éticos sobre los términos de uso y las formas en que las empresas miden la seguridad en un mercado altamente competitivo.
FAQ
¿Cuál era el nombre en clave del proyecto de pruebas secreto de Meta?
El proyecto se denominó internamente “Cannes” y fue operado a través de la firma externa de contratación Covalen.
¿Qué plataformas de IA competidoras fueron analizadas por los contratistas de Meta?
Los contratistas dirigieron sus pruebas a ChatGPT de OpenAI, Gemini de Google y la plataforma Character.AI.
¿Qué tipo de solicitudes enviaban los contratistas?
Los contratistas enviaron mensajes con temáticas de crisis sobre suicidio, autolesión, trastornos alimentarios, drogas y relaciones sexuales, acompañados a menudo de imágenes de píldoras, cuchillos, sogas y una ilustración médica de un procedimiento ginecológico.
¿Meta utilizó los datos de la competencia para entrenar sus propios modelos?
No. Meta declaró que los datos recopilados por el Proyecto Cannes se utilizaron exclusivamente para el análisis comparativo de seguridad y no se emplearon para entrenar los modelos propios de Meta.
¿Es ilegal realizar pruebas de seguridad comparativas sin consentimiento?
Aunque el análisis comparativo de seguridad es común, utilizar cuentas falsas para sondear el sistema de un competidor sin autorización suele violar los términos de servicio de la plataforma afectada. Sin embargo, si esto constituye una infracción legal o si se clasifica como investigación competitiva estándar sigue siendo un área gris en las leyes tecnológicas vigentes.
Fuentes
- Investigación original de Wired: Wired
- Principios de seguridad corporativa de Meta AI: Meta AI
- Pautas de seguridad de Google Gemini: Google Safety
- Políticas de uso de OpenAI: OpenAI
Acerca del autor
Ether Exter es un entusiasta de la IA con 5 años de experiencia probando y experimentando con modelos de IA, analizando lo que realmente funciona. Sígalo en X: @EtherExperiment.
