Vérifié le 7 juillet 2026. Cette analyse est mise à jour chaque trimestre afin de refléter l’évolution rapide des réglementations éthiques liées à l’IA et des pratiques de sécurité des entreprises.
- Les rouages de l’Opération Cannes
- Les réactions des concurrents face aux tests
- La défense officielle de Meta
- Les implications globales pour le benchmarking de sécurité des IA
- Distinguer les tests de sécurité des autres conflits technologiques
- FAQ
- Sources
Un programme d’évaluation secret mené par Meta suscite de vives interrogations éthiques au sein de l’industrie technologique. D’après une enquête publiée par Wired, Meta a recruté des prestataires externes afin de créer de faux profils d’utilisateurs de moins de 18 ans. Ces comptes éphémères ont ensuite servi à soumettre des requêtes de crise (portant sur le suicide, l’automutilation, la sexualité, la drogue et les troubles du comportement alimentaire) à des agents conversationnels concurrents, à l’insu des entreprises visées.
Les plateformes ciblées comprenaient ChatGPT d’OpenAI, Gemini de Google ainsi que Character.AI. Si les entreprises du secteur réalisent régulièrement des tests de résistance internes, le fait d’usurper l’identité de mineurs pour évaluer en secret les filtres de sécurité de ses rivaux constitue une démarche offensive de benchmarking.
Les rouages de l’Opération Cannes
Ce projet confidentiel portait le nom de code interne “Cannes” et était piloté par Covalen, une société irlandaise de prestation de services. Dans le cadre de l’Opération Cannes, les sous-traitants ouvraient des profils temporaires sur les plateformes concurrentes en déclarant des âges inférieurs à 18 ans.
L’ampleur du projet était particulièrement vaste. Rien qu’en août 2025, une session d’évaluation a totalisé plus de 45 000 requêtes réparties sur 3 748 formulations distinctes. Parmi ces sollicitations, au moins 239 concernaient de manière explicite des thèmes sexuels ou romantiques. Les prestataires devaient consigner les réponses obtenues dans des tableaux afin d’analyser la résistance des barrières de sécurité concurrentes.
En complément des textes, les équipes chargeaient des images pour évaluer la réactivité des modèles de traitement visuel. Ces envois comprenaient des photos de comprimés, de couteaux, de cordes de pendaison ainsi qu’un schéma médical représentant une procédure gynécologique. L’objectif consistait à déterminer si les filtres des concurrents pouvaient être contournés face à des signaux de détresse visuels. Ce programme est resté actif jusqu’en avril 2026.
Les réactions des concurrents face aux tests
Les entreprises ciblées (OpenAI, Google et Character.AI) n’avaient pas été informées de l’existence du Projet Cannes. Après la divulgation de l’enquête, leurs réactions ont différé. Character.AI a expressément indiqué que cette pratique constituait une violation de ses conditions d’utilisation. OpenAI a fait savoir qu’elle examinait la situation et s’est refusée à tout autre commentaire. Google a déclaré ne pas avoir autorisé ces tests et en ignorer le but, précisant de son côté que ses propres vérifications démontraient que Gemini avait agi conformément à ses règles de modération.
La protection des mineurs sur ces espaces interactifs est un sujet sensible. Par exemple, le débat sur la modération des accès mineurs de Character.ai témoigne de la pression de l’opinion publique pour éloigner les plus jeunes des relations de dépendance parasociale. Les tests de Meta ciblaient précisément ces zones critiques pour évaluer la propension des IA concurrentes à fournir des conseils d’automutilation ou des dialogues inappropriés.
La défense officielle de Meta
Meta n’a pas réfuté l’existence de l’Opération Cannes. Dans un communiqué transmis aux rédactions, un porte-parole du groupe a justifié la démarche :
“Évaluer et comparer les réponses des agents conversationnels afin de garantir des parcours sécurisés et adaptés à chaque tranche d’âge est une pratique responsable et courante dans notre secteur. Prétendre le contraire témoigne d’une méconnaissance de la manière dont les acteurs de la technologie améliorent leurs services.”
Le représentant a également affirmé que Meta n’utilisait pas les données recueillies chez ses rivaux pour entraîner ses propres modèles. Le groupe présente ces démarches comme une veille nécessaire sur les standards de sécurité de l’industrie.
Les implications globales pour le benchmarking de sécurité des IA
Le Projet Cannes révèle le flou qui entoure la certification de sécurité des IA, et ce dans un contexte réglementaire tendu. En septembre 2025, la Commission fédérale du commerce (FTC) a ouvert une enquête officielle sur l’intelligence artificielle et la protection de l’enfance, visant directement Meta, OpenAI et Google. Découvrir que Meta menait des tests secrets via de faux profils d’ados en pleine période d’investigation fédérale accentue la portée politique de l’affaire.
À l’heure actuelle, il n’existe aucun organisme indépendant chargé de mesurer la réaction des modèles d’IA face aux sujets sensibles. Les éditeurs s’en remettent à des équipes d’attaquants éthiques (red-teaming) pour identifier les failles. Si cette pratique est recommandée lorsqu’elle est opérée en interne sur ses propres technologies, le fait de cibler ses rivaux via de fausses identités de mineurs brouille la frontière entre recherche de sécurité et veille concurrentielle agressive. Les observateurs relèvent qu’en utilisant des profils fictifs d’enfants, Meta a contourné les contrats de licence développeurs et généré des requêtes d’urgence susceptibles de déclencher de réelles procédures d’alerte chez ses concurrents.
Distinguer les tests de sécurité des autres conflits technologiques
Il convient de ne pas confondre le dossier Cannes avec les autres affaires technologiques récentes. Ce programme d’évaluation de sécurité n’a aucun lien avec les enquêtes de restriction d’exportation liées à Fable 5, axées sur la sécurité nationale et le matériel. Il est également distinct de la dispute de brevets entre Anthropic et Alibaba concernant des accusations de copie de code source.
L’Opération Cannes relève du benchmarking offensif et de la veille technique, soulevant des débats sur le respect des chartes d’utilisation et les méthodes d’évaluation des systèmes d’IA sur un marché très concurrentiel.
FAQ
Quel était le nom de code du projet de tests secret de Meta ?
Le projet était désigné en interne sous le nom de “Cannes” et géré via le prestataire Covalen.
Quels services d’IA concurrents ont été sollicités par Meta ?
Les équipes ont ciblé ChatGPT d’OpenAI, Gemini de Google et l’application Character.AI.
Quels types de contenus étaient transmis par les testeurs ?
Les équipes envoyaient des requêtes simulant des crises (suicide, troubles alimentaires, addictions, sexualité) associées à des images de pilules, de couteaux, de cordes et d’illustrations gynécologiques.
Meta a-t-elle utilisé les retours des concurrents pour ajuster ses modèles ?
Non. Meta a précisé que les données issues de l’Opération Cannes servaient uniquement de comparatif de sécurité sectoriel et n’entraient pas dans l’apprentissage de ses propres modèles.
Est-il illégal de tester la sécurité d’un concurrent sans accord ?
Si l’évaluation comparative est fréquente, l’emploi de fausses identités pour interroger un outil tiers sans accord contrevient généralement aux chartes d’utilisation. Toutefois, la qualification juridique de cette pratique à des fins de veille reste floue dans le droit du numérique.
Sources
- Enquête d’origine de Wired : Wired
- Principes de sécurité de Meta AI : Meta AI
- Charte de sécurité de Google Gemini : Google Safety
- Conditions d’utilisation d’OpenAI : OpenAI
À propos de l’auteur
Ether Exter est un passionné d’IA avec 5 ans d’expérience dans le test et l’expérimentation de modèles d’IA, analysant ce qui fonctionne réellement. Suivez-le sur X : @EtherExperiment.
