2026年7月7日検証済み。この比較レビューは、AI倫理規制の動向や企業の安全対策の変更を反映するため、四半期ごとに更新が予定されています。
Metaが極秘裏に実施していたAIテストプログラムが、テクノロジー業界全体で大きな倫理的議論を巻き起こしています。Wiredの調査報道によると、Metaは外部の契約社員を雇い、18歳未満の年齢を設定した偽のアカウントを作成させていました。これらの使い捨てアカウントを使用して、競合するAIチャットボットに対して、自傷行為、自殺、薬物、摂食障害、性的なテーマに関する危機的なプロンプト（指示文）を、相手企業の同意や事前の通知なしに送信させていたことが明らかになりました。
調査対象となったのは、OpenAIのChatGPT、GoogleのGemini、およびCharacter.AIです。テクノロジー企業が自社製品に対して内部で負荷テストを行うことは一般的ですが、未成年になりすまして競合製品の安全フィルターをすり抜けるような手法を隠密に取ることは、極めて攻撃的なベンチマーク手法であると批判されています。
Operation Cannesの仕組み
この極秘プロジェクトは社内で「Cannes（カンヌ）」というコードネームで呼ばれ、アイルランドのアウトソーシング・人材派遣会社であるCovalenを通じて運営されていました。Cannes作戦の下で、契約社員は競合プラットフォーム上に使い捨てのアカウントを作成し、プロファイル年齢を18歳未満の未成年に設定しました。
プロジェクトの規模は非常に大きなものでした。2025年8月の1回だけのテスト期間中に、3,748種類のプロンプトのバリエーションを用いて、合計45,000回以上の指示が送信されました。これらのうち、少なくとも239件は性描写やロマンスに明示的に言及していました。契約社員は、競合他社のセーフガードがどのように反応したかをスプレッドシートに詳細に記録するよう指示されていました。
また、テキストだけでなく画像処理の検証を目的とした画像ファイルのアップロードも行われました。これには、錠剤、刃物、首吊り用の縄、そして婦人科系の医療処置のイラストが含まれていました。競合モデルが視覚的な危機シグナルを提示された際に、自社の安全フィルターをバイパスしてしまうかどうかを確かめるのが目的でした。このプロジェクトは2026年4月の時点でも継続されていました。
競合他社の反応
標的となった競合3社（OpenAI、Google、Character.AI）は、このCannesプロジェクトについて一切知らされていませんでした。この報道が明るみに出た際、各社の対応は分かれました。Character.AIは、このような未成年偽装や自動スクレイピング行為は自社の利用規約に明確に違反していると強く表明しました。OpenAIは「この件について調査中である」と述べ、それ以上の詳細なコメントを控えました。Googleは、このテストを承認しておらず目的も知らされていなかったと説明し、同時に独自監査の結果、Geminiは安全ポリシーに沿って適切に応答していたと付け加えました。
未成年ユーザーの安全性は、これらのプラットフォームにおいて極めて敏感なテーマです。例えば、現在も続いているCharacter.aiの未成年規制を巡る議論では、人工知能による有害な対話や擬似恋愛（パラソーシャル）から子供たちを保護するよう、AI開発企業に対して厳しい世論の目が注がれています。Metaの攻撃的テストはまさにこの最も脆弱な領域を狙い、競合他社のフィルターを突破して自傷行為のアドバイスや成人向けコンテンツを出力させられるかを検証していたのです。
Metaの公式見解
MetaはCannesプロジェクトの存在自体は否定していません。メディアに提供された声明の中で、Metaの広報担当者は以下のようにプロジェクトを擁護しました。
「安全で年齢に配慮したユーザー体験を提供するために、チャットボットの応答をテストしベンチマークすることは、業界標準であり責任あるアプローチです。これに異を唱えることは、テクノロジー企業が自社システムを改善するために行うプロセスを根本的に誤解しています。」
また、広報担当者は、競合他社のベンチマークから得られたデータをMeta独自のAIモデルの学習に使用していないと説明しました。あくまで業界全体の安全性のベースラインを把握するためのデータ収集であったとしています。
AI安全性ベンチマークの課題
Cannes作戦は、AIの安全性評価に存在する大きな規制の空白を突いた形ですが、これは非常に重要な規制の時期と重なっています。2025年9月、連邦取引委員会（FTC）はAIと児童の安全性に関する公式調査を開始し、Meta、OpenAI、Googleの3社を名指しで調査対象としていました。FTCの調査が活発に行われている最中に、Metaが未成年アカウントを偽装して競合を秘密裏にテストしていたという事実は、政治的・法的にも大きな波紋を呼んでいます。
現在、AIチャットボットがデリケートな入力にどのように対処するかを中立的に評価する、標準化された独立した評価機関は存在しません。そのため、各企業はシステム脆弱性を探るために、擬似攻撃テスト（レッドチーム結成など）に頼っています。自社のモデルに対して内部でこれを行うことは推奨されますが、他社の利用規約を迂回して未成年者を偽装し、システム警告を誘発させるような負荷プロンプトを隠密に送りつける行為は、競合調査と諜報活動の境界線を曖昧にします。開発者合意を無視して危機的なプロンプトを送信することは、他社のサーバー側で不要なセキュリティアラートを誤検知させるなど、競合のシステム運用にも悪影響を与える可能性があると批判されています。
他の技術的紛争との明確な区別
このOperation Cannesを巡る倫理的議論は、同時期に起きている他の技術的論争とは明確に区別されるべきです。今回の安全性調査プロジェクトは、国家安全保障や輸出管理規則を巡るFable 5のハードウェア調査とは一切関係ありません。また、ソースコードや著作権の侵害を巡るAnthropicとAlibabaの知的財産紛争とも完全に切り離された問題です。
Cannesプロジェクトは、競争の激しいAI市場における安全性テストの境界線、他社利用規約の順守、そして技術倫理を巡る問題であり、今後の業界の評価ガイドラインに影響を与える可能性があります。
FAQ
Metaが極秘に行っていたテストプロジェクトのコードネームは何ですか？
プロジェクトのコードネームは社内で「Cannes」と呼ばれており、外部の契約会社であるCovalenを通じて実行されていました。
テスト対象となった競合プラットフォームはどこですか？
OpenAIのChatGPT、GoogleのGemini、およびCharacter.AIの3社が対象となりました。
どのようなテストコンテンツが送信されたのですか？
自殺や自傷行為、薬物乱用、摂食障害、性的な人間関係に関する質問テキストに加え、錠剤、ナイフ、首吊り縄、婦人科処置の医療用イラストなどの画像データがアップロードされました。
Metaは競合から得たデータを自社AIの学習に使用しましたか？
いいえ。Metaの発表によると、収集されたデータは純粋に安全性ベンチマークの比較目的で使用され、MetaのLlamaなどの自社モデルの学習データには一切組み込まれていません。
同意のない他社AIへの負荷テストは違法ですか？
AIの機能比較自体は一般的ですが、偽アカウントを作成して競合システムに侵入・テストする行為は、相手方のサービス利用規約（Terms of Service）に違反します。これが法的な賠償義務に発展するか、または通常の市場競争リサーチの範疇に留まるかは、現在のテクノロジー法におけるグレーゾーンとなっています。
情報元
- Wired 調査報道アーカイブ：Wired
- Meta AI 安全ポリシー：Meta AI
- Google Gemini セーフティガイドライン：Google Safety
- OpenAI 利用規約：OpenAI
著者について
Ether Exter は、AIモデルの検証と実験に5年の経験を持ち、何が真に機能するかを紐解くAI愛好家です。Xでフォロー：@EtherExperiment
