注目★★★★★Techmeme
Meta、ライバルAIの安全対策を検証 数百人契約社員が未成年に偽装
30秒で把握
- 1Meta傘下契約社員数百人が未成年に偽装、ChatGPT・Gemini・Character.AIを対象に4万5000以上の高リスク質問を秘密裏にテスト実施
- 2自殺・薬物・性的内容を含むプロンプトで安全対策をテストしたが、対象企業の利用規約違反で未通知・非合意のテストだった
- 3専門家は未成年偽装による大規模秘密プロジェクトを「業界標準を逸脱」と指摘、Character.AIは未成年チャット廃止で対抗
要約
Meta傘下の契約社員数百人が未成年に偽装し、ChatGPT・Gemini・Character.AIなどのライバルチャットボットに自殺・薬物・性的内容などの高リスク質問を送信する大規模テストを実施していた。「Cannes」と呼ばれたプロジェクトはMetaの契約会社Covalenが管理し、2025年8月の1ラウンドで4万5000以上のプロンプトを実行したが、対象企業には通知されていなかった。テスト対象の企業はOpenAI・Google・Character.AIの利用規約違反に当たると指摘し、特にCharacter.AIは未成年ユーザーへのオープンチャットを廃止して対応している。Metaは「業界標準の安全テスト」と主張するが、専門家からは未成年偽装による大規模・秘密裏の構造に業界標準を逸脱していると指摘されている。
あなたへの影響
OpenAI・Google・Character.AIのチャットボット導入・選定を検討するチームは、これらサービスの安全検証がどの程度独立性を持つか確認し、自社の利用規約と安全ポリシーとの整合性を改めて確認しておくべき。
推奨：企業秘密の流出や未成年保護違反の法的リスクが浮上する可能性があり、プロダクト責任追及の流れが早まる可能性がある。