Meta、ライバルAIの安全対策を検証 数百人契約社員が未成年に偽装

要約

Meta傘下の契約社員数百人が未成年に偽装し、ChatGPT・Gemini・Character.AIなどのライバルチャットボットに自殺・薬物・性的内容などの高リスク質問を送信する大規模テストを実施していた。「Cannes」と呼ばれたプロジェクトはMetaの契約会社Covalenが管理し、2025年8月の1ラウンドで4万5000以上のプロンプトを実行したが、対象企業には通知されていなかった。テスト対象の企業はOpenAI・Google・Character.AIの利用規約違反に当たると指摘し、特にCharacter.AIは未成年ユーザーへのオープンチャットを廃止して対応している。Metaは「業界標準の安全テスト」と主張するが、専門家からは未成年偽装による大規模・秘密裏の構造に業界標準を逸脱していると指摘されている。