最重要★★★★★DeepMind
Gemini Flash Lite、暗号化環境で世界初の二重盲検AI評価
30秒で把握
- 1Google DeepMind がGemini Flash Liteの二重盲検AI評価を試験運用
- 24組織と機密ベンチマークを検証し評価プロンプトとモデル重みを隔離
- 3Confidential Spaceでベンチマーク汚染と知的財産漏えいを防止
要約
Google DeepMind は、独自のフロンティア級AIモデルを対象に、世界初の二重盲検評価を試験運用した。Singapore AI Safety Institute、OpenMined、AVERI、MLCommonsと連携し、Gemini Flash Liteを機密ベンチマークで検証する。Google CloudのConfidential Spaceにより、評価者はモデルの重みを見られず、Googleも評価用プロンプトを見られない。暗号学的にプライバシーを保護し、ベンチマーク汚染と知的財産・評価データの漏えいを防ぐ。
あなたへの影響
AIモデルの評価や導入を担う日本のエンジニアは、機密ベンチマークを扱う際にConfidential Computingを含む二重盲検方式を検証対象に加えるべき。
推奨：評価プロンプトとモデル重みを双方の所有者から隔離できるため、機密性の高い安全性評価にもつながり得る。