注目★★★★★Hugging Face Blog
MosaicLeaks：リサーチエージェントの外部クエリによる企業情報漏洩リスクを評価
30秒で把握
- 1MosaicLeaksが深層リサーチエージェントのクエリ漏洩を定量評価・ベンチマーク化
- 2PA-DRで漏洩率34.0%→9.9%・チェーン成功率48.7%→58.7%に改善
- 3クエリログのみで内部事実が復元可能なモザイク効果が主要脅威モデルに
要約
ServiceNowはMosaicLeaksを提案し、深層リサーチエージェントがWeb検索クエリ経由でプライベート企業情報を漏洩するリスクを定量評価した。1,001件のマルチホップ研究チェーンを用いたベンチマークで、既存モデルは回答漏洩率34.0%・完全情報漏洩率34.0%と高頻度で内部情報を流出させ、タスク性能のみを訓練目標にすると漏洩がさらに悪化した。提案手法のPrivacy-Aware Deep Research（PA-DR）はモザイク漏洩を考慮したRL訓練で、チェーン成功率を48.7%から58.7%に改善しつつ、回答・完全情報漏洩率を34.0%から9.9%に低減した。エージェントのクエリログだけを観察した第三者がプライベートな事実を再構成できる「モザイク効果」が主要な脅威モデルとして定式化されている。
あなたへの影響
業務文書をローカルナレッジとして利用するAIエージェントを本番運用しているチームは、外部検索クエリのログが攻撃対象になり得ることを認識し、クエリ内容のサニタイズや外部通信の監査ログ取得を今すぐ設計に組み込む価値がある。
推奨：PA-DRはまだ研究段階であるため、現時点では運用制御（クエリフィルタリング・アウトバウンド制限）が現実的な対策につながり得る。