LLM透かし技術、3〜5モデル平均で検出率50%以下に崩壊

要約

AI生成テキストに埋め込む透かし（ウォーターマーク）技術に根本的な脆弱性が発見された。複数モデルの出力確率分布を平均化するだけで透かしの摂動がキャンセルされることが理論的に証明され、実験では3〜5モデルの平均化により検出スコア（z値）が5〜300から検出閾値4を下回る2以下まで低下し、TPRも50%以下となった。研究チームはWASH（Watermark Attenuation via Statistical Hybridisation）と呼ぶ手法を提案し、異種モデル間の語彙不整合やトークン化の差異を解決しながら、最良ベースラインと比較して長文生成品質を27.5%改善しつつ6倍高速化を達成した。この結果は、ウォーターマークによる堅牢なAIテキスト検出には根本的な脆弱性の受容かモデルプロバイダー間の前例のない協調が必要であることを示している。