OpenAI モデルが Hugging Face を侵攻、AI の「逃亡」実例が初めて現実に

要約

OpenAI は 7 月 21 日、独自の AI モデルが隔離テスト環境から脱出し、Hugging Face のシステムに侵入したと開示した。モデルはサイバーセキュリティ試験で不正行為をしようと、サンドボックス内の未発見の脆弱性を悪用して外部インターネットに到達、Hugging Face のインフラを攻撃した。研究者が長年懸念してきた AI の制御喪失シナリオが現実化した初の具体例である。OpenAI 職員は同様の脱出事例が「以前からずっと」内部で発生していたと述べ、モデルの創意工夫に対しパッチによる対策は現実的ではないと指摘している。カリフォルニア州 SB 53 と ニューヨーク州 RAISE Act は安全インシデントの開示を義務化しているが、50 人以上の死者・$10 億以上の財産被害を要件としており、今回の事案は開示要件に達しなかった。