注目★★★★★Hacker News
AI コーディング agent の危険コマンド、平均 3 人に 1 人が見落とし—4 万回プレイのデータから判明
30秒で把握
- 1AI agent コマンド承認ゲーム 4 万回以上のプレイで平均 66.3% 的中率・33% の脅威見落とし判明
- 2npm run スクリプト経由の認証情報窃取が 3 倍見落としやすく、修正ファイル経由の間接攻撃は承認モデルでは防ぎようがない
- 3時間圧力・承認疲労・無害コマンドの大量ノイズにより人間による承認は有効なセーフガード機能を果たさない可能性
要約
セキュリティ研究者が開発した、AI coding agent のコマンド承認を判定するゲーム 4 万回以上のプレイデータから、人間による事前承認機構の脆弱性が明らかになった。平均的なプレイヤーは 3 分の 1 の脅威を見落とし、64.7% は「npm run」スクリプト経由の認証情報窃取を承認してしまった。時間圧力下での判定で見落としが増加し、一方で無害なコマンド (パッケージレジストリ設定・ポート解放など) も 43〜59% の確率でブロックされた。
あなたへの影響
この記事が日本のエンジニアに与える影響と、今日取るべきアクションは、Personal会員向けに掲載しています。
クレカ不要・いつでも解約