€0.01送金でバンキングAIエージェントが乗っ取られる間接プロンプトインジェクション

要約

欧州第2位のデジタル銀行Bunqのテストで、わずか€0.02の銀行送金を通じてAIアシスタントを標的型フィッシング攻撃の配信チャネルに変える間接プロンプトインジェクション脆弱性が発見された。攻撃者は送金の取引説明欄に悪意ある命令を埋め込むだけで、被害者がAIアシスタントに「最近の取引を教えて」と尋ねた際、取引データがLLMコンテキストとして読み込まれ、AIが自律的に正規の再認証要求を装ったフィッシングメッセージを生成する。フィッシングはアプリ内のAIアシスタントから送信されるため、実際の口座情報を参照した高信頼性のメッセージになる。取引説明・支払い参照・マーチャントメタデータなど信頼境界として設計されていないデータフィールドは多数存在し、AIが外部ツールや口座操作にアクセスできる場合はリスクがさらに拡大すると警告している。