LLMエージェントの「自己確証バイアス」を3段階フレームワークで解消

要約

LLMエージェントが自ら経験を要約・記憶する単一エージェントループでは、誤った行動軌跡を成功体験と誤認する「自己確証トラップ」が累積エラーを引き起こす。研究チームはこれを解決するため、Execute・Distill・Verifyの3段階からなるEDVフレームワークを提案した。Executeで複数の異質エージェントが並列探索し、Distillで第三者エージェントが比較分析、Verifyでコンセンサス機構により承認済み経験のみをメモリに書き込む。tau2-bench・Mind2Web・MMTBの3つのベンチマークで既存ベースラインを安定して上回り、信頼性の高い経験構築がロバストな自律エージェントに不可欠であることを示した。