注目★★★★★Hugging Face Papers
拡散LLM向け初のオンポリシー自己蒸留フレームワーク「d-OPSD」公開
30秒で把握
- 1dLLM向け初のOPSDフレームワーク「d-OPSD」を提案・コード公開
- 2RLVR比で最適化ステップ約10%のみで推論4ベンチマークのベースライン超え
- 3サフィックス条件付けとステップレベル監督でdLLMの任意順生成に対応
要約
d-OPSDは、拡散LLM（dLLM）に特化した初のオンポリシー自己蒸留（OPSD）フレームワークを提案した。従来のOPSD手法は左から右へのプレフィックス条件付けを前提とした自己回帰型設計で、任意順生成のdLLMとは根本的に相容れなかった。d-OPSDは「自己生成した答えをサフィックス条件付けに使う自己教師構築」と「トークンレベルからステップレベルへの監督シフト」という2つの改良を導入した。
あなたへの影響
dLLMのポストトレーニングを研究・検討している機械学習エンジニアにとって、RLVRの10分の1のステップ数で性能が出る点は計算コスト削減に直結する。
推奨：コードが公開されているため、既存のdLLMパイプラインへの適用可否を手元で評価できる。