LoRAの学習を安定化するNoRA、正規化を初期化だけで実現

要約

NoRAはLoRAのdown-projection行列を正規化し、学習の収束と安定性を高める手法だ。LoRAではup-projectionをゼロ初期化するため、学習初期の挙動がdown-projectionに左右される点に着目した。事前学習・教師ありファインチューニング・強化学習で収束を高速化し、性能向上と破滅的忘却の抑制を実現した。正規化は学習中に繰り返すほか、初期化時だけ適用する方法でも標準LoRAを改善できる。追加の学習パラメータと推論時の計算は不要だ。