注目★★★★★Hugging Face Papers
X-AuT、音声エンコーダーを14層に圧縮し誤り5.75%
30秒で把握
- 1X-AuT が音声LLMのエンコーダーを段階的に圧縮
- 2Qwen3-ASR-0.6B は18層から16層で誤り率5.61%から5.27%
- 314層モデルはパラメータ20.7%削減、誤り率5.75%
要約
X-AuTは、音声LLMの音声エンコーダーを段階的に削減し、精度を復元する圧縮フレームワークを提案した。短い動作プローブで層の組み合わせを選び、表現整合、クロススケール蒸留、LoRA微調整で削除後のモデルを復元する。Qwen3-ASR-0.6Bでは層数を18から16に減らすと、10ベンチマークの平均誤り率が5.61%から5.27%に低下した。14層モデルは音声タワーのパラメータを20.7%削減し、平均誤り率5.75%を達成した。段階的な18層から14層への削減は、直接削減の6.73%より低い5.75%となった。
あなたへの影響
音声LLMを運用する日本のエンジニアは、14層・16層構成を対象に、利用データで誤り率と推論コストを比較検証するとよい。
推奨：音声エンコーダーの削減は削除や早期EOSを招き得るため、段階的 pruning と蒸留を分けて評価する必要がある。