最重要★★★★★Hugging Face Papers
Kimi K3、280 億パラメータ MoE モデル公開・100 万トークン対応で frontier 級性能
30秒で把握
- 1Kimi K3 (2.8T パラメータ MoE) 公開・Delta Attention で約 2.5 倍スケーリング効率向上
- 2104 億パラメータ動作・100 万トークンコンテキスト・ネイティブ vision 対応・長期推論に frontier 級
- 3Claude Fable 5 / GPT-5.6 Sol 以外の全モデルを上回る・全ウェイト公開で実装検証可能
要約
Kimi (Moonshot AI) は 2.8T パラメータの Mixture-of-Experts モデル「Kimi K3」を公開し、104 億パラメータが動作する。Delta Attention と Attention Residuals の改善により Kimi K2 比で約 2.5 倍のスケーリング効率を実現し、100 万トークンのコンテキストウィンドウとネイティブ画像処理能力に対応した。強化学習による推論レベル最適化で長期コード生成と agentic タスクで frontier 級性能を達成し、全モデルウェイトを公開した。Claude Fable 5 と GPT-5.6 Sol に比べ総合性能は劣るが、その他の開モデル・商用モデルを上回った。
あなたへの影響
日本国内で Kimi K3 の全ウェイト公開は。
推奨：大規模 MoE モデルの推論・微調整アーキテクチャを直接検証できる貴重なリソースとなるため、LLM 推論基盤を構築するチームは 100 万トークン対応と Delta Attention 実装の性能インパクトをベンチマーク検証の対象に加える価値がある。