注目★★★★★AWS
NVIDIA Nemotron 3.5 Lightning、SageMaker JumpStart で利用可能に
30秒で把握
- 1Nemotron 3.5 Lightning が SageMaker JumpStart で提供開始・最大 4 倍スループット・30% 高速化実現
- 2MoE 30B パラメータ / 3B アクティブ・1M トークンコンテキスト対応・エンタープライズエージェント向け
- 3完全オープン訓練モデル・エッジ / オンプレ / クラウド横断デプロイ可能・SageMaker コンソールで数クリック展開
要約
NVIDIA の Nemotron 3.5 Lightning が Amazon SageMaker JumpStart で利用可能になった。MoE アーキテクチャで 30B パラメータ・3B アクティブ、同等モデル比で最大 4 倍スループット (~410 トークン/秒) と 30% 高速なタスク完了を実現した。1M トークンのコンテキストをサポートし、パーソナルアシスタント・金融文書処理・サイバーセキュリティ分類・通信事業の自動化など企業向けエージェント・高スループット自動化を想定設計している。オープンデータセットで訓練された完全オープンモデルで、エッジ・オンプレミス・クラウド環境での完全な所有権と独立デプロイを可能にする。
あなたへの影響
AWS ユーザーが高スループット型エージェント・自動化パイプラインを構築・検証する場合、Nemotron 3.5 Lightning の性能・文脈窓口・オープン訓練による制御権が選択肢を広げるため。
推奨：既存モデルとの複雑度・遅延・推論コストの比較評価を次スプリント内に実施する価値がある。