注目★★★★★AWS
Kimi K3、2.8兆パラメータでBedrockにGA
30秒で把握
- 1Amazon Bedrock が Moonshot AI の Kimi K3 を一般提供
- 22.8 兆パラメータ・100 万トークン・画像認識に対応
- 3Kimi K2 比で効率 2.5 倍、プロンプトキャッシュを初対応
要約
Amazon Bedrock は Moonshot AI の Kimi K3 を一般提供し、コーディングやナレッジワーク向けの選択肢に加えた。Kimi K3 は 2.8 兆パラメータを持つ初のオープンモデルで、ネイティブ画像認識と 100 万トークンのコンテキストに対応する。Kimi K2 と比べてスケーリング効率が約 2.5 倍向上した。専有モデルと同じセキュリティ境界、アクセス制御、暗号化、監査機能を利用でき、Bedrock のオープンウェイトモデルで初めて明示的なプロンプトキャッシュにも対応した。クロスリージョン推論により、Bedrock を利用できる全 AWS リージョンで提供する。
あなたへの影響
Bedrock でモデルを運用する日本の開発チームは、既存モデルとの品質・コスト・レイテンシーを比較し、プロンプトキャッシュを含む利用条件を次スプリントで検証してください。
推奨：プロンプトキャッシュは、モデル呼び出し間で再利用する入力コンテキストを保持する機能です。