Inkling：約1兆パラメータのマルチモーダルLLM、音声・画像・テキスト同時処理に対応

要約

Thinking Machines が開発した Inkling をHugging Face で公開した。約1兆パラメータを備え、画像・音声・テキストの3モダリティをネイティブに処理し、100万トークンのコンテキストウィンドウをサポートする初の大規模オープンモデルだ。Mixture-of-Experts (MoE) アーキテクチャで実際には41Bパラメータのみがアクティブとなり、推論効率を実現している。相対位置注意・ハイブリッド注意・短畳み込みなどの特徴的な設計を採用し、Transformers・SGLang・llama.cpp で即日サポートされている。BF16版とNVFP4量子化版が提供される。