注目★★★★★Hacker News
スマートフォンで動く 27B モデル Bonsai 27B、推論・ツール操作も対応
30秒で把握
- 1PrismML が Bonsai 27B を公開・1 ビット 3.9GB/3 値 5.9GB で iPhone 搭載可能に初実現
- 2ベンチマーク 15 項目で 1 ビット版 90% 精度・推論/ツール呼び出し/マルチモーダル対応・262K トークン文脈
- 3オンデバイス実行でクラウド往復コスト削減・プライベートデータ流出防止・ハイブリッド展開 (非フロンティア タスクをローカルに振り分け) が可能に
要約
PrismML は Bonsai 27B を発表した。Qwen3.6 27B をベースに、1 ビット重み (3.9GB) または 3 値重み (5.9GB) で圧縮した初の 27B クラスモデルで、iPhone 上で動作する。ベンチマーク 15 項目で 1 ビット版は 90%、3 値版は 95% の精度を保持し、数学・コーディング・ツール呼び出しなど推論能力も維持されている。オンデバイス実行により、マルチステップ推論やエージェント・ループが低遅延で動作し、クラウド API の往復コストやネットワークへのデータ流出を排除できるため、プライベート データを含む継続的なエージェント ワークロードに適している。Apache 2.0 ライセンスで即座に提供開始。
あなたへの影響
この記事が日本のエンジニアに与える影響と、今日取るべきアクションは、Personal会員向けに掲載しています。
クレカ不要・いつでも解約