注目★★★★★Hacker News
M5 Ultra Mac Studio、ローカルAIエージェントを実用速度へ
30秒で把握
- 1M5 UltraがM3 Ultra比で生成70%高速化、プロンプト処理150%向上
- 2Qwen3.8-Flash-Nextが短文で100 tokens/秒超、256K文脈でも60〜85
- 3RTX 5090は約25%高速だが、32GB VRAM制約で大規模モデルに不利
要約
M5 Ultra Mac Studioは、ローカルAIエージェントを実用的な速度で動かせるマシンだとレビューされた。256GBモデルはM3 Ultra比でトークン生成が平均約70%高速化し、プロンプト処理は平均150%向上した。80コアGPUと1.2TB/sのメモリ帯域により、Qwen3.8-Flash-Nextは短いプロンプトで100 tokens/秒超、64K〜256Kコンテキストでも60〜85 tokens/秒で生成した。RTX 5090は小規模モデルの速度で約25%上回るが、32GB VRAMの制約があり、大規模モデルでは統合メモリを持つM5 Ultraが扱いやすい。レビューでは、310文書を対象にした研究用エージェントを99日間、追加費用なしで稼働させた事例も紹介された。
あなたへの影響
ローカルLLMやAIエージェントを試す開発者は、M5 Ultraの256GB構成を候補に含め、利用モデルとコンテキスト長の実測を次の検証計画に組み込むとよい。
推奨：統合メモリはGPUメモリとシステムメモリを共有する仕組みで、大規模モデルの常駐に影響する。