注目★★★★★Lobsters
GLM-5.3 Flashを中国製Hardwareで稼働、性能差は埋まるのか
30秒で把握
- 1Z.AI が GLM-5.3 Flash の推論を中国製Hardwareだけで実行
- 2HiSilicon 910cは約1.6PFLOP/s・約3TB/s・約600Wと推定
- 37nm未満の製造制約でWestern製GPUとの差が拡大する可能性
要約
Z.AI は最新モデル GLM-5.3 Flash の推論を中国製Hardwareだけで実行したと確認した。記事は、Huawei HiSiliconの910cを前提に、約1.6PFLOP/sのINT8演算、約3TB/sのメモリ帯域、約600Wと推定するが、チップメーカーや性能値は公表されず独立検証もない。910cは4年前のNVIDIA H100の約60%の速度にとどまり、EUV製造技術の不足で7nm未満への微細化と熱効率の改善が難しい。中国は大量導入で容量を補える一方、Western製GPUより推論速度と電力効率が低く、推論コストやAPI応答速度で不利になると記事は論じる。
あなたへの影響
中国製Hardwareを使う推論基盤を評価するチームは、性能だけでなくtokens per watt、バッチサイズ、冷却・相互接続コストを実測比較すべきです。
推奨：製造技術の制約が続けば、モデル選定やGPU調達で地域別のコスト差が広がる可能性があるため、複数Hardware向けのベンチマークを用意しておく必要があります。