注目★★★★★Hugging Face Blog
Hugging Face、WebGPU Kernels 207種でブラウザAIを高速化
30秒で把握
- 1Hugging Face がWebGPU kernel 207種とJavaScript loaderを公開
- 2Apple M4でORT WebGPU比2.57倍高速、809件を比較
- 3Fleetで実機の正確性と性能データを収集しvariantを改善
要約
Hugging Face は、ローカルAI向けの207種類のWebGPU kernelと、JavaScript loader「@huggingface/kernels」を公開した。各kernelはHub上の個別リポジトリに、versioned contract、WGSL shader、correctness test、benchmark caseをまとめて提供する。Apple M4 GPUでORT WebGPUと809件を比較した結果、幾何平均で2.57倍、中央値で1.90倍高速で、629件で勝利した。ブラウザ上でGPU性能と正確性を測る「Fleet」も開始し、同意した利用者の実機データでkernel variantや選択ルールを改善する。
あなたへの影響
WebGPUでローカル推論を実装する日本のエンジニアは、対応ブラウザ・GPU・driverを確認したうえで、@huggingface/kernelsの性能を自環境で検証する。
推奨：Fleetは実機ごとのcorrectnessと性能差を確認するためのブラウザベースのbenchmark suiteであり、利用時はデータ共有への同意範囲を確認すべきだ。