注目★★★★★Hacker News
GPU のメモリ読み込みはどこを通るのか—RTX 4090 で追跡
30秒で把握
- 1LDG.E 命令が L1→L2→DRAM を経由・虚仮想アドレス変換・L1 ヒット 40 サイクル
- 24 バイト × 32 レーンの要求をコアレッシャで 128 バイト単位に統合・クロスバー経由で 36 L2 スライスへ
- 3実測タイミング実験で NVIDIA 非公開の経路詳細を検証・GPU チューニング最適化の基礎資料
要約
GPU メモリ読み込み命令 (LDG.E) が L1 キャッシュ・L2 キャッシュ・DRAM を経由する経路を、RTX 4090 上でのタイミング実験で明らかにした技術解析。単一の global load 命令が 32 レーンで 128 バイトのメモリを要求し、アドレス読み込み・キャッシュ一致判定・仮想アドレス変換・クロスバー経由 L2 アクセスを経て、キャッシュミス時に DRAM 活性化と列読み込みに至る。GPU パフォーマンス最適化に必要な低レベルハードウェア動作を、NVIDIA が文書化していない部分まで実測で検証したもの。
あなたへの影響
GPU メモリ最適化を扱うエンジニアにとって、キャッシュヒット率や帯域幅改善の設計判断は、このような低レベルの経路理解に基づく必要があります。
推奨：逆引き工学で検証された具体的な命令フロー・サイクル数は、自社環境での測定・改善活動の参考基準になり得るため、手元の GPU で同様の実験を試してみる価値があります。