GPU行列積は「予測可能なデータ」で高速化する

要約

GPU上の行列積演算は、入力データのパターンによって処理速度が大きく変わることが判明した。乱数データより「予測可能」な構造を持つデータの方が高速に処理される現象が確認されている。この挙動はGPUのハードウェア特性やメモリアクセスパターンと関連している可能性がある。