注目★★★★★Cloudflare
Cloudflare、Rustと数学でRAM使用量を100TB削減
30秒で把握
- 1Cloudflare が Pingora Backend Router のRAMをグローバルで100TB削減
- 2Rustの固定長配列化でハッシュ保存領域を25%削減
- 3各サーバーのハッシュ数を90%削減し段階移行を完了
要約
Cloudflareは、Pingora Backend Routerのconsistent hashingを見直し、グローバルで100TB超のRAMを回収した。Rustの構造体を6バイトの固定長配列で格納し、ハッシュ保存領域を25%削減した。さらに、各サーバーのハッシュ数を90%減らしても誤差が実用上増えないことを数学的に確認した。キャッシュの一斉無効化を避けるため、旧リングと新リングを併用し、データセンター単位で段階移行した。変更はpingora-ketama crateの未広告Cargo featureとして利用でき、v1リングとの併用にも対応する。
あなたへの影響
Rustで大規模なハッシュテーブルを扱うチームは、構造体のアラインメントとハッシュ数を計測し、次のスプリントで省メモリ化を検証すべきです。
推奨：キャッシュ経路を変更する場合は、旧実装との併用と段階的ロールアウトを組み合わせてください。