OpenAI、推論コストを半減以上へ——月内に内部実現

要約

OpenAI のエンジニアが今月、推論コストを 50% を超えて削減する方法を発見したと複数の同僚に報告した。同社はこれまでサーバーチップ調達に注力してきたが、コスト効率化の技術的ブレークスルーが得られたことで、インフラ戦略の重点が変わる可能性を示唆している。具体的な技術内容は明かされていないが、業界全体で競合する Anthropic や Google も同様のコスト削減を進めている。