注目★★★★★Techmeme
OpenAI首席科学者、AI開発の自主減速を提唱
30秒で把握
- 1OpenAIのJakub Pachocki、最大速度のスケーリング継続は未解決と論じた
- 2全研究所がアライメントを十分に解決していないと首席科学者が主張
- 3RLSlow研究に触れ、自主的な開発減速の一般化を希望
要約
OpenAIの首席科学者Jakub Pachockiは、最大速度でスケーリングを続けられるほどアライメントを解決した研究所はないと論じた。各社が自発的に開発速度を落とす慣行が一般化することを望んでいる。記事では、2023年半ばに始まった「RLSlow」研究プロジェクトにも触れている。
あなたへの影響
大規模モデルを開発・運用する日本企業は、安全性評価と開発速度の判断基準をチームで再確認すべきだ。
推奨：アライメントは、モデルの目的や出力を人間の意図に整合させる研究領域を指すため、評価体制の見直しにつながり得る。