注目★★★★★Techmeme
Hugging Face、Thomas Wolf主導のOpen Alignment Initiative始動
30秒で把握
- 1Hugging FaceがThomas Wolf主導のOpen Alignment Initiativeを始動
- 2alignmentを閉鎖的な開発だけで解決せず外部評価を導入
- 3Amodeiが約束したembedded evaluatorsへの参加を要請
要約
Hugging Faceは、共同創業者Thomas Wolfが率いるOpen Alignment Initiativeを立ち上げた。AIのalignmentは一部のフロンティアラボだけで閉じて解決できないとして、外部の評価者をモデル開発に組み込む「embedded evaluators」プログラムへの参加を求める。
あなたへの影響
LLMの安全性評価に関わる日本のエンジニアは、外部評価を開発工程へ組み込む手法として動向を確認するとよい。
推奨：alignmentはAIの挙動を人間の意図に合わせる取り組みを指す。