Anthropic、実会話からClaude の価値観を大規模分析

要約

AnthropicはAIモデルClaudeが実際の会話でどのような価値判断を行うかを大規模に観察・分析する手法を開発した。Constitutional AIなどによる訓練でClaudeの価値観形成を試みているが、実際の挙動との乖離を確認する必要があった。同社の社会的影響チームが今回の研究論文で、実会話データを用いたClaudeの価値観表現の初の大規模分析結果を公開した。