家庭用ロボットの価値観評価ベンチマーク「RobotValues」1万件規模で公開

要約

家庭用ロボットの評価は従来タスク完了率に偏っていたが、日常場面では人間の自律性や効率性、社会的適切さなど価値観が衝突する判断が求められる。研究チームはこうした状況に対応する1万件規模のベンチマーク「RobotValues」を構築した。VLMを用いた評価では、モデルが安全性や順応性を優先する一方でプライバシー配慮行動を選びにくい傾向が判明した。さらに特定の価値観を優先するよう指示しても、約80%のケースでデフォルト動作を上書きできなかった。