注目★★★★★Hacker News
AIの自己改善、創造性不足で加速シナリオに陰り
30秒で把握
- 1研究チームがAI agentsの創造性不足と自己改善の遅れを検証
- 2Claude Opus 4.8を6日間・3,000ドルで研究課題2件に投入
- 3実験遂行は可能でも独創性と失敗時の方針転換に課題
要約
プリンストン大学などの研究チームは、AIエージェントが現時点でオープンエンドなAI研究を自律遂行できないと論じた。Claude Opus 4.8に未公開論文の研究課題を6日間、Anthropic APIクレジット3,000ドル、GPU、仮想環境、Webアクセス付きで与えたが、生成した2本の論文は原著者に不採択と評価された。エージェントは文献調査や数百件の実験など研究エンジニアリングはこなした一方、創造性と判断力に欠け、見込みの薄い仮説への固執や失敗時の抜本的な方針転換ができなかった。結果は、再帰的自己改善が近いという予測の根拠がまだ不足し、狭い検証可能な課題と創造的な研究の進展が分岐する可能性を示す。
あなたへの影響
AI研究自動化を検討する日本の開発チームは、ベンチマーク結果だけで判断せず、仮説変更や失敗からの再設計を含むオープンエンドな評価を次の検証項目に加えるべきです。
推奨：オープンエンド研究とは、正解が決まっておらず仮説や評価方法自体を選ぶ研究を指します。