注目★★★★★Lobsters
AI絶滅論に警鐘、恐怖を広げる専門家の責任
30秒で把握
- 1著者がAIによる全人類絶滅確率10%超の主張を批判
- 2Coxonの根拠は重要インフラ攻撃や絶滅級生物兵器への外挿
- 3AIの物理行動には人間が設計・管理するシステムが必要
要約
著者は、AIが今後10年で「全人類を殺す」確率が10%超だとする主張を、根拠に見合わない恐怖の拡散だと批判した。元AnthropicのJacob Coxonが主張し、AnthropicのAlignment Science leadであるEvan Hubingerも同意した。根拠として挙がる重要インフラへのハッキングや絶滅級の生物兵器は、将来への大まかな外挿にとどまり、Coxonは重要インフラや生物兵器、絶滅を専門としていない。著者は、AIが物理世界で行動するには人間が設計・管理する物理システムが必要で、知能だけでは現実世界の制約を免れないと論じた。専門家は公衆の信頼を利用して恐怖を広げず、極端な主張には釣り合う証拠を示す責任がある。
あなたへの影響
AIを導入・評価する日本のエンジニアは、極端な絶滅リスクの主張を確率だけで受け入れず、物理的な実現経路と証拠を確認すべきです。
推奨：LLMや重要インフラなど複数領域にまたがる主張ほど、各領域の専門家による検証が必要になる可能性があります。