注目★★★★★Hacker News
複雑システムはなぜ失敗するのか——1998年の古典論文から学ぶ多層防御と根本原因の幻想
30秒で把握
- 1複雑システムの失敗は単一の根本原因ではなく、複数の小さな障害の組み合わせで発生する
- 2多層防御（技術・人材・組織・規制）があってこそシステムは動作し、完全な安全化は経済的・技術的に不可能
- 3事後分析の後知恵バイアスがオペレータを不当に責め、実際の運用と生産圧力の現実を見落としている
要約
1998年に発表された論文「How Complex Systems Fail」は、航空・医療・電力など複雑なシステムの失敗メカニズムを分析している。すべての複雑システムは本質的に危険であり、単一の根本原因ではなく複数の小さな障害が組み合わさって初めて大事故につながると論じた。システムは多層の技術的・組織的・人的防御で守られており、オペレータは生産と安全防止のバランスを常に取っており、事後分析の後知恵バイアスが真の原因究明を妨げていると指摘した。
あなたへの影響
医療・製造・インフラ運用に携わるチームが障害報告書を書くとき。
推奨：この論文の「複数原因の連鎖」「後知恵バイアス」「オペレータの役割の二面性」という3つの視点を適用することで、より正確な現象理解と再発防止策が得られる可能性がある。