「会計システムの欠陥」で900人が無実の罪に なぜ悲劇は止められなかった？：エンジニアリングの心理学【後編】
会計システムに関連したえん罪事件は英国全土に議論を巻き起こした。この事件の根底にはシステムの欠陥と人間の認知バイアスがある。このような悲劇を招いてしまった原因とは何か。対策と共に紹介する。
2024年に英国の民間放送局ITVが放映したドラマ「Mr Bates vs The Post Office」は、システムの欠陥が原因となった、実際のえん罪事件を題材にしている。ドラマはシステムの信頼性や公正さについての議論を引き起こし、英国社会の関心を集めた。
事件の背景には、人間の心理的バイアスが密接に関与していたという。本稿は、悲劇を引き起こしてしまった人間心理を解説するとともに、システムの安全性を確保するために重要なポイントを探る。
なぜ事態は悪化してしまったのか
併せて読みたいお薦め記事
連載：エンジニアリングの心理学
システム障害はなぜ起きたのか
事件の概要は次の通りだ。1999年から2015年にかけて、英国郵便局の会計システムに欠陥が発生した。システムエラーが判明した際、郵便局の管理職らは問題を隠蔽（いんぺい）し、従業員に責任を転嫁した。問題を認めることで失われる信用と経済的損失を恐れたからだ。その結果、900人以上の従業員が横領のえん罪に追いやられた。
なぜ事態は悪い方向に向かってしまったのか。その原因を理解するためには「プロスペクト理論」を知る必要がある。これは、損失を回避するために非合理的な行動を取るという、人間の認知バイアスを説明するものだ。
例えば、嫌な仕事でも一度引き受けてしまうと、途中で止めるのは難しいと感じるだろう。損失回避の心理から、誤った行為でも中断しない傾向にある。たとえその結果、自身や他者にとってはるかに悪い影響をもたらすとしてもだ。
システムの安全性はどう確保すればよい？
このような人間心理を踏まえて、システムの安全性を確保するためのアプローチ「レジリエンス工学」について考える必要がある。レジリエンス工学では、コンピュータをそれ単体で完結するシステムとしてではなく、人間とシステムが協力して安全を確保する社会的なシステムとして捉える。
例えば手術室では、技術そのものだけではなく医師や看護師、その他の医療スタッフも安全確保の役割を担う。航空機のコックピットでは、コンピュータに異常が発生した際はパイロットが介入し、迅速な判断を下すことで人命を守る役割を果たす。
ソフトウェア開発の安全性確保においても同様に、人間の介入が必要だ。問題に気付いたらすぐに声を上げる文化を根付かせるには、技術者の心理的安全性を確保することが極めて重要となる。
技術者はこれらの認知バイアスを理解することで、非論理的な行動をできる限り避け、リスクを抑止するためのより適切な行動を取れるようになる。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.