エンジニアリングの心理学【後編】
「会計システムの欠陥」で900人が無実の罪に なぜ悲劇は止められなかった?
会計システムに関連したえん罪事件は英国全土に議論を巻き起こした。この事件の根底にはシステムの欠陥と人間の認知バイアスがある。このような悲劇を招いてしまった原因とは何か。対策と共に紹介する。
2024年に英国の民間放送局ITVが放映したドラマ「Mr Bates vs The Post Office」は、システムの欠陥が原因となった、実際のえん罪事件を題材にしている。ドラマはシステムの信頼性や公正さについての議論を引き起こし、英国社会の関心を集めた。
事件の背景には、人間の心理的バイアスが密接に関与していたという。本稿は、悲劇を引き起こしてしまった人間心理を解説するとともに、システムの安全性を確保するために重要なポイントを探る。
なぜ事態は悪化してしまったのか
併せて読みたいお薦め記事
連載:エンジニアリングの心理学
システム障害はなぜ起きたのか
事件の概要は次の通りだ。1999年から2015年にかけて、英国郵便局の会計システムに欠陥が発生した。システムエラーが判明した際、郵便局の管理職らは問題を隠蔽(いんぺい)し、従業員に責任を転嫁した。問題を認めることで失われる信用と経済的損失を恐れたからだ。その結果、900人以上の従業員が横領のえん罪に追いやられた。
なぜ事態は悪い方向に向かってしまったのか。その原因を理解するためには「プロスペクト理論」を知る必要がある。これは、損失を回避するために非合理的な行動を取るという、人間の認知バイアスを説明するものだ。
例えば、嫌な仕事でも一度引き受けてしまうと、途中で止めるのは難しいと感じるだろう。損失回避の心理から、誤った行為でも中断しない傾向にある。たとえその結果、自身や他者にとってはるかに悪い影響をもたらすとしてもだ。
システムの安全性はどう確保すればよい?
このような人間心理を踏まえて、システムの安全性を確保するためのアプローチ「レジリエンス工学」について考える必要がある。レジリエンス工学では、コンピュータをそれ単体で完結するシステムとしてではなく、人間とシステムが協力して安全を確保する社会的なシステムとして捉える。
例えば手術室では、技術そのものだけではなく医師や看護師、その他の医療スタッフも安全確保の役割を担う。航空機のコックピットでは、コンピュータに異常が発生した際はパイロットが介入し、迅速な判断を下すことで人命を守る役割を果たす。
ソフトウェア開発の安全性確保においても同様に、人間の介入が必要だ。問題に気付いたらすぐに声を上げる文化を根付かせるには、技術者の心理的安全性を確保することが極めて重要となる。
技術者はこれらの認知バイアスを理解することで、非論理的な行動をできる限り避け、リスクを抑止するためのより適切な行動を取れるようになる。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
4
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
5
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
6
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
7
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
8
“アジャイルの壁”に挑むオリックス生命がIBMの開発管理ツールを選んだ理由
-
9
「Chrome」「Edge」「Firefox」のメモリ使用量はどれだけ違う? 測定してみた
-
10
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー