システム障害を止められないのはなぜ？ 知っておきたい「認知のわな」：エンジニアリングの心理学【前編】

システム障害が大惨事につながってしまう原因はどこにあるのか。システムの安全性を確保したいのであれば、人間の心理についても知ることが重要だ。認知バイアスのメカニズムを理解しよう。

[Junade Ali，TechTarget]

　システムに起因する問題が、ビジネスや日常生活に直接的な影響をもたらすことがある。2024年3月には、ファストフードチェーンMcDonald'sやスーパーマーケットTescoの決済システムに障害が発生し、キャッシュレスでの支払いが一時的にできない事態に陥った。

　システムの安全性確保の取り組みが重要であることは、システム構築に関わる誰もが認識し、何らかの対策を打っているはずだ。では、なぜシステム障害による大惨事は起きてしまうのか。

　大惨事の原因を突き止めるには、「人はリスクを含む意思決定において必ずしも合理的な判断を下せるわけではない」ということを理解する必要がある。どういうことなのか。人間がリスク評価や意思決定をする際の傾向と、そこに潜む認知バイアスについて解説する。

システム障害による大惨事を招く「認知のわな」とは

併せて読みたいお薦め記事

技術者の心理を理解する

• 「エンジニアがやる気をなくす」“4つの理由”
• セキュリティ担当者は「燃え尽き症候群」の一歩手前？　そのメカニズムを探る

　1979年、心理学者のダニエル・カーネマン氏とエイモス・トベルスキー氏は論文「Prospect theory: An analysis of decision under risk」で、「プロスペクト理論」を提言した。この研究は高く評価され、カーネマン氏は2002年にノーベル経済学賞を受賞している。

　プロスペクト理論とは、端的に言えば「人間は何かを得た喜びよりも、何かを失った際の痛みをはるかに大きく感じる」というものだ。例えば、1000ドルを失う苦痛は、2000ドル以上を獲得した喜びでしか相殺されなかったことを示す実験結果がある。

　つまり人間は、損失を回避するために非合理的な行動や見合わないリスクを取る傾向にある。こう説明するのは、テキサス大学オースティン校（University of Texas at Austin）の教授ロバート・プレンティス氏だ。

　メンタリストでもあるダレン・ブラウン氏は、Netflixのリアリティー番組「The Push」でプロスペクト理論を見事に実証している。番組の出演者は、最初はささいな非倫理的行為に関与するが、行為が露呈することによる損失を恐れて、意図的に事実を隠蔽（いんぺい）する。状況は段階的に悪化し、最終的には犯罪に手を染めてしまう過程を描いている。

　他にも、人間の意思決定や行動に影響を与える心理的要因として、以下のようなものがある。

• 正常性バイアス
  • 非常事態に直面しても正常の範囲内として捉え、現実のリスクや脅威を過小評価する心理を指す。
  • 1977年にスペインのテネリフェ空港で起きたジャンボ機衝突事故では、乗客は惨事に直面しても正常性バイアスの影響からすぐに避難せず、被害が拡大した。
• 傍観者効果
  • 問題が発生していたとしても、その場に自分以外の人がいる場合、個人の介入を避ける傾向を指す。
• 報復リスク
  • 個人による行動や意思決定が、他者からの報復や反撃を招く可能性がある場合、行動の抑制や情報共有のちゅうちょなどの要因となる。
  • コンサルティング企業Engpraxの調査によると、職場で不正を告発したソフトウェアエンジニアのうち75％がその後、報復を受けたと回答した。不正を報告しなかった理由のトップは「上司からの報復が怖いから」（59％）、2番目は「同僚からの報復が怖いから」（44％）だった。この調査は2023年10月、ソフトウェアエンジニア280人を対象に実施した。

---

　後編は、このような認知バイアスを解消するための対策を考える。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。