システム障害を止められないのはなぜ? 知っておきたい「認知のわな」エンジニアリングの心理学【前編】

システム障害が大惨事につながってしまう原因はどこにあるのか。システムの安全性を確保したいのであれば、人間の心理についても知ることが重要だ。認知バイアスのメカニズムを理解しよう。

2024年06月10日 05時00分 公開
[Junade AliTechTarget]

関連キーワード

リスクマネジメント


 システムに起因する問題が、ビジネスや日常生活に直接的な影響をもたらすことがある。2024年3月には、ファストフードチェーンMcDonald'sやスーパーマーケットTescoの決済システムに障害が発生し、キャッシュレスでの支払いが一時的にできない事態に陥った。

 システムの安全性確保の取り組みが重要であることは、システム構築に関わる誰もが認識し、何らかの対策を打っているはずだ。では、なぜシステム障害による大惨事は起きてしまうのか。

 大惨事の原因を突き止めるには、「人はリスクを含む意思決定において必ずしも合理的な判断を下せるわけではない」ということを理解する必要がある。どういうことなのか。人間がリスク評価や意思決定をする際の傾向と、そこに潜む認知バイアスについて解説する。

システム障害による大惨事を招く「認知のわな」とは

 1979年、心理学者のダニエル・カーネマン氏とエイモス・トベルスキー氏は論文「Prospect theory: An analysis of decision under risk」で、「プロスペクト理論」を提言した。この研究は高く評価され、カーネマン氏は2002年にノーベル経済学賞を受賞している。

 プロスペクト理論とは、端的に言えば「人間は何かを得た喜びよりも、何かを失った際の痛みをはるかに大きく感じる」というものだ。例えば、1000ドルを失う苦痛は、2000ドル以上を獲得した喜びでしか相殺されなかったことを示す実験結果がある。

 つまり人間は、損失を回避するために非合理的な行動や見合わないリスクを取る傾向にある。こう説明するのは、テキサス大学オースティン校(University of Texas at Austin)の教授ロバート・プレンティス氏だ。

 メンタリストでもあるダレン・ブラウン氏は、Netflixのリアリティー番組「The Push」でプロスペクト理論を見事に実証している。番組の出演者は、最初はささいな非倫理的行為に関与するが、行為が露呈することによる損失を恐れて、意図的に事実を隠蔽(いんぺい)する。状況は段階的に悪化し、最終的には犯罪に手を染めてしまう過程を描いている。

 他にも、人間の意思決定や行動に影響を与える心理的要因として、以下のようなものがある。

  • 正常性バイアス
    • 非常事態に直面しても正常の範囲内として捉え、現実のリスクや脅威を過小評価する心理を指す。
    • 1977年にスペインのテネリフェ空港で起きたジャンボ機衝突事故では、乗客は惨事に直面しても正常性バイアスの影響からすぐに避難せず、被害が拡大した。
  • 傍観者効果
    • 問題が発生していたとしても、その場に自分以外の人がいる場合、個人の介入を避ける傾向を指す。
  • 報復リスク
    • 個人による行動や意思決定が、他者からの報復や反撃を招く可能性がある場合、行動の抑制や情報共有のちゅうちょなどの要因となる。
    • コンサルティング企業Engpraxの調査によると、職場で不正を告発したソフトウェアエンジニアのうち75%がその後、報復を受けたと回答した。不正を報告しなかった理由のトップは「上司からの報復が怖いから」(59%)、2番目は「同僚からの報復が怖いから」(44%)だった。この調査は2023年10月、ソフトウェアエンジニア280人を対象に実施した。

 後編は、このような認知バイアスを解消するための対策を考える。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

ITmedia マーケティング新着記事

news192.jpg

インテージ、「YouTube Select」「YouTube Shorts」における態度変容調査を提供開始
広告効果測定サービス「Brand Impact Scope」をバージョンアップし、サンプルサイズと計...

news078.jpg

マーケティングツール活用にまつわる3つの課題とは? ――インキュデータ調査
マーケティングツールを利用する企業は多いものの、利用企業はツールをうまく使いこなせ...

news205.png

広告の「No.1」表記の実態 購入動機の約60%に影響
GMOリサーチ&AIは広告の「No.1」表記に対する消費者の捉え方を把握するために調査を実施...