AIの次の鍵は「メンタル共有モデル」：人間に劣る危機対処能力

人間の危機対処能力はAIをはるかに上回る。AIは異常の説明や解決能力を持たない。AIが臨機応変な対応力を獲得する鍵はメンタル共有モデルにあるという。

[Fred Werner，Computer Weekly]

　AIは生活のさまざまな場面で使われるようになった。だが信頼性に対する懸念もある。危機に際してはAIよりも人間の直感の方がはるかに上回る。特に経験と専門知識が求められる分野で働く人間の信頼性は明らかに高い。

関連記事

• EUのAI規制法案、制裁金はEU最高レベル
• 人はAIを信頼できるか？
• データからバイアスを取り除く「責任あるAI」（Responsible AI）の取り組み
• Uberらの仕事割り当てアルゴリズムは公平・適切か
• 今こそAIの規制を考えるべきとき

　米カリフォルニア大学バークレー校のトッド・ラポルテ氏、ジーン・ロクリン氏、カーリーン・ロバート氏の研究によって、航空管制官や原子力発電所のオペレーターなど、特定の専門家は危険な状況でも信頼性が高いことが分かっている。

　米オレゴン州立大学のトーマス・G・ディータリッヒ氏（名誉教授、インテリジェントシステム研究のディレクター）によると、こうした専門家は間違いを見つけてそれを封じ込め、その状況から回復する臨機応変な問題解決能力を育てているという。

　それは「失敗を先取り」するためだ。専門家は異常やニアミスを絶えず監視し、それをシステムに障害が起きる兆候として扱っている。専門家ははるかに高いレベルで「状況を認識」し、専門知識に従うタイミングを理解している。

　信頼性が高い完全自律型AIを構築する方法、つまり人間の組織とAIを連携させる方法を検討するときは、こうした原則が役に立つ。AIは複数ソースのデータを統合し、リスクを継続的に再評価する能力によって状況認識を高めることができる。

　ただし、現状のAIは状況認識には優れているが異常の検出効果が低く、異常の説明や臨機応変な解決策の作成はできない。

　AIがニアミスを確実に特定して説明できるようになるにはまだ研究が必要だ。既知の障害を診断できるシステムはある。だが、未知の障害はどうか。臨機応変な問題解決にAIが関与するとはどういうことか。

メンタル共有モデル

　AIと人間が協力する場合、メンタル共有モデルが必要だ。AIは人間に無関係な情報をぶつけてはならない。人間の行動を理解して予測できなければならない。

　異常を説明する、つまり異常に自発的に対処する一つの方法は舞台芸術に触れることかもしれない。オーストラリアのモナシュ大学と英国のゴールドスミス・カレッジは研究者とミュージシャンが協力して、AIとミュージシャンによる即興セッションが可能かどうかを探る研究に着手した。

　ミュージシャン同士が自由な流れの中で自発的に即興で行うセッションは、創造的で芸術的なコラボレーションの最高の表現だと考えられている。ジャムセッションには音楽の能力だけでなく、バンド仲間との信頼、直感、共感も求められる。

　この研究における最初のシステムは演奏をそのまま繰り返す。2番目のシステムは人間のミュージシャンは関係せず、楽譜通りに自律的に演奏する。3番目のシステムも完全な自律性を備えている。だが、ミュージシャンが演奏した音符を数える。最も複雑な4番目のシステムは、ミュージシャンの音楽の数学モデルを構築する。このシステムはミュージシャンの演奏を注意深く聞き取り、音符とそのパターンの統計モデルを構築して和音のシーケンスも格納する。

　ディータリッヒ氏は、人間とAIのジャムセッション以外にも信頼性を高め、信頼性を数学的に「保証」する有望なアプローチを2つ確認した。

　一つはAIの動作を予測するため分位点回帰を計算できる能力モデルで、追加の訂正を行うために「等角予測」手法を使う。このアプローチは大量のデータを必要とし、誤った解釈を行いやすい。

　もう一つはオープンカテゴリー検出を通じて「未知の未知数」を自律型のシステムに処理させる方法だ。ヨーロッパの道路でトレーニングされた自動運転車をオーストラリアで走らせたら、カンガルーに対処できない恐れがある。ラベルが付けられていないデータを使う異常検知ツールは、AIが未知の問題に対応するのに役立つ可能性がある。