人間に劣る危機対処能力

AIの次の鍵は「メンタル共有モデル」

人間の危機対処能力はAIをはるかに上回る。AIは異常の説明や解決能力を持たない。AIが臨機応変な対応力を獲得する鍵はメンタル共有モデルにあるという。

公開 2021年08月17日 08時00分

更新 2021年10月21日 10時03分

著者

Fred Werner

[Computer Weekly]

印刷する連載新着通知を受け取る

　AIは生活のさまざまな場面で使われるようになった。だが信頼性に対する懸念もある。危機に際してはAIよりも人間の直感の方がはるかに上回る。特に経験と専門知識が求められる分野で働く人間の信頼性は明らかに高い。

　米カリフォルニア大学バークレー校のトッド・ラポルテ氏、ジーン・ロクリン氏、カーリーン・ロバート氏の研究によって、航空管制官や原子力発電所のオペレーターなど、特定の専門家は危険な状況でも信頼性が高いことが分かっている。

　米オレゴン州立大学のトーマス・G・ディータリッヒ氏（名誉教授、インテリジェントシステム研究のディレクター）によると、こうした専門家は間違いを見つけてそれを封じ込め、その状況から回復する臨機応変な問題解決能力を育てているという。

　それは「失敗を先取り」するためだ。専門家は異常やニアミスを絶えず監視し、それをシステムに障害が起きる兆候として扱っている。専門家ははるかに高いレベルで「状況を認識」し、専門知識に従うタイミングを理解している。

　信頼性が高い完全自律型AIを構築する方法、つまり人間の組織とAIを連携させる方法を検討するときは、こうした原則が役に立つ。AIは複数ソースのデータを統合し、リスクを継続的に再評価する能力によって状況認識を高めることができる。

　ただし、現状のAIは状況認識には優れているが異常の検出効果が低く、異常の説明や臨機応変な解決策の作成はできない。

　AIがニアミスを確実に特定して説明できるようになるにはまだ研究が必要だ。既知の障害を診断できるシステムはある。だが、未知の障害はどうか。臨機応変な問題解決にAIが関与するとはどういうことか。

メンタル共有モデル

　AIと人間が協力する場合、メンタル共有モデルが必要だ。AIは人間に無関係な情報をぶつけてはならない。人間の行動を理解して予測できなければならない。

　異常を説明する、つまり異常に自発的に対処する一つの方法は舞台芸術に触れることかもしれない。オーストラリアのモナシュ大学と英国のゴールドスミス・カレッジは研究者とミュージシャンが協力して、AIとミュージシャンによる即興セッションが可能かどうかを探る研究に着手した。

　ミュージシャン同士が自由な流れの中で自発的に即興で行うセッションは、創造的で芸術的なコラボレーションの最高の表現だと考えられている。ジャムセッションには音楽の能力だけでなく、バンド仲間との信頼、直感、共感も求められる。

　この研究における最初のシステムは演奏をそのまま繰り返す。2番目のシステムは人間のミュージシャンは関係せず、楽譜通りに自律的に演奏する。3番目のシステムも完全な自律性を備えている。だが、ミュージシャンが演奏した音符を数える。最も複雑な4番目のシステムは、ミュージシャンの音楽の数学モデルを構築する。このシステムはミュージシャンの演奏を注意深く聞き取り、音符とそのパターンの統計モデルを構築して和音のシーケンスも格納する。

　ディータリッヒ氏は、人間とAIのジャムセッション以外にも信頼性を高め、信頼性を数学的に「保証」する有望なアプローチを2つ確認した。

　一つはAIの動作を予測するため分位点回帰を計算できる能力モデルで、追加の訂正を行うために「等角予測」手法を使う。このアプローチは大量のデータを必要とし、誤った解釈を行いやすい。

　もう一つはオープンカテゴリー検出を通じて「未知の未知数」を自律型のシステムに処理させる方法だ。ヨーロッパの道路でトレーニングされた自動運転車をオーストラリアで走らせたら、カンガルーに対処できない恐れがある。ラベルが付けられていないデータを使う異常検知ツールは、AIが未知の問題に対応するのに役立つ可能性がある。

印刷する

Computer Weekly日本語版

連載新着通知を受け取る

この連載の記事をもっと見る

この記事の著者

Fred Werner

国際電気通信連合（International Telecommunication Union：ITU）の電気通信標準化局（Telecommunication Standardization Bureau：TSB）で戦略的エンゲージメント部門を統括。「SDGs」（持続可能な開発目標）実現に向けてAIの活用方法を議論する国際的イベント「AI for Good Global Summit」の立ち上げに貢献し、運営委員を務めた。