「不確実性」に備えることが成功の鍵

「コンピュータは絶対正しい」という“勘違い”がAI活用を失敗させる

人工知能（AI）技術に関する誇大広告が世にあふれている。AI技術の真の可能性を生かしたいのなら、できること、できないことを正しく理解することが大切だ。

公開 2017年08月29日 05時03分

更新 2017年08月28日 07時38分

著者

Ed Burns

[TechTarget]

印刷する

AIを正しく生かすには正しい知識が必要

　2011年、IBMの人工知能（AI）システム「IBM Watson」がクイズ番組「Jeopardy!」（ジョパディ！）に出場して人間と対決した。同社のチームはその際、テレビ放送で画面下方のスペースを確保し、Watsonが回答のさまざまな可能性に対して重み付けをして、確率を割り当てる様子をリアルタイムで表示しようとした。

　Watsonは単純に正しい答えを検索するのではなく、人間と同じような審議のプロセスを実行していることを人々に知ってほしかった――。当時Watsonの開発担当グループの責任者を務めていたデイビッド・フェルッチ氏は、上記の主張をした理由をこう明かす。

　実のところWatsonや他のAIシステムは、厳密にはそうしたプロセスを実行しているわけではない。AIシステムは既存のシステムとは異なり、単にコマンドを受け入れて対応するアクションを実行するわけでもない。例えばあるAIシステムは、まずデータをふるい分け、多くの変数同士の相関を探す。次に画像内のさまざまなオブジェクトを識別するといった処理から、設問に対する正解となる確率の高い回答を返す。

　「人は総じて『コンピュータが導き出した答えは必ず正しいもので、そうでなければそのコンピュータは壊れている』と考える」とフェルッチ氏は話す。だがAIシステムの回答は正解の可能性もあるし、誤答である可能性もある。

　産業界全体で、AIシステムを自社に導入しようとする流れが起こっている。こうした中、意思決定プロセスでのAIシステムの利用方法について、そろそろ根本的に再考する必要があるのではないか。

　フェルッチ氏は現在、投資会社Bridgewater Associatesのシニアテクノロジストを務める傍ら、AIシステムベンダーElemental Cognitionの創業者兼CEO（最高経営責任者）としても活動している。同氏は2017年6月下旬、メディア企業のO'Reilly MediaとIntelのAI技術部門が共同で開催したカンファレンス「O'Reilly Artificial Intelligence Conference」に参加し、メディアとの質疑応答の機会を設けた。

併せて読みたいお薦め記事

AIの“誤解”を拭い去る

実用化進むAI技術

AIの不確実性を受け入れる準備は整っているか

　最大の問題は、あなたの会社が現状のAI技術に付随する「不確実性」に向き合う準備が整っているかどうかだ。

　今日の世界では、ビジネスユーザーの大半、そしてコンピュータのユーザーは総じて「コンピュータは質問に対して明確な答えを返すものだ」と考えている。ただしシステムが収集したデータが不完全な場合もあるし、誤った想定に基づいた分析を実行する場合もある。AI技術を受け入れるのなら、企業は現時点での予測以上に、不確実性に対処することになるだろう。

　AIシステムベンダーNara LogicsのCEOであるジャナ・エッガース氏は「われわれは皆、自組織にはAI技術の不確実性に対処する準備が整っているかどうか、それを学習する能力が備わっているかどうかを確かめなければならない時期に来ている」と主張する。エッガース氏が取り掛かろうとしているのは、組織内文化の転換だ。「今までとは違うことを恐れずに試し、その行動に対して、現状よりも確率的な見方を強めることが必要になる」（同氏）

失敗は問題ではない

　エッガース氏によると、現在の社内文化に必要な最大の変化は、失敗や誤った決断を受け入れることだ。実際には経営者の世界でも、技術者の世界でも、多くの人がそうありたいと願っているものの、いざ実践するとなると思うようにいかない。

　例えばある企業が、顧客からの問い合わせに自然言語で応答するAI技術ベースの顧客サービス用チャットbotをテストしており、そのbotの稼働時間のうち90％は想定通り役立っているとする。だが残りの時間の応答は意味不明だったり、的外れだったりした場合、この会社はプロジェクトを中止する可能性がある。

　エラーが発生したからといって、システム自体がうまく動作しなかったわけではない。応答の精度を上げるためには多少の微調整が必要になり得る、というだけのことだ。

　不確実性に関するこうした誤解の例は、前回の米国大統領選でもみられた。圧倒的大多数の予測モデルは、ヒラリー・クリントン氏がドナルド・トランプ氏を破って当選すると予測していた。中には「クリントン氏勝利の可能性は90％超」との推測もあったほどだ。

　クリントン氏が選挙戦に敗れた際、予測モデルが失敗だったと考える人が多数存在した。実際には、ほとんどの予測モデルが、状況に不確実性が含まれていることを認め、トランプ勝利の可能性にも確率を割り当てていたのだ。基本的にはどの予測モデルも、可能性はあると公言していた。

　この状況は、予測モデルの世界では比較的単純な演習だった。AIシステムの場合、全てが少し複雑になるだけだ。機械学習の一種である「深層学習」のような、より“不透明”な手法と、大規模なデータセットを基に予測モデルを作成することになる。多くの場合、予測モデルが「有意だ」と認識した関係はあまりに希薄で、人間はほとんど気付かない。このような状況では、不確実性だけが増大する。

　企業幹部は、AIシステムでは不確実性も必要な要素であることを理解しておかなければならない。今回のカンファレンスに登壇したGoogleの研究本部長、ピーター・ノーヴィグ氏は「優れたAIシステムでは、不確実性をモデル全体に広げることを目指している」と述べる。

　ノーヴィグ氏は一例として、発話を文字に書き起こすシステム（Speech To Text）を取り上げ「元の音声にノイズが含まれていると、録音の内容を完全に正確に文字にすることができない場合がある」と説明。これは失敗ではなく「単純にSpeech To Textについて、より決定的な手法が見つかっていないだけだ」と付け加える。企業は、このようなはっきりしない状態を受け入れるかどうか、決断を下さなければならない。

　ソフトウェア開発は良い実例だとノーヴィグ氏は指摘する。コード例とそれに関連するバグのデータベースを所有している企業は少なくない。こうしたデータベースを活用すれば、プログラマーがコードを1行書くとそれをレビューして、起こりそうなバグについて警告してくれるAIエンジンが実現する可能性がある。これはGoogleの検索エンジンが備える検索候補表示ツール（検索文字列に多少の誤植が含まれていた場合に、訂正後の文字列を提示する）と似た動作だ。

　ツールの推測は時に間違っている可能性がある。だがプログラマーはこの場合でも「必ずしも正しくない提案」を排除することはない。修正できるからだ。

　「企業がAI技術の不確実性を受け入れることは、生産性の向上につながる。なぜなら企業が機械に任せる業務の割合は今後増える一方だからだ」とフェルッチ氏は主張する。ただし、この移行には時間がかかる可能性がある。「人間と機械との関係を考えるとき、これは構築すべき正しい関係だと考える。ただし不確実性を克服するのは難しい」（同氏）

印刷する