「コンピュータは絶対正しい」という“勘違い”がAI活用を失敗させる：「不確実性」に備えることが成功の鍵

人工知能（AI）技術に関する誇大広告が世にあふれている。AI技術の真の可能性を生かしたいのなら、できること、できないことを正しく理解することが大切だ。

[Ed Burns，TechTarget]

AIを正しく生かすには正しい知識が必要

　2011年、IBMの人工知能（AI）システム「IBM Watson」がクイズ番組「Jeopardy!」（ジョパディ！）に出場して人間と対決した。同社のチームはその際、テレビ放送で画面下方のスペースを確保し、Watsonが回答のさまざまな可能性に対して重み付けをして、確率を割り当てる様子をリアルタイムで表示しようとした。

　Watsonは単純に正しい答えを検索するのではなく、人間と同じような審議のプロセスを実行していることを人々に知ってほしかった――。当時Watsonの開発担当グループの責任者を務めていたデイビッド・フェルッチ氏は、上記の主張をした理由をこう明かす。

　実のところWatsonや他のAIシステムは、厳密にはそうしたプロセスを実行しているわけではない。AIシステムは既存のシステムとは異なり、単にコマンドを受け入れて対応するアクションを実行するわけでもない。例えばあるAIシステムは、まずデータをふるい分け、多くの変数同士の相関を探す。次に画像内のさまざまなオブジェクトを識別するといった処理から、設問に対する正解となる確率の高い回答を返す。

　「人は総じて『コンピュータが導き出した答えは必ず正しいもので、そうでなければそのコンピュータは壊れている』と考える」とフェルッチ氏は話す。だがAIシステムの回答は正解の可能性もあるし、誤答である可能性もある。

　産業界全体で、AIシステムを自社に導入しようとする流れが起こっている。こうした中、意思決定プロセスでのAIシステムの利用方法について、そろそろ根本的に再考する必要があるのではないか。

　フェルッチ氏は現在、投資会社Bridgewater Associatesのシニアテクノロジストを務める傍ら、AIシステムベンダーElemental Cognitionの創業者兼CEO（最高経営責任者）としても活動している。同氏は2017年6月下旬、メディア企業のO'Reilly MediaとIntelのAI技術部門が共同で開催したカンファレンス「O'Reilly Artificial Intelligence Conference」に参加し、メディアとの質疑応答の機会を設けた。

併せて読みたいお薦め記事

AIの“誤解”を拭い去る

• 現在の人工知能（AI）は誇大広告？　真の知能を獲得するまでの道筋とは
• 「AIに職場を乗っ取られる」は大間違い　専門家が語るAI活用の未来とは

実用化進むAI技術

• 徹底比較：Amazon、Azure、Google、IBMの機械学習機能　現時点の勝者はいるか
• 「Excel」「PowerPoint」にAI追加、おせっかいではなく本当に使われる機能は？
• Googleの「Tensor Processing Unit（TPU）」は　機械学習処理の救世主か

AIの不確実性を受け入れる準備は整っているか

　最大の問題は、あなたの会社が現状のAI技術に付随する「不確実性」に向き合う準備が整っているかどうかだ。