「不確実性」に備えることが成功の鍵
「コンピュータは絶対正しい」という“勘違い”がAI活用を失敗させる
人工知能（AI）技術に関する誇大広告が世にあふれている。AI技術の真の可能性を生かしたいのなら、できること、できないことを正しく理解することが大切だ。
AIを正しく生かすには正しい知識が必要
2011年、IBMの人工知能（AI）システム「IBM Watson」がクイズ番組「Jeopardy!」（ジョパディ！）に出場して人間と対決した。同社のチームはその際、テレビ放送で画面下方のスペースを確保し、Watsonが回答のさまざまな可能性に対して重み付けをして、確率を割り当てる様子をリアルタイムで表示しようとした。
Watsonは単純に正しい答えを検索するのではなく、人間と同じような審議のプロセスを実行していることを人々に知ってほしかった――。当時Watsonの開発担当グループの責任者を務めていたデイビッド・フェルッチ氏は、上記の主張をした理由をこう明かす。
実のところWatsonや他のAIシステムは、厳密にはそうしたプロセスを実行しているわけではない。AIシステムは既存のシステムとは異なり、単にコマンドを受け入れて対応するアクションを実行するわけでもない。例えばあるAIシステムは、まずデータをふるい分け、多くの変数同士の相関を探す。次に画像内のさまざまなオブジェクトを識別するといった処理から、設問に対する正解となる確率の高い回答を返す。
「人は総じて『コンピュータが導き出した答えは必ず正しいもので、そうでなければそのコンピュータは壊れている』と考える」とフェルッチ氏は話す。だがAIシステムの回答は正解の可能性もあるし、誤答である可能性もある。
産業界全体で、AIシステムを自社に導入しようとする流れが起こっている。こうした中、意思決定プロセスでのAIシステムの利用方法について、そろそろ根本的に再考する必要があるのではないか。
フェルッチ氏は現在、投資会社Bridgewater Associatesのシニアテクノロジストを務める傍ら、AIシステムベンダーElemental Cognitionの創業者兼CEO（最高経営責任者）としても活動している。同氏は2017年6月下旬、メディア企業のO'Reilly MediaとIntelのAI技術部門が共同で開催したカンファレンス「O'Reilly Artificial Intelligence Conference」に参加し、メディアとの質疑応答の機会を設けた。
AIの不確実性を受け入れる準備は整っているか
最大の問題は、あなたの会社が現状のAI技術に付随する「不確実性」に向き合う準備が整っているかどうかだ。
今日の世界では、ビジネスユーザーの大半、そしてコンピュータのユーザーは総じて「コンピュータは質問に対して明確な答えを返すものだ」と考えている。ただしシステムが収集したデータが不完全な場合もあるし、誤った想定に基づいた分析を実行する場合もある。AI技術を受け入れるのなら、企業は現時点での予測以上に、不確実性に対処することになるだろう。
AIシステムベンダーNara LogicsのCEOであるジャナ・エッガース氏は「われわれは皆、自組織にはAI技術の不確実性に対処する準備が整っているかどうか、それを学習する能力が備わっているかどうかを確かめなければならない時期に来ている」と主張する。エッガース氏が取り掛かろうとしているのは、組織内文化の転換だ。「今までとは違うことを恐れずに試し、その行動に対して、現状よりも確率的な見方を強めることが必要になる」（同氏）
失敗は問題ではない
エッガース氏によると、現在の社内文化に必要な最大の変化は、失敗や誤った決断を受け入れることだ。実際には経営者の世界でも、技術者の世界でも、多くの人がそうありたいと願っているものの、いざ実践するとなると思うようにいかない。
例えばある企業が、顧客からの問い合わせに自然言語で応答するAI技術ベースの顧客サービス用チャットbotをテストしており、そのbotの稼働時間のうち90％は想定通り役立っているとする。だが残りの時間の応答は意味不明だったり、的外れだったりした場合、この会社はプロジェクトを中止する可能性がある。
エラーが発生したからといって、システム自体がうまく動作しなかったわけではない。応答の精度を上げるためには多少の微調整が必要になり得る、というだけのことだ。
不確実性に関するこうした誤解の例は、前回の米国大統領選でもみられた。圧倒的大多数の予測モデルは、ヒラリー・クリントン氏がドナルド・トランプ氏を破って当選すると予測していた。中には「クリントン氏勝利の可能性は90％超」との推測もあったほどだ。
クリントン氏が選挙戦に敗れた際、予測モデルが失敗だったと考える人が多数存在した。実際には、ほとんどの予測モデルが、状況に不確実性が含まれていることを認め、トランプ勝利の可能性にも確率を割り当てていたのだ。基本的にはどの予測モデルも、可能性はあると公言していた。
この状況は、予測モデルの世界では比較的単純な演習だった。AIシステムの場合、全てが少し複雑になるだけだ。機械学習の一種である「深層学習」のような、より“不透明”な手法と、大規模なデータセットを基に予測モデルを作成することになる。多くの場合、予測モデルが「有意だ」と認識した関係はあまりに希薄で、人間はほとんど気付かない。このような状況では、不確実性だけが増大する。
企業幹部は、AIシステムでは不確実性も必要な要素であることを理解しておかなければならない。今回のカンファレンスに登壇したGoogleの研究本部長、ピーター・ノーヴィグ氏は「優れたAIシステムでは、不確実性をモデル全体に広げることを目指している」と述べる。
ノーヴィグ氏は一例として、発話を文字に書き起こすシステム（Speech To Text）を取り上げ「元の音声にノイズが含まれていると、録音の内容を完全に正確に文字にすることができない場合がある」と説明。これは失敗ではなく「単純にSpeech To Textについて、より決定的な手法が見つかっていないだけだ」と付け加える。企業は、このようなはっきりしない状態を受け入れるかどうか、決断を下さなければならない。
ソフトウェア開発は良い実例だとノーヴィグ氏は指摘する。コード例とそれに関連するバグのデータベースを所有している企業は少なくない。こうしたデータベースを活用すれば、プログラマーがコードを1行書くとそれをレビューして、起こりそうなバグについて警告してくれるAIエンジンが実現する可能性がある。これはGoogleの検索エンジンが備える検索候補表示ツール（検索文字列に多少の誤植が含まれていた場合に、訂正後の文字列を提示する）と似た動作だ。
ツールの推測は時に間違っている可能性がある。だがプログラマーはこの場合でも「必ずしも正しくない提案」を排除することはない。修正できるからだ。
「企業がAI技術の不確実性を受け入れることは、生産性の向上につながる。なぜなら企業が機械に任せる業務の割合は今後増える一方だからだ」とフェルッチ氏は主張する。ただし、この移行には時間がかかる可能性がある。「人間と機械との関係を考えるとき、これは構築すべき正しい関係だと考える。ただし不確実性を克服するのは難しい」（同氏）
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？ -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
2
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
3
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
4
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
5
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
6
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
7
データセンター事業者が「脱VMware」をした“例のライセンス問題”じゃない理由
-
8
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
9
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
-
10
「有線LAN環境」に関するアンケート
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
8
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
9
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー