意思決定者としてのAI【後編】
「AI」による意思決定、課題は働き手からの信頼
ビジネスプロセスの意思決定にAI技術を活用することについて、働き手は警戒している。どうすれば信頼を得ることができるか。専門家が解説する。
「現在導入されている最新のAI（人工知能）ツールは、正確性または説明可能性もしくはその両方の点においてまだ理想には達していない。AI技術がうまく機能したとしても、特定のケースでは正確性が低下する恐れがある」。米サンフランシスコでRE-WORK X（Re・Work）が開催したカンファレンス「Applied AI Summit San Francisco」において、AI技術企業Afreshの共同設立者兼最高技術責任者（CTO）を務めるウォロディミル・クレショフ氏は聴衆に警告した。
AI技術による自動化の対象として、どのビジネスプロセスに関する意思決定が適切かは、現在のAIツールの機能だけでなく、企業の能力にも左右される。企業はリスク許容度やAIのトレーニング、テストの厳しい条件に対処しなくてはならない。
拡張分析システムを開発するMarvelous共同設立者兼CEOのダニエル・デイブレル氏は「機械に食べさせるしかないと思える平たいパンを作るようなプロセスがある」と話した。AIエンジンの質が低下しても、そのプロセスはわずかでもパンを作り出す。だが、飛行機や車の運転ではそうはいかないと同氏は言う。
リスクの低い意思決定のワークフローであっても、時折人が調査して新たな問題を特定し、意思決定エンジンに送られるデータを整理する必要がある。「データ収集の初期段階や意思決定プロセスの後半に人手が必要になる可能性がある」とデイブレル氏は話す。
AIによる意思決定の正確性と説明可能性
アルゴリズムの正確性が低下するほど、高い説明可能性が必要になる。AIアルゴリズムの正確性が99.9％であれば、従業員が説明可能性について問い掛けることはあまりないとクレショフ氏は言う。だが正確性が90％しかなければ、説明を求める可能性は高くなる。正確性にはばらつきもある。「特定の母集団では正確性が低下する可能性がある」とクレショフ氏は話す。
特定の種類の母集団やトランザクション用のトレーニングデータが不足していると、こうした正確性のばらつきが生まれることがある。その場合は、不足しているトレーニングデータを補う方法をデータサイエンティストが見つける必要がある。
企業はAIエンジンによるレコメンデーションをユーザーに提案する場合、そのような決定を下した理由の説明を添えることを重視する必要がある。そのためにはアプリケーションのユーザーインタフェース（UI）を改善して、そのアプリケーション内でユーザーが説明を参照できるようにする必要がある。そうすれば、そのツールがどのような場面に優れているかについて、信頼を築くのに役立つだろう。ユーザーは、アルゴリズムが提案する意思決定のレコメンデーションを受け入れるか、他のデータを探すかを決めるのに必要な文脈が得られる。
Kaleido Insightsの共同設立者兼インダストリーアナリストを務めるジェシカ・グループマン氏は「説明可能性はデータサイエンスの課題と見なされることが多い。だが広くいえば、ユーザーエクスペリエンス（UX）の課題でもある」と強調する。
AIによる意思決定を評価するための優れた指標の開発
意思決定にAI技術を利用することが業績にどのような影響をもたらすかを把握することこそが重要だ。「企業は明確に定義した一連のメトリクスを用意する必要がある」と、Afreshのクレショフ氏は話す。そのためには、さまざまな部門の協力を得て、自社の目標を反映するメトリクス（指標）を見極める必要がある。
Marvelousのデイブレル氏も、人の関与が重要であることに同意する。AI技術がもたらす結果に同意するかしないかを決めるプロセスには、人が加わるべきだというのだ。その上で、機械の意思決定と人の意思決定の違いを計測し、その結果を用いてアルゴリズムを改善しなければならない。
「そうすることで、ワークフローにAI技術を取り入れやすくなる。AIエンジンが人の作業に取って代わるものではなく、人の仕事を助けるものだと理解することができる」（デイブレル氏）
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握 -
製品資料
[株式会社マクニカ] 「脆弱性総まとめ」解説 被害事例から考える必須の対策ポイント -
製品資料
[Splunk Services Japan合同会社] サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには -
製品資料
[株式会社うるる] 「入札市場」完全ガイドブック：メリットから資格取得のポイントまで -
市場調査・トレンド
[株式会社うるる] はじめての「自治体／官公庁入札」 必要な知識がすぐに学べる入門ガイド
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
2
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
3
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
4
「企業内サーバ環境の利用実態」に関するアンケート
-
5
AI基盤は本当に「オンプレ回帰」する？ Broadcomの言い分と企業の本音
-
6
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
-
7
「攻撃側にナイフ、防御側にパン」 OpenAIの10億ドル支援に潜む危うさ
-
8
「世界一給与にハングリー」な日本のエンジニアが“雇用の安定”を求める理由
-
9
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
-
10
「Linuxサーバの長期運用とRed Hat Enterprise Linux」に関するアンケート
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー