意思決定者としてのAI【後編】
「AI」による意思決定、課題は働き手からの信頼
ビジネスプロセスの意思決定にAI技術を活用することについて、働き手は警戒している。どうすれば信頼を得ることができるか。専門家が解説する。
「現在導入されている最新のAI(人工知能)ツールは、正確性または説明可能性もしくはその両方の点においてまだ理想には達していない。AI技術がうまく機能したとしても、特定のケースでは正確性が低下する恐れがある」。米サンフランシスコでRE-WORK X(Re・Work)が開催したカンファレンス「Applied AI Summit San Francisco」において、AI技術企業Afreshの共同設立者兼最高技術責任者(CTO)を務めるウォロディミル・クレショフ氏は聴衆に警告した。
AI技術による自動化の対象として、どのビジネスプロセスに関する意思決定が適切かは、現在のAIツールの機能だけでなく、企業の能力にも左右される。企業はリスク許容度やAIのトレーニング、テストの厳しい条件に対処しなくてはならない。
拡張分析システムを開発するMarvelous共同設立者兼CEOのダニエル・デイブレル氏は「機械に食べさせるしかないと思える平たいパンを作るようなプロセスがある」と話した。AIエンジンの質が低下しても、そのプロセスはわずかでもパンを作り出す。だが、飛行機や車の運転ではそうはいかないと同氏は言う。
リスクの低い意思決定のワークフローであっても、時折人が調査して新たな問題を特定し、意思決定エンジンに送られるデータを整理する必要がある。「データ収集の初期段階や意思決定プロセスの後半に人手が必要になる可能性がある」とデイブレル氏は話す。
AIによる意思決定の正確性と説明可能性
アルゴリズムの正確性が低下するほど、高い説明可能性が必要になる。AIアルゴリズムの正確性が99.9%であれば、従業員が説明可能性について問い掛けることはあまりないとクレショフ氏は言う。だが正確性が90%しかなければ、説明を求める可能性は高くなる。正確性にはばらつきもある。「特定の母集団では正確性が低下する可能性がある」とクレショフ氏は話す。
特定の種類の母集団やトランザクション用のトレーニングデータが不足していると、こうした正確性のばらつきが生まれることがある。その場合は、不足しているトレーニングデータを補う方法をデータサイエンティストが見つける必要がある。
企業はAIエンジンによるレコメンデーションをユーザーに提案する場合、そのような決定を下した理由の説明を添えることを重視する必要がある。そのためにはアプリケーションのユーザーインタフェース(UI)を改善して、そのアプリケーション内でユーザーが説明を参照できるようにする必要がある。そうすれば、そのツールがどのような場面に優れているかについて、信頼を築くのに役立つだろう。ユーザーは、アルゴリズムが提案する意思決定のレコメンデーションを受け入れるか、他のデータを探すかを決めるのに必要な文脈が得られる。
Kaleido Insightsの共同設立者兼インダストリーアナリストを務めるジェシカ・グループマン氏は「説明可能性はデータサイエンスの課題と見なされることが多い。だが広くいえば、ユーザーエクスペリエンス(UX)の課題でもある」と強調する。
AIによる意思決定を評価するための優れた指標の開発
意思決定にAI技術を利用することが業績にどのような影響をもたらすかを把握することこそが重要だ。「企業は明確に定義した一連のメトリクスを用意する必要がある」と、Afreshのクレショフ氏は話す。そのためには、さまざまな部門の協力を得て、自社の目標を反映するメトリクス(指標)を見極める必要がある。
Marvelousのデイブレル氏も、人の関与が重要であることに同意する。AI技術がもたらす結果に同意するかしないかを決めるプロセスには、人が加わるべきだというのだ。その上で、機械の意思決定と人の意思決定の違いを計測し、その結果を用いてアルゴリズムを改善しなければならない。
「そうすることで、ワークフローにAI技術を取り入れやすくなる。AIエンジンが人の作業に取って代わるものではなく、人の仕事を助けるものだと理解することができる」(デイブレル氏)
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド:効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは? -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合/分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
2
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
3
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
4
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
5
なぜ「Gemini 4 Argon」は出遅れたのか? Googleが狙う“逆転のシナリオ”
-
6
「有線LAN環境」に関するアンケート
-
7
データセンター事業者が「脱VMware」をした“例のライセンス問題”じゃない理由
-
8
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
9
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
10
「テザリング依存」に潜む落とし穴 “遅いVPN”を解消するネット構築術
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か? 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
7
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
8
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
9
HDDを使わない「SSDオンリー」が無謀なのはなぜ?
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー