意思決定者としてのAI【後編】

「AI」による意思決定、課題は働き手からの信頼

ビジネスプロセスの意思決定にAI技術を活用することについて、働き手は警戒している。どうすれば信頼を得ることができるか。専門家が解説する。

公開 2019年12月10日 05時01分

[TechTarget]

印刷する Googleで優先するソースとして追加

　「現在導入されている最新のAI（人工知能）ツールは、正確性または説明可能性もしくはその両方の点においてまだ理想には達していない。AI技術がうまく機能したとしても、特定のケースでは正確性が低下する恐れがある」。米サンフランシスコでRE-WORK X（Re・Work）が開催したカンファレンス「Applied AI Summit San Francisco」において、AI技術企業Afreshの共同設立者兼最高技術責任者（CTO）を務めるウォロディミル・クレショフ氏は聴衆に警告した。

　AI技術による自動化の対象として、どのビジネスプロセスに関する意思決定が適切かは、現在のAIツールの機能だけでなく、企業の能力にも左右される。企業はリスク許容度やAIのトレーニング、テストの厳しい条件に対処しなくてはならない。

併せて読みたいお薦め記事

AIのビジネス活用

AIの意思決定は信じられるか

　拡張分析システムを開発するMarvelous共同設立者兼CEOのダニエル・デイブレル氏は「機械に食べさせるしかないと思える平たいパンを作るようなプロセスがある」と話した。AIエンジンの質が低下しても、そのプロセスはわずかでもパンを作り出す。だが、飛行機や車の運転ではそうはいかないと同氏は言う。

　リスクの低い意思決定のワークフローであっても、時折人が調査して新たな問題を特定し、意思決定エンジンに送られるデータを整理する必要がある。「データ収集の初期段階や意思決定プロセスの後半に人手が必要になる可能性がある」とデイブレル氏は話す。

AIによる意思決定の正確性と説明可能性

　アルゴリズムの正確性が低下するほど、高い説明可能性が必要になる。AIアルゴリズムの正確性が99.9％であれば、従業員が説明可能性について問い掛けることはあまりないとクレショフ氏は言う。だが正確性が90％しかなければ、説明を求める可能性は高くなる。正確性にはばらつきもある。「特定の母集団では正確性が低下する可能性がある」とクレショフ氏は話す。

　特定の種類の母集団やトランザクション用のトレーニングデータが不足していると、こうした正確性のばらつきが生まれることがある。その場合は、不足しているトレーニングデータを補う方法をデータサイエンティストが見つける必要がある。

　企業はAIエンジンによるレコメンデーションをユーザーに提案する場合、そのような決定を下した理由の説明を添えることを重視する必要がある。そのためにはアプリケーションのユーザーインタフェース（UI）を改善して、そのアプリケーション内でユーザーが説明を参照できるようにする必要がある。そうすれば、そのツールがどのような場面に優れているかについて、信頼を築くのに役立つだろう。ユーザーは、アルゴリズムが提案する意思決定のレコメンデーションを受け入れるか、他のデータを探すかを決めるのに必要な文脈が得られる。

　Kaleido Insightsの共同設立者兼インダストリーアナリストを務めるジェシカ・グループマン氏は「説明可能性はデータサイエンスの課題と見なされることが多い。だが広くいえば、ユーザーエクスペリエンス（UX）の課題でもある」と強調する。

AIによる意思決定を評価するための優れた指標の開発

　意思決定にAI技術を利用することが業績にどのような影響をもたらすかを把握することこそが重要だ。「企業は明確に定義した一連のメトリクスを用意する必要がある」と、Afreshのクレショフ氏は話す。そのためには、さまざまな部門の協力を得て、自社の目標を反映するメトリクス（指標）を見極める必要がある。

　Marvelousのデイブレル氏も、人の関与が重要であることに同意する。AI技術がもたらす結果に同意するかしないかを決めるプロセスには、人が加わるべきだというのだ。その上で、機械の意思決定と人の意思決定の違いを計測し、その結果を用いてアルゴリズムを改善しなければならない。

　「そうすることで、ワークフローにAI技術を取り入れやすくなる。AIエンジンが人の作業に取って代わるものではなく、人の仕事を助けるものだと理解することができる」（デイブレル氏）

印刷する

この記事の著者

George Lawton

ロンドンに拠点を置くフリーランスのジャーナリスト。テクノロジーやビジネス分野を中心に30年以上の執筆経験を持つ。DevOps、人工知能（AI）技術、感情知性（Emotional Intelligence）、変革的リーダーシップ理論などの分野に関心を持つ。

「AI」による意思決定、課題は働き手からの信頼

併せて読みたいお薦め記事

AIのビジネス活用

AIの意思決定は信じられるか

AIによる意思決定の正確性と説明可能性

AIによる意思決定を評価するための優れた指標の開発

この記事の著者

関連記事

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

「AI」による意思決定、課題は働き手からの信頼

併せて読みたいお薦め記事

AIのビジネス活用

AIの意思決定は信じられるか

AIによる意思決定の正確性と説明可能性

AIによる意思決定を評価するための優れた指標の開発

この記事の著者

関連記事

GoogleのAIが指南する最先端デジタルマーケティング 「キスの仕方」動画も

ゲーム業界のデジタルマーケティングに「AI」はどう活用されているか

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

GoogleのAIが指南する最先端デジタルマーケティング　「キスの仕方」動画も