意思決定者としてのAI【後編】

「AI」による意思決定、課題は働き手からの信頼

ビジネスプロセスの意思決定にAI技術を活用することについて、働き手は警戒している。どうすれば信頼を得ることができるか。専門家が解説する。

公開 2019年12月10日 05時01分

[TechTarget]

印刷する

　「現在導入されている最新のAI（人工知能）ツールは、正確性または説明可能性もしくはその両方の点においてまだ理想には達していない。AI技術がうまく機能したとしても、特定のケースでは正確性が低下する恐れがある」。米サンフランシスコでRE-WORK X（Re・Work）が開催したカンファレンス「Applied AI Summit San Francisco」において、AI技術企業Afreshの共同設立者兼最高技術責任者（CTO）を務めるウォロディミル・クレショフ氏は聴衆に警告した。

　AI技術による自動化の対象として、どのビジネスプロセスに関する意思決定が適切かは、現在のAIツールの機能だけでなく、企業の能力にも左右される。企業はリスク許容度やAIのトレーニング、テストの厳しい条件に対処しなくてはならない。

併せて読みたいお薦め記事

AIのビジネス活用

AIの意思決定は信じられるか

　拡張分析システムを開発するMarvelous共同設立者兼CEOのダニエル・デイブレル氏は「機械に食べさせるしかないと思える平たいパンを作るようなプロセスがある」と話した。AIエンジンの質が低下しても、そのプロセスはわずかでもパンを作り出す。だが、飛行機や車の運転ではそうはいかないと同氏は言う。

　リスクの低い意思決定のワークフローであっても、時折人が調査して新たな問題を特定し、意思決定エンジンに送られるデータを整理する必要がある。「データ収集の初期段階や意思決定プロセスの後半に人手が必要になる可能性がある」とデイブレル氏は話す。

AIによる意思決定の正確性と説明可能性

　アルゴリズムの正確性が低下するほど、高い説明可能性が必要になる。AIアルゴリズムの正確性が99.9％であれば、従業員が説明可能性について問い掛けることはあまりないとクレショフ氏は言う。だが正確性が90％しかなければ、説明を求める可能性は高くなる。正確性にはばらつきもある。「特定の母集団では正確性が低下する可能性がある」とクレショフ氏は話す。

　特定の種類の母集団やトランザクション用のトレーニングデータが不足していると、こうした正確性のばらつきが生まれることがある。その場合は、不足しているトレーニングデータを補う方法をデータサイエンティストが見つける必要がある。

　企業はAIエンジンによるレコメンデーションをユーザーに提案する場合、そのような決定を下した理由の説明を添えることを重視する必要がある。そのためにはアプリケーションのユーザーインタフェース（UI）を改善して、そのアプリケーション内でユーザーが説明を参照できるようにする必要がある。そうすれば、そのツールがどのような場面に優れているかについて、信頼を築くのに役立つだろう。ユーザーは、アルゴリズムが提案する意思決定のレコメンデーションを受け入れるか、他のデータを探すかを決めるのに必要な文脈が得られる。

　Kaleido Insightsの共同設立者兼インダストリーアナリストを務めるジェシカ・グループマン氏は「説明可能性はデータサイエンスの課題と見なされることが多い。だが広くいえば、ユーザーエクスペリエンス（UX）の課題でもある」と強調する。