追加すべき機能は何か
「説明可能なAI」の実現に向けて企業ができること
説明可能なAIシステムを求める声が高まるにつれ、IBMやDarwinAIをはじめとするベンダーは、ビジネスユーザーがAIシステムの仕組みを理解するのに役立つ新機能を導入している。
深層学習をはじめとする機械学習システムが進化し、複雑な意思決定プロセスを支援できるようになっている。一方でシステムの精度が向上するにつれ、システムを理解するのが難しくなるという問題が生まれている。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
優れたシステムは企業の役に立つが、同時に悩みの種にもなりかねない。高度なAI（人工知能）システムは現実に利用できる洞察を提供できる。だが、その洞察を得るに至った過程を詳しく説明することは難しい。こうした状況から、ビジネス部門のリーダーはAIシステムが提示する推奨事項に難色を示すことがある。
洞察は利益創出の役に立つ可能性があるが、システムの仕組みを理解していなければ、企業を間違った方向に導きかねない。とはいえ企業経営陣がシステムの仕組みを理解するのは困難だ。場合によっては不可能なこともある。
企業は説明可能なAIシステムを求めている。こうした状況を受けて、AIシステムベンダー各社は製品を使いやすく理解しやすいものに変えるために取り組んでいる。
ここ数年、H2O.ai、IBM、DarwinAIなど一部のベンダーは、説明を可能にする機能を自社製品に搭載するか、拡張機能として提供するようになっている。
説明可能なAIが現実に
IBMは機械学習資産の可視化、ガバナンスのツール「Watson OpenScale」の拡張機能となるオープンソースのツールキット「AI Explainability 360」を2019年8月に発表している。AI Explainability 360は、共通インタフェースで使える解釈可能なアルゴリズムを幾つか備えているだけでなく、トレーニング用の資料とチュートリアルも同梱している。
「説明可能なAIシステム分野における当社の全ての取り組みが、確実に助けになるようにしたいと考えている」と語るのは、IBMのデータ＆AI開発部門のバイスプレジデントを務めるディネシュ・ニルマル氏だ。同社でニルマル氏は、説明可能なAIシステムの実現に向けた取り組みを担当する。
既存のAIシステムの最適化に深層学習を使用していると主張するDarwinAIは、2018年にAIシステムの意思決定を説明するツールキット「DarwinAI Generative Synthesis」をリリースしている。「DarwinAI Generative Synthesisは、既存のAIシステムを取り込んで理解して最適化する。このツールキットによって、既存モデルの小型化、高速化、効率化を図ることができる」と話すのは、同社CEOのシェルダン・フェルナンデス氏だ。
DarwinAI Generative Synthesisは、最適化に関する具体的なタスクの推奨事項を提供することで、そのタスクの仕組みの詳細を開発者に提示する。
説明可能なAIの必要性
AIシステムを購入する企業は、AIシステムにビジネスレベルの説明可能性を求めている。そう説明するのは、コンサルティング会社Accentureで米国西海岸地域のアプライドインテリジェンスのグローバルマネージングディレクターを務めるアーナブ・チャクラボルティー氏だ。「当社が抱えるクライアントの多くは、AIシステムの仕組みを関係者に説明しなければならない。そのため透明性は必須条件だ」（チャクラボルティー氏）
Accentureは、AIシステムの仕組みを説明する独自のツールキットを所有している。「このツールキットは、当社がAIシステムのモデルにパラメーターを設定し、そのモデルが各種APIに与える影響を明確に説明するのに役立つ」とチャクラボルティー氏は話す。
会計事務所のKPMGでデータと分析の責任者を務めるトレイシー・ガッシャー氏は、AI技術を販売する企業や社内で使用するA技術を開発する企業に、AIの先入観や説明可能性といった倫理問題に関するガイドラインを策定または支持することを勧めている。「このようなガイドラインでは、AIシステムが人間を中心とする公正なものとなることを定める必要がある。ビジネス部門のリーダーと従業員の両方がAIシステムを信頼することも欠かせない」とガッシャー氏は語る。
今後、政府がAIシステムに関する倫理法規の策定に乗り出すことを考えると、現時点でガイドラインを策定することは、将来の頭痛の種を取り除く上で有効な対策になるとガッシャー氏は言う。「そうすれば倫理法規の施行時には、より準備が整った状態になるだろう」（同氏）
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[o9ソリューションズ・ジャパン株式会社] 「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略 -
製品資料
[o9ソリューションズ・ジャパン株式会社] 「サプライチェーン最適化」実践ガイド：効果的な意思決定を実現する秘訣とは？ -
製品資料
[株式会社リンプレス] 非デジタル／IT人材を「自走するDX推進者」に変えるための育成ロードマップ -
市場調査・トレンド
[ワンアイルコンサルティング株式会社] AI時代の組織設計：「判断と責任」を人に残すための2つの原則とは？ -
技術文書・技術解説
[ワンアイルコンサルティング株式会社] システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
2
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
3
クラウド資格コレクターは評価されない？ 年収1000万を分ける“OSの理解度”
-
4
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
5
高額な「AI PC」を一般従業員も使えたら？ 費用のハードルを一気に下げる方法
-
6
「コピペ運用の限界」に直面するAI活用 7割超が“別画面”のまま使う理由は？
-
7
LLMの「過学習」、正しく説明している文章はどれ？
-
8
「AIバブル」は崩壊するのか？ 熱狂の後に来る“尻拭い”と4つの防衛策
-
9
2035年までに1億4500万台、急拡大する「フィジカルAI」市場の勝者は誰か
-
10
IT調達担当者が知るべき「IT機器 大インフレ時代の前向きな選択肢」
ホワイトペーパーランキング PR
-
1
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
3
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
4
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
5
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
6
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
7
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには？
-
8
「問題が深刻化しやすいプロジェクト管理」から脱却する方法とは？
-
9
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
10
NTTドコモが実践したクラウド統合監視 業務量2倍でも残業削減を実現できた理由
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー