追加すべき機能は何か
「説明可能なAI」の実現に向けて企業ができること
説明可能なAIシステムを求める声が高まるにつれ、IBMやDarwinAIをはじめとするベンダーは、ビジネスユーザーがAIシステムの仕組みを理解するのに役立つ新機能を導入している。
深層学習をはじめとする機械学習システムが進化し、複雑な意思決定プロセスを支援できるようになっている。一方でシステムの精度が向上するにつれ、システムを理解するのが難しくなるという問題が生まれている。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
優れたシステムは企業の役に立つが、同時に悩みの種にもなりかねない。高度なAI（人工知能）システムは現実に利用できる洞察を提供できる。だが、その洞察を得るに至った過程を詳しく説明することは難しい。こうした状況から、ビジネス部門のリーダーはAIシステムが提示する推奨事項に難色を示すことがある。
洞察は利益創出の役に立つ可能性があるが、システムの仕組みを理解していなければ、企業を間違った方向に導きかねない。とはいえ企業経営陣がシステムの仕組みを理解するのは困難だ。場合によっては不可能なこともある。
企業は説明可能なAIシステムを求めている。こうした状況を受けて、AIシステムベンダー各社は製品を使いやすく理解しやすいものに変えるために取り組んでいる。
ここ数年、H2O.ai、IBM、DarwinAIなど一部のベンダーは、説明を可能にする機能を自社製品に搭載するか、拡張機能として提供するようになっている。
説明可能なAIが現実に
IBMは機械学習資産の可視化、ガバナンスのツール「Watson OpenScale」の拡張機能となるオープンソースのツールキット「AI Explainability 360」を2019年8月に発表している。AI Explainability 360は、共通インタフェースで使える解釈可能なアルゴリズムを幾つか備えているだけでなく、トレーニング用の資料とチュートリアルも同梱している。
「説明可能なAIシステム分野における当社の全ての取り組みが、確実に助けになるようにしたいと考えている」と語るのは、IBMのデータ＆AI開発部門のバイスプレジデントを務めるディネシュ・ニルマル氏だ。同社でニルマル氏は、説明可能なAIシステムの実現に向けた取り組みを担当する。
既存のAIシステムの最適化に深層学習を使用していると主張するDarwinAIは、2018年にAIシステムの意思決定を説明するツールキット「DarwinAI Generative Synthesis」をリリースしている。「DarwinAI Generative Synthesisは、既存のAIシステムを取り込んで理解して最適化する。このツールキットによって、既存モデルの小型化、高速化、効率化を図ることができる」と話すのは、同社CEOのシェルダン・フェルナンデス氏だ。
DarwinAI Generative Synthesisは、最適化に関する具体的なタスクの推奨事項を提供することで、そのタスクの仕組みの詳細を開発者に提示する。
説明可能なAIの必要性
AIシステムを購入する企業は、AIシステムにビジネスレベルの説明可能性を求めている。そう説明するのは、コンサルティング会社Accentureで米国西海岸地域のアプライドインテリジェンスのグローバルマネージングディレクターを務めるアーナブ・チャクラボルティー氏だ。「当社が抱えるクライアントの多くは、AIシステムの仕組みを関係者に説明しなければならない。そのため透明性は必須条件だ」（チャクラボルティー氏）
Accentureは、AIシステムの仕組みを説明する独自のツールキットを所有している。「このツールキットは、当社がAIシステムのモデルにパラメーターを設定し、そのモデルが各種APIに与える影響を明確に説明するのに役立つ」とチャクラボルティー氏は話す。
会計事務所のKPMGでデータと分析の責任者を務めるトレイシー・ガッシャー氏は、AI技術を販売する企業や社内で使用するA技術を開発する企業に、AIの先入観や説明可能性といった倫理問題に関するガイドラインを策定または支持することを勧めている。「このようなガイドラインでは、AIシステムが人間を中心とする公正なものとなることを定める必要がある。ビジネス部門のリーダーと従業員の両方がAIシステムを信頼することも欠かせない」とガッシャー氏は語る。
今後、政府がAIシステムに関する倫理法規の策定に乗り出すことを考えると、現時点でガイドラインを策定することは、将来の頭痛の種を取り除く上で有効な対策になるとガッシャー氏は言う。「そうすれば倫理法規の施行時には、より準備が整った状態になるだろう」（同氏）
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社MatrixFlow] 「物流リソース最適化」ガイド：人員・配車・傭車を出庫依頼の確定前に決めきる -
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か？ PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える？ 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
2
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
3
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
4
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
5
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
6
「IBM iはDXのボトルネック」は誤解 意外と知らない今風モダナイズの効果
-
7
「朝8時にバッチが終わらない」データ爆発の危機をJPX総研はどう乗り越えたか
-
8
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
9
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
-
10
AI導入後に発覚する「社内文書を読めない」問題 情シスは何を直せばいい？
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
4
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
5
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
6
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
7
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
“あのファイル転送”で暗躍するノーウェアランサム
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー