追加すべき機能は何か
「説明可能なAI」の実現に向けて企業ができること
説明可能なAIシステムを求める声が高まるにつれ、IBMやDarwinAIをはじめとするベンダーは、ビジネスユーザーがAIシステムの仕組みを理解するのに役立つ新機能を導入している。
深層学習をはじめとする機械学習システムが進化し、複雑な意思決定プロセスを支援できるようになっている。一方でシステムの精度が向上するにつれ、システムを理解するのが難しくなるという問題が生まれている。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
優れたシステムは企業の役に立つが、同時に悩みの種にもなりかねない。高度なAI(人工知能)システムは現実に利用できる洞察を提供できる。だが、その洞察を得るに至った過程を詳しく説明することは難しい。こうした状況から、ビジネス部門のリーダーはAIシステムが提示する推奨事項に難色を示すことがある。
洞察は利益創出の役に立つ可能性があるが、システムの仕組みを理解していなければ、企業を間違った方向に導きかねない。とはいえ企業経営陣がシステムの仕組みを理解するのは困難だ。場合によっては不可能なこともある。
企業は説明可能なAIシステムを求めている。こうした状況を受けて、AIシステムベンダー各社は製品を使いやすく理解しやすいものに変えるために取り組んでいる。
ここ数年、H2O.ai、IBM、DarwinAIなど一部のベンダーは、説明を可能にする機能を自社製品に搭載するか、拡張機能として提供するようになっている。
説明可能なAIが現実に
IBMは機械学習資産の可視化、ガバナンスのツール「Watson OpenScale」の拡張機能となるオープンソースのツールキット「AI Explainability 360」を2019年8月に発表している。AI Explainability 360は、共通インタフェースで使える解釈可能なアルゴリズムを幾つか備えているだけでなく、トレーニング用の資料とチュートリアルも同梱している。
「説明可能なAIシステム分野における当社の全ての取り組みが、確実に助けになるようにしたいと考えている」と語るのは、IBMのデータ&AI開発部門のバイスプレジデントを務めるディネシュ・ニルマル氏だ。同社でニルマル氏は、説明可能なAIシステムの実現に向けた取り組みを担当する。
既存のAIシステムの最適化に深層学習を使用していると主張するDarwinAIは、2018年にAIシステムの意思決定を説明するツールキット「DarwinAI Generative Synthesis」をリリースしている。「DarwinAI Generative Synthesisは、既存のAIシステムを取り込んで理解して最適化する。このツールキットによって、既存モデルの小型化、高速化、効率化を図ることができる」と話すのは、同社CEOのシェルダン・フェルナンデス氏だ。
DarwinAI Generative Synthesisは、最適化に関する具体的なタスクの推奨事項を提供することで、そのタスクの仕組みの詳細を開発者に提示する。
説明可能なAIの必要性
AIシステムを購入する企業は、AIシステムにビジネスレベルの説明可能性を求めている。そう説明するのは、コンサルティング会社Accentureで米国西海岸地域のアプライドインテリジェンスのグローバルマネージングディレクターを務めるアーナブ・チャクラボルティー氏だ。「当社が抱えるクライアントの多くは、AIシステムの仕組みを関係者に説明しなければならない。そのため透明性は必須条件だ」(チャクラボルティー氏)
Accentureは、AIシステムの仕組みを説明する独自のツールキットを所有している。「このツールキットは、当社がAIシステムのモデルにパラメーターを設定し、そのモデルが各種APIに与える影響を明確に説明するのに役立つ」とチャクラボルティー氏は話す。
会計事務所のKPMGでデータと分析の責任者を務めるトレイシー・ガッシャー氏は、AI技術を販売する企業や社内で使用するA技術を開発する企業に、AIの先入観や説明可能性といった倫理問題に関するガイドラインを策定または支持することを勧めている。「このようなガイドラインでは、AIシステムが人間を中心とする公正なものとなることを定める必要がある。ビジネス部門のリーダーと従業員の両方がAIシステムを信頼することも欠かせない」とガッシャー氏は語る。
今後、政府がAIシステムに関する倫理法規の策定に乗り出すことを考えると、現時点でガイドラインを策定することは、将来の頭痛の種を取り除く上で有効な対策になるとガッシャー氏は言う。「そうすれば倫理法規の施行時には、より準備が整った状態になるだろう」(同氏)
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
課題解決
[NTT東日本株式会社] いま建設業に「10ギガ光回線」が必要な理由とは? -
課題解決
[NTT東日本株式会社] 情報漏えいも業務停止もさせない「止まらないネットワーク」への第一歩は? -
課題解決
[NTT東日本株式会社] 情報漏えいや業務停止に備える、安心・安定のネットワーク環境とは? -
事例
[Wrike Japan 株式会社] 年間100件超でも“プロジェクト炎上”を回避、JERAの管理体制は何が違うのか? -
事例
[Wrike Japan 株式会社] プロジェクト納品時間を最大40%短縮 事例で見る「劇的な高速化」の実現方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
2
「有線LAN環境」に関するアンケート
-
3
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
4
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
5
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
6
次期AI PC向けプロセッサの有力候補「Snapdragon X」 期待と不安の声の真相は
-
7
「Android」の極悪マルウェア、非公式アプリからうっかり感染しないためには?
-
8
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
9
なぜAIで「無意味な仕事」が増えるのか 人間の監視がむしろ足かせに?
-
10
なぜ「PHP2Shell」はパッチを当てても終わらないのか?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー