説明可能なAIシステムを求める声が高まるにつれ、IBMやDarwinAIをはじめとするベンダーは、ビジネスユーザーがAIシステムの仕組みを理解するのに役立つ新機能を導入している。
深層学習をはじめとする機械学習システムが進化し、複雑な意思決定プロセスを支援できるようになっている。一方でシステムの精度が向上するにつれ、システムを理解するのが難しくなるという問題が生まれている。
優れたシステムは企業の役に立つが、同時に悩みの種にもなりかねない。高度なAI（人工知能）システムは現実に利用できる洞察を提供できる。だが、その洞察を得るに至った過程を詳しく説明することは難しい。こうした状況から、ビジネス部門のリーダーはAIシステムが提示する推奨事項に難色を示すことがある。
洞察は利益創出の役に立つ可能性があるが、システムの仕組みを理解していなければ、企業を間違った方向に導きかねない。とはいえ企業経営陣がシステムの仕組みを理解するのは困難だ。場合によっては不可能なこともある。
企業は説明可能なAIシステムを求めている。こうした状況を受けて、AIシステムベンダー各社は製品を使いやすく理解しやすいものに変えるために取り組んでいる。
ここ数年、H2O.ai、IBM、DarwinAIなど一部のベンダーは、説明を可能にする機能を自社製品に搭載するか、拡張機能として提供するようになっている。
Copyright © ITmedia, Inc. All Rights Reserved.
瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓
MFA（多要素認証）を入れたから安心という常識が崩れ去っている。フィッシング集団「Tycoon2FA」が摘発されたが、脅威が完全になくなったというわけではない。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
