IBMは機械学習資産の可視化、ガバナンスのツール「Watson OpenScale」の拡張機能となるオープンソースのツールキット「AI Explainability 360」を2019年8月に発表している。AI Explainability 360は、共通インタフェースで使える解釈可能なアルゴリズムを幾つか備えているだけでなく、トレーニング用の資料とチュートリアルも同梱している。

　「説明可能なAIシステム分野における当社の全ての取り組みが、確実に助けになるようにしたいと考えている」と語るのは、IBMのデータ＆AI開発部門のバイスプレジデントを務めるディネシュ・ニルマル氏だ。同社でニルマル氏は、説明可能なAIシステムの実現に向けた取り組みを担当する。

　既存のAIシステムの最適化に深層学習を使用していると主張するDarwinAIは、2018年にAIシステムの意思決定を説明するツールキット「DarwinAI Generative Synthesis」をリリースしている。「DarwinAI Generative Synthesisは、既存のAIシステムを取り込んで理解して最適化する。このツールキットによって、既存モデルの小型化、高速化、効率化を図ることができる」と話すのは、同社CEOのシェルダン・フェルナンデス氏だ。

　 DarwinAI Generative Synthesisは、最適化に関する具体的なタスクの推奨事項を提供することで、そのタスクの仕組みの詳細を開発者に提示する。

説明可能なAIの必要性

　AIシステムを購入する企業は、AIシステムにビジネスレベルの説明可能性を求めている。そう説明するのは、コンサルティング会社Accentureで米国西海岸地域のアプライドインテリジェンスのグローバルマネージングディレクターを務めるアーナブ・チャクラボルティー氏だ。「当社が抱えるクライアントの多くは、AIシステムの仕組みを関係者に説明しなければならない。そのため透明性は必須条件だ」（チャクラボルティー氏）

　Accentureは、AIシステムの仕組みを説明する独自のツールキットを所有している。「このツールキットは、当社がAIシステムのモデルにパラメーターを設定し、そのモデルが各種APIに与える影響を明確に説明するのに役立つ」とチャクラボルティー氏は話す。

　会計事務所のKPMGでデータと分析の責任者を務めるトレイシー・ガッシャー氏は、AI技術を販売する企業や社内で使用するA技術を開発する企業に、AIの先入観や説明可能性といった倫理問題に関するガイドラインを策定または支持することを勧めている。「このようなガイドラインでは、AIシステムが人間を中心とする公正なものとなることを定める必要がある。ビジネス部門のリーダーと従業員の両方がAIシステムを信頼することも欠かせない」とガッシャー氏は語る。

　今後、政府がAIシステムに関する倫理法規の策定に乗り出すことを考えると、現時点でガイドラインを策定することは、将来の頭痛の種を取り除く上で有効な対策になるとガッシャー氏は言う。「そうすれば倫理法規の施行時には、より準備が整った状態になるだろう」（同氏）