AI Explanationsの機能は、AIモデルを使った予測を支援するGoogleのサービス「AI Platform Prediction」に組み込まれており、ユーザー企業はクラウドにホストしたAIモデルによる予測をリクエストできる。

　ユーザー企業はAI Explanationsを使って、AIモデル内の各機能が予測にどの程度貢献しているのかを把握できる。これは、AIモデルが出した結論に対する各機能の貢献度を計る一助となる。

　「現状から見ると、そうした手順は間違いなくプロセスを向上させる」とマクワイア氏は指摘。「トレーニングを想定した場合や、プロジェクトがデータサイエンス、あるいは開発部門に限られる場合にうまくいく」と続ける。同氏によると、ユーザー企業が自ら構築するAIモデルには説明可能性がほとんどない場合もあり、ブラックボックスシステムと化していることもある。

「What-if Tool」で性能を可視化

　Explainable AIには、ユーザー企業が自社開発のAIモデルの性能を可視化できるGoogleのインタラクティブインタフェース「What-if Tool」も含まれる。可視化の要素では、最低限のコーディングの経験しかないエンドユーザーでも、自ら開発したAIモデルを多様なグラフに描き出すことができ、さまざまなデータから出される結論をもっと簡単に特定できる。

　What-if Toolでは、データポイントの機能の編集、追加、削除も可能で、2つのAIモデルを互いに照らし合わせて性能を比較できる。

　GoogleのAI関連サービス群「AI Platform」は、モニタリング機能や継続的評価機能も含む。これらの機能は、AIモデルの入力情報と出力情報を、定期的に教師データ（人間の評価者が割り当てるデータ）と照らし合わせてサンプリングする。これによりAIモデルの性能に対する継続的なフィードバックを提供できる。

責任ある機械学習

　マクワイア氏によるとExplainable AIは、説明可能なAIモデルを開発するためのツール開発を増やす目的でGoogleが着手してきた最近の取り組みに沿っている。

　Googleはこの分野で過去1年の間に、What-if Toolや「Facets」「TensorFlow Extended」といった社内ツールを黙々とオープンソースにリリースしてきた。同社はAI関連サービス用に説明可能性ツールを開発し、企業利用向けにそれらの性能を高めているとマクワイア氏は説明する。「それは市場が求めていたことだった」（同氏）

　政府がデータ利用に対する規制強化に乗り出す中で、説明可能なAI技術は注目のトピックとなった。AI倫理と企業経営者は、機械学習モデルが達した結論について、それに基づいて行動を起こす前にもっと詳しい説明を要求するようになっている。中で、説明可能なAI技術は注目のトピックとなっている。

　調査会社Forrester ResearchのAI担当アナリスト、ガルティエリ氏は、説明可能なAIモデルについて「ほぼ全ての機械学習ツールベンダーは、自分たちのロードマップにその機能あるいは同様の機能を盛り込んでいる」と話す。

　AIモデルの監視と説明のための製品／サービスは、Google以外のベンダーも提供しているとガルティエリ氏は言い添える。代表例はIBMの「Watson OpenScale」だ。

　IBMは過去1年の間に、説明可能なAIモデル開発をさらに支援するための開発者向けツールや、結論に関するユーザーの理解を高めるためのツールを複数リリースしている。説明可能なAIモデル、あるいはガバナンスを高めたAIモデルを導入するためのツールを販売する新興企業も、この数年で複数登場している。