Trust and Transparency capabilitiesは、AIエンジンが意思決定する際に決め手となった要素を特定して分析し、不公平な判断（バイアス）を指摘するツールだ。AIエンジンにバイアスが生じる主な原因は、学習不足や学習の偏りだとされる。本ツールはAIエンジンの判定にバイアスを発見した後、バイアスを軽減するために追加すべき学習データを提案する。こうした機能を通じて、AIエンジンの意思決定の公平性向上を支援する。

写真1　顧客の年齢層によって判断に偏りがある可能性を指摘するTrust and Transparency capabilitiesの画面

　保険申請の不正を検知するAIシステムの分析を例に取ろう。この場合Trust and Transparency capabilitiesは、所得、国籍、保険への加入年数など、AIエンジンが不正かどうかを判断するに当たって利用した情報を分析する。同ツールには特定の項目を基準にして、AIエンジンの判断結果の内訳を表示し、バイアスを指摘する機能もある。例えば「顧客の年齢」を基準に、年齢ごとの判断結果をグラフで表示することも可能だ。他の年齢層と比べて、ある年齢層では「不正ではない」と判断した申請の割合が高いなど、AIエンジンの判断に偏りが生じた場合、同ツールのダッシュボードにバイアスを示すマーカーを表示する（写真1）。

　Trust and Transparency capabilitiesは日本IBMのAIシステム「IBM Watson」の他、「TensorFlow」「MLlib」「Amazon SageMaker」「Azure Machine Learning」などの機械学習関連ライブラリ／サービスを使って構築されたAIシステムの判断を分析することが可能だ。バイアスはAI開発ツール「Watson Studio」を通して修正できる。日本IBMワトソン＆クラウドプラットフォーム事業部長の吉崎敏文氏は、Trust and Transparency capabilitiesの活用で「AIシステムのブラックボックス化を解消できる」と話す。

　本ツールの基盤システムは、日本IBMのクラウドサービス群「IBM Cloud」で稼働させている。日本IBMは2018年10月現在、分析できるAIエンジンを20個に限定した、無料の試用版を提供している。2018年11月に正式版をリリースする。

マルチAI環境の運用管理を支援

　IBM Services AI Enterprise Knowledge Foundationは、AIマネジメント支援、AIガバナンス支援、AIプロジェクト導入支援、AI運用・再学習支援、AI人材育成の5つの要素を持つサービスとツール群で構成している。ツール群にはTrust and Transparency capabilitiesの他、AIシステムのパフォーマンスを可視化する「AI Performance Dashboard」などが含まれる。日本IBMのAIシステムだけでなく、内製したAIシステムやOSS（オープンソースソフトウェア）のAIシステムもまとめて運用、分析できるのが特徴だ。吉崎氏は「多様なAIシステムを組み合わせ、マルチAI環境を運用する企業が増えてきている。当社はマルチAI環境を支援するインテグレーターとしてサービスを提供したい」と話す。