2020年07月13日 08時00分 公開
特集/連載

MicrosoftがAIの監査可能性、説明可能性を向上させるツールを提供AIを可視化して信頼性を高める

[Nick NcQuire,Computer Weekly]
iStock.com/chombosan

 Microsoftはデベロッパーカンファレンス「Build 2020」で機械学習に関する責任ある開発プロセス計画の概要を説明した。この計画の目的は、その開発プロセスを再現可能、信頼可能、説明可能にすることにある。

 Microsoftの「Azure Machine Learning」はデータセットの系統を自動追跡する。ユーザーは機械学習資産の監査証跡(履歴、トレーニング、モデルの説明など)を一元型レジストリで管理できる。これにより、データサイエンティスト、機械学習エンジニア、開発者のワークフローの可視性と監査可能性が向上する。

 Microsoftは、Azure Machine Learningでカスタムタグを使って機械学習モデル用のデータシートを実装し、ユーザーがデータセットのドキュメントとメタデータを改善できるようにする方法に関する指針を同カンファレンスで示した。カスタムタグはMicrosoftがAI研究団体「Partnership on AI」で活動した成果とMicrosoftの「ABOUT ML」(Annotation and Benchmarking on Understanding and Transparency of Machine Learning Lifecycles)プロジェクトに基づく。このプロジェクトは機械学習システムのドキュメントの透明性と説明可能性を向上させることを目的とする。

 Microsoftが他に注力する分野は、機械学習モデルに対する理解を深めてデータの不公平性を評価、軽減するツールだ。同社は過去数カ月にわたって、モデルの不公平性を軽減して説明可能性を高めるツールに大規模な投資を行っている。この分野は機械学習の専門家にとって特に重要性が高い。

 2019年、Microsoftは機械学習モデルの公平性を評価する「Fairlearn」というオープンソースのツールキットをリリースした。Build 2020では、2020年6月にFairlearnがAzure Machine Learningにネイティブに統合されることが発表された。

 Fairlearnはモデルを評価、再トレーニングするために最大15個の「公平性指標」が提供される。ユーザーが選択した特定のグループ(年齢、性別、人種など)に対するモデルのパフォーマンスを専門家が確認できる視覚的なダッシュボードも用意されている。Microsoftは公平性の研究の進捗(しんちょく)に応じて機能の拡充を予定している。

 Microsoftはさらに




続きを読むには、[続きを読む]ボタンを押して
ください(PDFをダウンロードします)。






ITmedia マーケティング新着記事

news060.jpg

「高齢者のデジタルシフト」「応援消費」他、コロナ禍が変えた消費行動と今後の「個客」との付き合い方
コロナ禍で起きた消費行動の変化とはどのようなものか。変化に対応するために企業が取る...

news024.jpg

なぜあのブランドは「離脱」されないのか?
「ITmedia マーケティング」では、気になるマーケティングトレンドをeBookにまとめて不定...

news056.jpg

急成長のデジタルライブエンターテインメント市場、2024年には約1000億円規模に――CyberZとOEN調査
音楽や演劇などライブコンテンツのデジタル化が急速に進んでいます。今後の見通しはどう...