AIを可視化して信頼性を高める
MicrosoftがAIの監査可能性、説明可能性を向上させるツールを提供
AIの公平性や信頼性向上の鍵を握り導入のハードルを下げるためには、監査可能性や説明可能性が不可欠と目されている。Microsoftはこの分野を前進させるツールを提供している。
Microsoftはデベロッパーカンファレンス「Build 2020」で機械学習に関する責任ある開発プロセス計画の概要を説明した。この計画の目的は、その開発プロセスを再現可能、信頼可能、説明可能にすることにある。
Microsoftの「Azure Machine Learning」はデータセットの系統を自動追跡する。ユーザーは機械学習資産の監査証跡（履歴、トレーニング、モデルの説明など）を一元型レジストリで管理できる。これにより、データサイエンティスト、機械学習エンジニア、開発者のワークフローの可視性と監査可能性が向上する。
Microsoftは、Azure Machine Learningでカスタムタグを使って機械学習モデル用のデータシートを実装し、ユーザーがデータセットのドキュメントとメタデータを改善できるようにする方法に関する指針を同カンファレンスで示した。
カスタムタグはMicrosoftがAI研究団体「Partnership on AI」で活動した成果とMicrosoftの「ABOUT ML」（Annotation and Benchmarking on Understanding and Transparency of Machine Learning Lifecycles）プロジェクトに基づく。このプロジェクトは機械学習システムのドキュメントの透明性と説明可能性を向上させることを目的とする。
Microsoftが他に注力する分野は、機械学習モデルに対する理解を深めてデータの不公平性を評価、軽減するツールだ。同社は過去数カ月にわたって、モデルの不公平性を軽減して説明可能性を高めるツールに大規模な投資を行っている。この分野は機械学習の専門家にとって特に重要性が高い。
2019年、Microsoftは機械学習モデルの公平性を評価する「Fairlearn」というオープンソースのツールキットをリリースした。Build 2020では、2020年6月にFairlearnがAzure Machine Learningにネイティブに統合されることが発表された。
Fairlearnはモデルを評価、再トレーニングするために最大15個の「公平性指標」が提供される。ユーザーが選択した特定のグループ（年齢、性別、人種など）に対するモデルのパフォーマンスを専門家が確認できる視覚的なダッシュボードも用意されている。Microsoftは公平性の研究の進捗（しんちょく）に応じて機能の拡充を予定している。
Microsoftはさらに「InterpretML」というツールを通じて「説明可能なAI（人工知能）」にも取り組んでいる。InterpretMLには一連のダッシュボードが用意されており、さまざまな手法でモデルの説明可能性を実現する。複数のタイプのモデルで出力を決定する最も重要な特徴の理解を深めたり「what if」分析をしたり、データの傾向を調査したりする上でInterpretMLは専門家の役に立つ。
Microsoftは他にも、解釈可能性を可視化する一連の機能を備えた新しいユーザーインタフェース、テキストベースの分類サポート、反事実的例分析をツールセットに追加したことも発表した。
ユーザー向けの説明可能性の可視化
これらはAIの重要分野だが、登場間もないためAIを導入したばかりの企業が実務に役立てる方法を理解するのは難しい。ユーザーにとってはなおさらだ。
Microsoftは、特にデータサイエンティストと機械学習エンジニア向けに多くの改善を加えている。MicrosoftはInterpretMLのデモで、小売業者が説明可能性を実務で活用する方法の例としてWebサイトに組み込まれた消費者向けAI駆動型製品レコメンデーション機能のサポートを示した。透明性とユーザーからの信頼性の構築はAIにおける最大のハードルの一つだ。
実際、企業が機械学習を導入する際の最大の障壁としてAIに対する信頼（または不信）が浮上している。2019年にCCS Insightが実施した調査では、ITに関する意思決定者の39％が機械学習を導入する上での最大のハードルが信頼だと答えている。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社ガラパゴス] 「AIっぽい広告」の山に埋もれさせない AIマーケで着実に成果をだす秘訣とは？ -
製品資料
[株式会社ガラパゴス] 「広告投資」調査レポート2026：勝ち組企業は何に投資しているのか？ -
製品資料
[株式会社Helpfeel] 「問い合わせの渋滞」を解消、情シスの負担を軽減する“次世代型AI”活用方法 -
製品資料
[株式会社Helpfeel] 対話型AIエージェント×RAGで社内情報の検索／問い合わせを効率化するには？ -
技術文書・技術解説
[株式会社クレスコ] ソフトウェア開発の属人化と手戻りをどう防ぐ？ 速さと品質を両立させる方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
2
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
3
Netflixのバックエンドは「ほぼJava」 3000超のアプリを支える開発基盤の裏側
-
4
「配信に1カ月」の代償 カルビーがLINE運用で外部依存を断ち切った理由
-
5
APIキー奪取から3時間でクラウド掌握 Anthropicが暴いた「バイブハッキング」の現実的な防御策
-
6
製造業以外も直撃する「ITとOTの融合」 現場機器を巻き込む情シスの新潮流
-
7
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
-
8
「従来のRAG」は限界か Databricksが示す「適応型検索」の勝算
-
9
高額な「AI PC」を一般従業員も使えたら？ 費用のハードルを一気に下げる方法
-
10
「有線LAN環境」に関するアンケート
ホワイトペーパーランキング PR
-
1
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
2
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
3
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
4
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
5
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
9
少額減価償却資産が40万円未満へ拡大、令和8年度税制改正で押さえるべき変更点
-
10
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー