AIの公平性や信頼性向上の鍵を握り導入のハードルを下げるためには、監査可能性や説明可能性が不可欠と目されている。Microsoftはこの分野を前進させるツールを提供している。
Microsoftはデベロッパーカンファレンス「Build 2020」で機械学習に関する責任ある開発プロセス計画の概要を説明した。この計画の目的は、その開発プロセスを再現可能、信頼可能、説明可能にすることにある。
Microsoftの「Azure Machine Learning」はデータセットの系統を自動追跡する。ユーザーは機械学習資産の監査証跡(履歴、トレーニング、モデルの説明など)を一元型レジストリで管理できる。これにより、データサイエンティスト、機械学習エンジニア、開発者のワークフローの可視性と監査可能性が向上する。
Microsoftは、Azure Machine Learningでカスタムタグを使って機械学習モデル用のデータシートを実装し、ユーザーがデータセットのドキュメントとメタデータを改善できるようにする方法に関する指針を同カンファレンスで示した。
カスタムタグはMicrosoftがAI研究団体「Partnership on AI」で活動した成果とMicrosoftの「ABOUT ML」(Annotation and Benchmarking on Understanding and Transparency of Machine Learning Lifecycles)プロジェクトに基づく。このプロジェクトは機械学習システムのドキュメントの透明性と説明可能性を向上させることを目的とする。
Microsoftが他に注力する分野は、機械学習モデルに対する理解を深めてデータの不公平性を評価、軽減するツールだ。同社は過去数カ月にわたって、モデルの不公平性を軽減して説明可能性を高めるツールに大規模な投資を行っている。この分野は機械学習の専門家にとって特に重要性が高い。
2019年、Microsoftは機械学習モデルの公平性を評価する「Fairlearn」というオープンソースのツールキットをリリースした。Build 2020では、2020年6月にFairlearnがAzure Machine Learningにネイティブに統合されることが発表された。
Fairlearnはモデルを評価、再トレーニングするために最大15個の「公平性指標」が提供される。ユーザーが選択した特定のグループ(年齢、性別、人種など)に対するモデルのパフォーマンスを専門家が確認できる視覚的なダッシュボードも用意されている。Microsoftは公平性の研究の進捗(しんちょく)に応じて機能の拡充を予定している。
Microsoftはさらに「InterpretML」というツールを通じて「説明可能なAI(人工知能)」にも取り組んでいる。InterpretMLには一連のダッシュボードが用意されており、さまざまな手法でモデルの説明可能性を実現する。複数のタイプのモデルで出力を決定する最も重要な特徴の理解を深めたり「what if」分析をしたり、データの傾向を調査したりする上でInterpretMLは専門家の役に立つ。
Microsoftは他にも、解釈可能性を可視化する一連の機能を備えた新しいユーザーインタフェース、テキストベースの分類サポート、反事実的例分析をツールセットに追加したことも発表した。
これらはAIの重要分野だが、登場間もないためAIを導入したばかりの企業が実務に役立てる方法を理解するのは難しい。ユーザーにとってはなおさらだ。
Microsoftは、特にデータサイエンティストと機械学習エンジニア向けに多くの改善を加えている。MicrosoftはInterpretMLのデモで、小売業者が説明可能性を実務で活用する方法の例としてWebサイトに組み込まれた消費者向けAI駆動型製品レコメンデーション機能のサポートを示した。透明性とユーザーからの信頼性の構築はAIにおける最大のハードルの一つだ。
実際、企業が機械学習を導入する際の最大の障壁としてAIに対する信頼(または不信)が浮上している。2019年にCCS Insightが実施した調査では、ITに関する意思決定者の39%が機械学習を導入する上での最大のハードルが信頼だと答えている。
Copyright © ITmedia, Inc. All Rights Reserved.
登場以来ビジネスへの活用方法が模索されてきた生成AI。近年では業務組み込みにおける具体的な成功例が数多く報告されている。本資料では、5件の生成AI活用事例を交えて、業務に組み込む上での具体的なアプローチを解説する。
ビジネスにおいて、検索体験およびその結果の質の向上が重要なテーマとなっている。顧客はもちろん、自社の従業員に対しても、実用的な答えをより迅速に、手間なく入手できる環境の整備が求められている。
生成AIの活用にはデータベースが重要となるが、従来のデータベースは最新テクノロジーに対応できないなどの課題がある。本資料では、データベースをモダナイズし、生成AIを用いてビジネスイノベーションを生み出すための方法を探る。
昨今のソフトウェア開発では、AIコーディングアシスタントの活用が主流になっている。しかし、最適なコーディングアシストツールは、開発者や企業によって異なるという。導入の際は、どのようなポイントに注意すればよいのか。
生成AIを活用して業務や顧客体験の再構築を進める動きが活性化しているが、その多くが、PoCやラボ環境の段階にとどまっている。なぜなら、生成AIの可能性を最大限に引き出すための、インフラのパフォーマンスが不十分だからだ。
GPUサーバは買うべきか、借りるべきか――オンプレミス vs. クラウド徹底比較 (2025/7/7)
ドキュメントから「価値」を引き出す、Acrobat AIアシスタント活用術 (2025/3/28)
広がるIBM i の可能性 生成AIによる基幹システム活用の新たな技術的アプローチ (2025/3/28)
「NVIDIAのGPUは高過ぎる……」と諦める必要はない? GPU調達はこう変わる (2025/3/11)
PoCで終わらせない企業の生成AI活用 有識者が語る、失敗を避けるためのノウハウ (2024/10/18)
「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...