AIの公平性や信頼性向上の鍵を握り導入のハードルを下げるためには、監査可能性や説明可能性が不可欠と目されている。Microsoftはこの分野を前進させるツールを提供している。
Microsoftはデベロッパーカンファレンス「Build 2020」で機械学習に関する責任ある開発プロセス計画の概要を説明した。この計画の目的は、その開発プロセスを再現可能、信頼可能、説明可能にすることにある。
Microsoftの「Azure Machine Learning」はデータセットの系統を自動追跡する。ユーザーは機械学習資産の監査証跡（履歴、トレーニング、モデルの説明など）を一元型レジストリで管理できる。これにより、データサイエンティスト、機械学習エンジニア、開発者のワークフローの可視性と監査可能性が向上する。
Microsoftは、Azure Machine Learningでカスタムタグを使って機械学習モデル用のデータシートを実装し、ユーザーがデータセットのドキュメントとメタデータを改善できるようにする方法に関する指針を同カンファレンスで示した。
カスタムタグはMicrosoftがAI研究団体「Partnership on AI」で活動した成果とMicrosoftの「ABOUT ML」（Annotation and Benchmarking on Understanding and Transparency of Machine Learning Lifecycles）プロジェクトに基づく。このプロジェクトは機械学習システムのドキュメントの透明性と説明可能性を向上させることを目的とする。
Microsoftが他に注力する分野は、機械学習モデルに対する理解を深めてデータの不公平性を評価、軽減するツールだ。同社は過去数カ月にわたって、モデルの不公平性を軽減して説明可能性を高めるツールに大規模な投資を行っている。この分野は機械学習の専門家にとって特に重要性が高い。
2019年、Microsoftは機械学習モデルの公平性を評価する「Fairlearn」というオープンソースのツールキットをリリースした。Build 2020では、2020年6月にFairlearnがAzure Machine Learningにネイティブに統合されることが発表された。
Fairlearnはモデルを評価、再トレーニングするために最大15個の「公平性指標」が提供される。ユーザーが選択した特定のグループ（年齢、性別、人種など）に対するモデルのパフォーマンスを専門家が確認できる視覚的なダッシュボードも用意されている。Microsoftは公平性の研究の進捗（しんちょく）に応じて機能の拡充を予定している。
Microsoftはさらに「InterpretML」というツールを通じて「説明可能なAI（人工知能）」にも取り組んでいる。InterpretMLには一連のダッシュボードが用意されており、さまざまな手法でモデルの説明可能性を実現する。複数のタイプのモデルで出力を決定する最も重要な特徴の理解を深めたり「what if」分析をしたり、データの傾向を調査したりする上でInterpretMLは専門家の役に立つ。
Microsoftは他にも、解釈可能性を可視化する一連の機能を備えた新しいユーザーインタフェース、テキストベースの分類サポート、反事実的例分析をツールセットに追加したことも発表した。
これらはAIの重要分野だが、登場間もないためAIを導入したばかりの企業が実務に役立てる方法を理解するのは難しい。ユーザーにとってはなおさらだ。
Microsoftは、特にデータサイエンティストと機械学習エンジニア向けに多くの改善を加えている。MicrosoftはInterpretMLのデモで、小売業者が説明可能性を実務で活用する方法の例としてWebサイトに組み込まれた消費者向けAI駆動型製品レコメンデーション機能のサポートを示した。透明性とユーザーからの信頼性の構築はAIにおける最大のハードルの一つだ。
実際、企業が機械学習を導入する際の最大の障壁としてAIに対する信頼（または不信）が浮上している。2019年にCCS Insightが実施した調査では、ITに関する意思決定者の39％が機械学習を導入する上での最大のハードルが信頼だと答えている。
Copyright © ITmedia, Inc. All Rights Reserved.
多くの企業が人材不足やコストの課題に直面する中、限られたリソースでより多くの成果を挙げるためにAIツールの活用を検討している。AIツールはどのような業務に活用できるのか、本資料で詳しく解説する。
生成AI開発において重要な役割を担う「GPU」。需要が拡大する一方、VRAM不足やコストなどさまざまな課題が浮上している。そこで、生成AI開発におけるGPUの課題を確認しながら、解決策として期待されるGPUクラウドサービスを紹介する。
さまざまな業界・業務領域で活用され始めている生成AI。生産性の向上やコストの削減などのメリットをもたらすが、生成AIの活用に当たっては品質面やセキュリティ面、運用面での課題に適切に対処していくことが重要となる。
ビジネスが急速に変化する今、その波に乗り遅れないためにもAI活用は有効な方法の1つかもしれない。業務アプリケーションにAIを追加することを検討すべき5つの理由と、AIを組み込んだアプリケーションで組織を最適化する方法を解説する。
AI活用が増加する一方、知識や人材の不足から導入に踏み切れない企業も多い。本資料で紹介する大津屋は、画像認識を用いたAI総菜会計システムを構築し、レジ業務の短縮化を実現している。どのように取り組みを進めていったのだろうか。
お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア（株）が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。
Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は？
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...
「マーケティングオートメーション」 国内売れ筋TOP10（2025年4月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
「AIエージェント」はデジタルマーケティングをどう高度化するのか
電通デジタルはAIを活用したマーケティングソリューションブランド「∞AI」の大型アップ...
ITmediaはアイティメディア株式会社の登録商標です。
