AI技術が進化すると同時に、AI技術やシステムを利用する際の倫理的な問題やリスクが増大している。AIガバナンスは、こうした問題に対処するために生まれた概念だ。AIガバナンスとは何か、本稿で詳しく説明する。
AIガバナンスとは、人類がAI技術を倫理的かつ責任ある方法で利用できるようにすることだ。AIガバナンスは、AI技術の進歩と倫理の間に存在するギャップを埋めることを目的としている。
医療や運輸、小売、金融サービス、教育、公共機関など、あらゆる産業でAI技術の利用が急速に拡大している。その結果、AIガバナンスへの注目は集まりつつある。
AIガバナンスは主に、データの品質やAIアルゴリズムの透明性に焦点が当てられる。AI技術がどのように機能するか、それを誰が監視するかを決定する。
AIガバナンスを実現するには、主に以下の項目を確認しておく必要がある。
機械学習アルゴリズムが意思決定に使用される場合、AIガバナンスが必要となる。特に機械学習のバイアス（偏見）には注意しなければならない。例えばAIシステムの機械学習用データを人種でプロファイリングすると、AIシステムは判断を誤る可能性がある。その結果、人々の医療サービスや金融ローンの利用を不当に拒否したり、警察機関が犯罪容疑者を特定する際に人種差別的な判断を下したりする可能性がある。AIガバナンスを実現するには、AIに基づく決定が不当であったり、人権を侵害したりするリスクをどのように抑えるのが最善かを決定する必要がある。
さまざまな業界でAI技術が急速に採用されつつある。その結果AI技術の倫理や透明性の確保、欧州連合（EU）の一般データ保護規則（GDPR）といった法規制への準拠などの分野で課題が生じている。適切なAIガバナンスがなければ、AIシステムは偏見に基づいた意思決定やプライバシー侵害、データの悪用といったリスクをもたらす可能性がある。AIガバナンスは、エンドユーザーの人権を保護し、AI技術によって危害がもたらされることを防止しながら、AI技術の建設的な利用を促進するために生まれた概念だ。
AIガバナンスを構成する主な要素を説明する。
効果的で持続可能なAIガバナンスを実現するために、組織が取るべき行動がある。その内容は以下の通りだ。
AIモデルガバナンスは、AIガバナンスから派生した概念だ。組織がAIモデルや機械学習モデルの安全性を維持しながら開発し、使用する方法を規定する。これらのモデルを開発し、使用する組織は、以下の点に留意しなければならない。
各国の政府やAIシステムのユーザー組織は、AIガバナンスを推進している。AIガバナンスの成功は、AI技術を利用する人々の権利を保護するための政策や規制の策定にかかっている。
さまざまな企業がAIガバナンスに注目している。例えばMicrosoftは2022年に、AIのリスクを管理し、倫理的なAIガバナンスを戦略に組み込む組織向けのガイドである「Microsoft Responsible AI Standard」（責任あるAIの基準）の第2版を発表した。他にもAmazon Web ServicesやGoogle、IBM、Meta、OpenAIなどのさまざまなITベンダーが、AIガバナンスやガードレールの導入に取り組んでいる。
この分野に取り組む米国の政府機関として、2021年に発足したホワイトハウス科学技術政策局の全米AIイニシアチブ室（National Artificial Intelligence Initiative Office）がある。国家人工知能諮問委員会（NAIAC）は、米国の国家AI構想の一環として創設された、AI関連の課題について大統領に助言する組織だ。米国立標準技術研究所（NIST）は官民の協力ので、AI技術を扱う人々のためのリスク管理のためのフレームワーク「AIリスクマネジメントフレームワーク」（AI RMF：AI Risk Management Framework）を開発した。
AIに説明責任や透明性を求める法制度の整備が、現実のAI技術に追い付いていないと懸念を表明する専門家やベンダーもある。2023年3月、AIの専門家や実業家のイーロン・マスク氏、Appleの共同創業者のスティーブ・ウォズニアック氏などのメンバーが、AI研究の一時停止と法規制の成文化を求める公開書簡に署名した。同年5月、OpenAIのCEOであるサム・アルトマン氏は、米国上院のAI技術の規制に関する小委員会の公聴会で、AI規制を求める議会証言をした。
Copyright © ITmedia, Inc. All Rights Reserved.
日々情報が増え続ける今、業務に必要な全ての情報を、社内外の関連ニュースや論文、特許情報などから収集していくのは至難の業だ。そこで業務に必要な情報を着実に届けるための仕組み作りに役立つサービスを紹介する。
クラウド利用の拡大に伴い、データが分散・肥大化する中、従来のセキュリティ対策の限界が見え始めている。データの所在や利用状況を可視化し、リスクを事前に把握して対応することが求められる今、有効となる新たなアプローチを探る。
AIの活用が急速に進む一方で、セキュリティリスクの増大が懸念され、企業の対応が急務となっている。本資料では、2024年2～12月までの5365億件のAI／ML（機械学習）トランザクションの分析に基づき、その実態と対策を多角的に考察する。
製造業の設計現場では、設計プロセスの複雑化などの課題が山積している。こうした中、注目を集めているのが生成AIの活用だ。本資料では、生成AIがもたらす設計業務の未来について、詳しく解説する。
多くの企業が業務における生成AIの有用性を実感する一方、高度な活用を目指すに当たり、壁に突き当たっているケースは多い。既存の業務やシステムと生成AIをスムーズに組み合わせ、自社に合った形で活用するには、どうすればよいのか。
ドキュメントから「価値」を引き出す、Acrobat AIアシスタント活用術 (2025/3/28)
広がるIBM i の可能性 生成AIによる基幹システム活用の新たな技術的アプローチ (2025/3/28)
「NVIDIAのGPUは高過ぎる……」と諦める必要はない？ GPU調達はこう変わる (2025/3/11)
PoCで終わらせない企業の生成AI活用 有識者が語る、失敗を避けるためのノウハウ (2024/10/18)
生成AIのビジネス利用 すぐに、安全に使うためには？ (2024/8/26)
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ（仮想PC画面）は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
「マーケティングオートメーション」 国内売れ筋TOP10（2025年5月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
ITmediaはアイティメディア株式会社の登録商標です。
