AI技術が進化すると同時に、AI技術やシステムを利用する際の倫理的な問題やリスクが増大している。AIガバナンスは、こうした問題に対処するために生まれた概念だ。AIガバナンスとは何か、本稿で詳しく説明する。
AIガバナンスとは、人類がAI技術を倫理的かつ責任ある方法で利用できるようにすることだ。AIガバナンスは、AI技術の進歩と倫理の間に存在するギャップを埋めることを目的としている。
医療や運輸、小売、金融サービス、教育、公共機関など、あらゆる産業でAI技術の利用が急速に拡大している。その結果、AIガバナンスへの注目は集まりつつある。
AIガバナンスは主に、データの品質やAIアルゴリズムの透明性に焦点が当てられる。AI技術がどのように機能するか、それを誰が監視するかを決定する。
AIガバナンスを実現するには、主に以下の項目を確認しておく必要がある。
機械学習アルゴリズムが意思決定に使用される場合、AIガバナンスが必要となる。特に機械学習のバイアス(偏見)には注意しなければならない。例えばAIシステムの機械学習用データを人種でプロファイリングすると、AIシステムは判断を誤る可能性がある。その結果、人々の医療サービスや金融ローンの利用を不当に拒否したり、警察機関が犯罪容疑者を特定する際に人種差別的な判断を下したりする可能性がある。AIガバナンスを実現するには、AIに基づく決定が不当であったり、人権を侵害したりするリスクをどのように抑えるのが最善かを決定する必要がある。
さまざまな業界でAI技術が急速に採用されつつある。その結果AI技術の倫理や透明性の確保、欧州連合(EU)の一般データ保護規則(GDPR)といった法規制への準拠などの分野で課題が生じている。適切なAIガバナンスがなければ、AIシステムは偏見に基づいた意思決定やプライバシー侵害、データの悪用といったリスクをもたらす可能性がある。AIガバナンスは、エンドユーザーの人権を保護し、AI技術によって危害がもたらされることを防止しながら、AI技術の建設的な利用を促進するために生まれた概念だ。
AIガバナンスを構成する主な要素を説明する。
効果的で持続可能なAIガバナンスを実現するために、組織が取るべき行動がある。その内容は以下の通りだ。
AIモデルガバナンスは、AIガバナンスから派生した概念だ。組織がAIモデルや機械学習モデルの安全性を維持しながら開発し、使用する方法を規定する。これらのモデルを開発し、使用する組織は、以下の点に留意しなければならない。
各国の政府やAIシステムのユーザー組織は、AIガバナンスを推進している。AIガバナンスの成功は、AI技術を利用する人々の権利を保護するための政策や規制の策定にかかっている。
さまざまな企業がAIガバナンスに注目している。例えばMicrosoftは2022年に、AIのリスクを管理し、倫理的なAIガバナンスを戦略に組み込む組織向けのガイドである「Microsoft Responsible AI Standard」(責任あるAIの基準)の第2版を発表した。他にもAmazon Web ServicesやGoogle、IBM、Meta、OpenAIなどのさまざまなITベンダーが、AIガバナンスやガードレールの導入に取り組んでいる。
この分野に取り組む米国の政府機関として、2021年に発足したホワイトハウス科学技術政策局の全米AIイニシアチブ室(National Artificial Intelligence Initiative Office)がある。国家人工知能諮問委員会(NAIAC)は、米国の国家AI構想の一環として創設された、AI関連の課題について大統領に助言する組織だ。米国立標準技術研究所(NIST)は官民の協力ので、AI技術を扱う人々のためのリスク管理のためのフレームワーク「AIリスクマネジメントフレームワーク」(AI RMF:AI Risk Management Framework)を開発した。
AIに説明責任や透明性を求める法制度の整備が、現実のAI技術に追い付いていないと懸念を表明する専門家やベンダーもある。2023年3月、AIの専門家や実業家のイーロン・マスク氏、Appleの共同創業者のスティーブ・ウォズニアック氏などのメンバーが、AI研究の一時停止と法規制の成文化を求める公開書簡に署名した。同年5月、OpenAIのCEOであるサム・アルトマン氏は、米国上院のAI技術の規制に関する小委員会の公聴会で、AI規制を求める議会証言をした。
フォルクスワーゲンがGoogleとタッグ 生成AI「Gemini」搭載で、何ができる?
Volkswagen of AmericaはGoogleと提携し、Googleの生成AI機能を専用アプリ「myVW」に導入...
JAROに寄せられた「広告への苦情」は50年分でどれくらい? 業種別、媒体別の傾向は?
設立50周年を迎えた日本広告審査機構(JARO)が、これまでに寄せられた苦情を取りまとめ...
データサイエンティストの認知率は米国6割、インド8割 さて、日本は?
データサイエンティスト協会は、日本と米国、インド、ドイツの4カ国で、データサイエンテ...