“危ない人工知能”をなくすには「AI版エネルギースター」を作るべし専門家が提言

AIシステムの危険性を排除するには、AIシステムの開発や利用に関する適切なルールが必要だ――。こう主張する専門家ニコル・ターナー・リー氏は「AI版エネルギースター」が必要だと指摘する。その真意とは。

2022年09月15日 05時00分 公開
[Makenzie HollandTechTarget]

関連キーワード

機械学習


 人工知能(AI)関連の政策を適正にするには、政策立案者とデータサイエンティストが連携して、AIシステムを利用する企業向けに適切なルールを作成する必要がある――。技術誌MIT Technology Reviewが2022年3月に開催したAI関連イベント「EmTech Digital 2022」でこう提唱したのは、政策調査機関Brookings Institutionの技術調査組織Center for Technology Innovationでディレクターを務めるニコル・ターナー・リー氏だ。

「AI版エネルギースターが必要」と専門家が主張 その真意は?

 欧州連合(EU)や各国政府は、社会に浸透し、刑事司法制度や金融システムなどに悪影響を及ぼしかねないAIシステムを規制する方法を探ろうとしている。AIシステム自体には否がなくても「AIシステムの利用ルールや、AIシステム開発者の説明責任に関するルールの欠如によって問題が生じている」と、ターナー・リー氏は指摘する。

予防策の設定とデューデリジェンスの動機付け

 全てのAIシステムが不適切というわけではない。政策立案者は、AIシステムの影響や機密度、危険性が最も高い分野を見極め、そこに規制の取り組みを集中させる必要があるとターナー・リー氏は語る。例えば住宅ローンといった、消費者向け金融製品の審査に利用するAIシステムにはガードレール(予防策)を設け、人種を認識する技術が消費者のプライバシーを侵害するといったことがないようにする必要がある。

 AIシステムの開発に当たっては、データサイエンティストにデューデリジェンス(適正評価手続き)の実施を義務付けることをターナー・リー氏は求めている。データサイエンティストは、AIシステムに対するテストを済ませて、適切な監査ツールを組み込むだけではなく、そのAIシステムに対して説明責任を負う必要がある。「責任を負うのは政府ではない。データサイエンティストの責任であり、AIシステムを認可する機関や企業の責任だ」(同氏)

 政策立案者がデューデリジェンスに関して果たすべき役割は、基準に準拠した透明なAIシステムを開発する動機を企業に与えることだ。実際には、AIシステムが連邦基準を満たしているかどうかをユーザーが把握できるように、家電製品における「ENERGY STAR」(エネルギースター)に匹敵する評価システムを作成すべきだとターナー・リー氏は提案する。省エネルギー型電気製品のための環境認証制度であるENERGY STARは、エネルギー効率に関して連邦政府が義務付けるガイドラインを家電製品が満たしていることを示す。

 「私たちにできることは透明性を生み出すことだ。そうすればAIシステムを適切にする優れた文化を生み出すことができる」とターナー・リー氏は話す。政策立案者とデータサイエンティストが協力して、AIシステムの適切化への道筋となるルールを定義する必要があると同氏は付け加える。「そうした『あるべき姿』について、人々が協力して取り組むことが必要だ」(同氏)

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

news135.png

インターネットの利用環境、女性の66%は「スマホのみ」――LINEヤフー調査
LINEヤフーが実施した2023年下期のインターネット利用環境に関する調査結果です。

news108.png

LINEで求職者に合った採用情報を配信 No Companyが「チャットボット for 採用マーケティング」を提供開始
就活生が身近に利用しているLINEを通して手軽に自社の採用情報を受け取れる環境を作れる。

news102.jpg

GoogleがIABのプライバシーサンドボックス批判に猛反論 完全論破へ42ページのレポートを公開
Googleは、米インタラクティブ広告協会から寄せられた批判について「多くの誤解と不正確...