「AI」の信頼性と透明性の確保に向けて【後編】
企業による「AI」のガバナンスはどこまで有効か
AI技術の透明性は重要な課題だ。対策は企業の自主規制に任せるべきだという意見もあるが、政府が介入すべきだという声も根強くある。
人工知能（AI）技術の悪用防止対策は企業の自主規制に任せるべきだという意見がある。一方、政府機関が介入すべきだという意見もある。2019年初頭にGoogleがAI倫理委員会を発足させたが、その発足を巡る議論を受け、わずか1週間で委員会を解散する結果となったのは有名な話だ。このため、企業がAI技術の利用を自主規制できると考えている人は多くない。
規制が厳しい業界ではAI技術の透明性がさらに差し迫った課題になる。銀行業や保険業など、ローン管理や信用リスク判断のシステムにAI技術を利用する業界では、こうしたAIシステムが信頼される必要がある。
金融機関は、ある人物にローンや類似商品の提供を受ける資格があるかどうかを簡単かつ迅速に評価している。AIシステムがそうした人物への商品提供を拒否する判断を下した場合、金融機関はAIシステムがその決断を下すまでにたどった手順を参照できるようにする必要があるだろう。新たな技術課題を議論するATARC（Advanced Technology Academic Research Center）などの新しい技術グループや標準化団体の間では、説明可能性のレベルの標準化に関する議論が交わされている。特定のアルゴリズムの説明可能性について、細かい洞察をユーザーや規制当局に提供するためだ。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
製薬業は金融機関と同様、規制が厳しい。この業界でも、創薬や医薬品製造、臨床試験などの支援を含め、AI技術よる大きな進歩が起きている。診察はもちろんソーシャルメディアなどさまざまなソースから得た幅広いデータや情報をAIシステムが利用することで、臨床試験に適した候補者を見つけることが可能になる。これにより適切に対象を絞ることができ、試験全体の時間短縮やコスト削減につながる。
規制の厳しい業界全般にいえることだが、製薬会社は監査証跡を残し、個人を試験に選んだ方法について説明可能な手順と意思決定を文書化する必要がある。このため説明可能性という考え方に取り組むことは非常に重要だ。
AI規制の課題
規制に関して言えば、政府機関はまだAI技術の実情に追い付こうとしているところだ。ファンドによるAI技術への投資を規制するという、独特な方法を取っている政府機関もある。その根底には企業への金銭の流れを制御することで、AI技術が公共の利益につながる分野に直接貢献できるようにし、その変化の間に法律を技術進化に追い付けるようにするという考えがある。ただしAI関連のスタートアップ（創業間もない企業）やベンダーには、既に多くの金銭が流れ込んでいる。これほど膨大な資金の前では、ファンドの規制によって成長を抑えようとしても役に立たないだろう。
GDPR（一般データ保護規則）が適用される欧州を筆頭に、世界中の政府機関が企業に透明性の確保を義務付けようとしている。企業は、実際の処理内容をユーザーや関係者全員に伝え、AI技術の判断がもたらした結果への影響について、ユーザーが知ることができるようにする必要がある。これは、AI技術が何らかの方法で権利を悪用するために使用されたり、積極的に個人の不利に働くような方法で使用されたりした場合に、影響を受けた人物が訴訟を起こし、政府機関の協力の下で倫理に反する取り組みを管理または終了させられることを意味する。現状ではこの実現は難しい可能性がある。それが最終的に社会の助けになるかどうかは、時がたてば分かるだろう。
コンプライアンス（法令順守）違反で規制に関する罰則を受ける恐れがある企業では、コンプライアンス、監査可能性、リスク管理の点でAI技術が大きな価値をもたらし得る。つまりAI技術はガバナンスの問題を引き起こす一方で、既存のこうした問題を解決することに役立つ可能性もある。ガバナンスフレームワークを導入する重要性は増している。特に、いわゆる「AIファースト」（製品／サービスを開発する上で、AI技術の採用を最優先すること）の戦略を掲げる企業には不可欠だ。
今後、日常生活にAI技術が占める割合はさらに大きくなる。透明性や説明可能性のレベル、コンプライアンス関連の問題といった重要な検討事項を解決することが、世界中の政府機関や企業に求められることになる。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握 -
製品資料
[株式会社マクニカ] 「脆弱性総まとめ」解説 被害事例から考える必須の対策ポイント -
製品資料
[Splunk Services Japan合同会社] サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには -
製品資料
[株式会社うるる] 「入札市場」完全ガイドブック：メリットから資格取得のポイントまで -
市場調査・トレンド
[株式会社うるる] はじめての「自治体／官公庁入札」 必要な知識がすぐに学べる入門ガイド
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
2
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
3
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
4
「世界一給与にハングリー」な日本のエンジニアが“雇用の安定”を求める理由
-
5
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
-
6
「VMwareのコスト」に悩んでいるユーザー企業に送る、VMwareを残す・捨てる基準
-
7
後付けガバナンスの崩壊 PayPalが設計段階からデータを縛る理由
-
8
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
-
9
迫る“インフラ崩壊”の危機 米英を相次いで襲った「PLC悪用攻撃」の全貌
-
10
「GPTかClaudeか」だけでは不十分 AI選定で情シスが見るべき3つの仕組み
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー