「AI」の信頼性と透明性の確保に向けて【前編】
本当は怖くない「AI」 説明可能性はなぜ大事か
アルゴリズムに対する信頼性がなければ、AI技術の導入は進まないだろう。そこで今、企業はAI技術を採用した自社システムの透明性を高め、説明可能にする取り組みを進めている。
人工知能(AI)技術があらゆる場面で使われつつある一方で、一部に導入へのためらいが見えるのは不思議ではない。「AIはSF(サイエンスフィクション)が描く未来のようで恐ろしいものだ」という考えも根強い。そこで実際の、あるいは想像が生み出す懸念に対処するため、AI技術の信頼性と透明性を高めようと取り組む企業もある。政府機関もより高い説明可能性(Explainability)を義務付ける法律や規制を検討している。
ユーザーからの信頼を得るには、AIエンジンが決定を下す仕組みの透明性が欠かせない。信頼できなければ、ユーザーはAI技術が組み込まれたシステムを導入しないだろう。そのため企業の間で、こうしたAI技術ベースのシステムが機能する仕組みを説明しようと積極的に取り組む動きが広がっている。目標とするのは、AIシステムが人類に対する陰謀を企てるようにトレーニングされた魂なき機械などではなく、正しいことをするツールだとユーザーに認めてもらうことだ。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
意思決定機能を備えるさまざまな製品にAI技術が組み込まれ始めている。それに伴い、企業はそうしたシステムで実際に何が起こっているのか、システムがどのように動作しているかを、よりオープンにしようと努めている。つまり時間をかけてアルゴリズムの仕組みについての情報や機械学習モデルのトレーニングに使うデータの詳細を公開している。このような活動には、ユーザーがAIシステムに不安を感じないよう支援し、AIシステムの信頼性と透明性を高めるという目標がある。
AIシステムへの信頼の構築
決定をどのように下し、どのように動作するかといったAIシステムの仕組みについて、ユーザーがより簡単に理解できるようにするには、説明可能性も後押しになる。自社のトレーニングデータが信頼できることだけでなく、そのデータから公平で正しい結果がもたらされることも示そうとしている企業もある。現状では、偏りのあるトレーニングデータの使用について多くの議論が交わされている。こうした議論を受けて、システムのデータ収集方法や評価方法を公開することで、起こりかねない批判に先回りして対処しようとする企業もある。
AI技術には、多くの業界を変え、働き方や生活の仕方、コミュニケーションの仕方を変える力がある。そのためAI技術の利用規制に注目が集まっている。規制の現実性に疑問はあるが、何もせず放置すれば危険な影響を及ぼしかねないという指摘もある。自動運転車や自律型航空機、顔認証技術、bot、世論、投票に影響を与えるシステムなどへのAI技術の利用に、こうした懸念が示されている。ユーザー、システム、政府機関が機械学習駆動型の攻撃を受ける恐れもある。これらのさまざまな懸念から、AI技術を活動の中心とする企業が水面下で取り組んでいることをどの程度公開する必要があるか、関係者はより深く考えるようになっている。
特定のアプリケーションでの限られたAI技術の利用に対する懸念もあれば、機械が非常に高い知能を持つようになるといった想像の話に対する懸念もある。またAIシステムがマルチプレイヤーゲームで人間を打ち負かした「DeepMind」の最近の成功を、アルゴリズムが人間から独立する前兆だと考える人もいる。AIシステムは、実物のように見える偽画像の生成にも使用されている。本物と見分けが付かない偽の動画や画像、いわゆる「ディープフェイク」に関する話は、見聞きしているものや読んでいるものを信じられなくなるという新たな課題を生み出す。
顔認証や自動運転車などの技術がもっと一般的になれば、それに伴いAI技術の普及も進むことになる。そのため、これらの技術の利用や潜在的な悪用に対処するには、規制を早めに導入することが欠かせないだろう。何ら監視がなくても、企業はAI技術の信頼性と透明性に十分な注意を払うだろうか。政府機関がAI技術の倫理の枠組みを明確にして構築することが必要になると考えられる。それはAI技術の悪用を防ぐためだけではない。日常的なAI技術の利用が人々の心配の種にならないようにするためでもある。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社ラクス] どうすれば「変革を楽しむ組織」になれるのか? 事例に学ぶ、未来への一歩 -
製品レビュー
[デル・テクノロジーズ株式会社] 変化するサイバー脅威に備える、これからのストレージの選び方 -
事例
[サイボウズ株式会社] 受注約1.5倍と年間2万3000時間超の業務時間を削減、日機装に学ぶDX実践術 -
製品レビュー
[サイボウズ株式会社] 人材不足にどう挑む? ものづくり太郎が語る、製造現場でのAI活用成功の鍵 -
市場調査・トレンド
[グーグル・クラウド・ジャパン合同会社] 金融機関はAIエージェント導入でどう変わる? 7つの変化から19の事例まで解説
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
迫る“データセンターの危機” 「液冷」への移行は避けられないのか?
-
2
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
3
RAGで「データをAIに送る」運用が限界を迎えている理由
-
4
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
-
5
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
6
PHP2Shellは序章に過ぎない NVIDIA幹部が警告する「脆弱性の波」
-
7
「企業内サーバ環境の利用実態」に関するアンケート
-
8
村田製作所が1000台のサーバをAWSに移行 キンドリルの「AIOps」でどう変わる?
-
9
通話録音の個人情報を自動で無音化 専用端末を無償貸与
-
10
なぜ「全社配布Copilot」は使われないのか? 失敗に学ぶAI定着
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
本当に使える「会議翻訳ツール」を見極める4つの選定基準
-
3
有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは
-
4
パスワードレスへの移行で失敗しないためには? 導入・運用上の注意点を解説
-
5
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
6
自社のセキュリティ対策は大丈夫? 自己診断リストで対策の優先順位が分かる
-
7
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
8
「テスト内製化&自動化」事例集:ディー・エヌ・エーなど9社に学ぶ実践のコツ
-
9
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
10
ランサムウェア攻撃“究極の対策”はこれだ
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー