「AI」の信頼性と透明性の確保に向けて【前編】
本当は怖くない「AI」 説明可能性はなぜ大事か
アルゴリズムに対する信頼性がなければ、AI技術の導入は進まないだろう。そこで今、企業はAI技術を採用した自社システムの透明性を高め、説明可能にする取り組みを進めている。
人工知能（AI）技術があらゆる場面で使われつつある一方で、一部に導入へのためらいが見えるのは不思議ではない。「AIはSF（サイエンスフィクション）が描く未来のようで恐ろしいものだ」という考えも根強い。そこで実際の、あるいは想像が生み出す懸念に対処するため、AI技術の信頼性と透明性を高めようと取り組む企業もある。政府機関もより高い説明可能性（Explainability）を義務付ける法律や規制を検討している。
ユーザーからの信頼を得るには、AIエンジンが決定を下す仕組みの透明性が欠かせない。信頼できなければ、ユーザーはAI技術が組み込まれたシステムを導入しないだろう。そのため企業の間で、こうしたAI技術ベースのシステムが機能する仕組みを説明しようと積極的に取り組む動きが広がっている。目標とするのは、AIシステムが人類に対する陰謀を企てるようにトレーニングされた魂なき機械などではなく、正しいことをするツールだとユーザーに認めてもらうことだ。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
意思決定機能を備えるさまざまな製品にAI技術が組み込まれ始めている。それに伴い、企業はそうしたシステムで実際に何が起こっているのか、システムがどのように動作しているかを、よりオープンにしようと努めている。つまり時間をかけてアルゴリズムの仕組みについての情報や機械学習モデルのトレーニングに使うデータの詳細を公開している。このような活動には、ユーザーがAIシステムに不安を感じないよう支援し、AIシステムの信頼性と透明性を高めるという目標がある。
AIシステムへの信頼の構築
決定をどのように下し、どのように動作するかといったAIシステムの仕組みについて、ユーザーがより簡単に理解できるようにするには、説明可能性も後押しになる。自社のトレーニングデータが信頼できることだけでなく、そのデータから公平で正しい結果がもたらされることも示そうとしている企業もある。現状では、偏りのあるトレーニングデータの使用について多くの議論が交わされている。こうした議論を受けて、システムのデータ収集方法や評価方法を公開することで、起こりかねない批判に先回りして対処しようとする企業もある。
AI技術には、多くの業界を変え、働き方や生活の仕方、コミュニケーションの仕方を変える力がある。そのためAI技術の利用規制に注目が集まっている。規制の現実性に疑問はあるが、何もせず放置すれば危険な影響を及ぼしかねないという指摘もある。自動運転車や自律型航空機、顔認証技術、bot、世論、投票に影響を与えるシステムなどへのAI技術の利用に、こうした懸念が示されている。ユーザー、システム、政府機関が機械学習駆動型の攻撃を受ける恐れもある。これらのさまざまな懸念から、AI技術を活動の中心とする企業が水面下で取り組んでいることをどの程度公開する必要があるか、関係者はより深く考えるようになっている。
特定のアプリケーションでの限られたAI技術の利用に対する懸念もあれば、機械が非常に高い知能を持つようになるといった想像の話に対する懸念もある。またAIシステムがマルチプレイヤーゲームで人間を打ち負かした「DeepMind」の最近の成功を、アルゴリズムが人間から独立する前兆だと考える人もいる。AIシステムは、実物のように見える偽画像の生成にも使用されている。本物と見分けが付かない偽の動画や画像、いわゆる「ディープフェイク」に関する話は、見聞きしているものや読んでいるものを信じられなくなるという新たな課題を生み出す。
顔認証や自動運転車などの技術がもっと一般的になれば、それに伴いAI技術の普及も進むことになる。そのため、これらの技術の利用や潜在的な悪用に対処するには、規制を早めに導入することが欠かせないだろう。何ら監視がなくても、企業はAI技術の信頼性と透明性に十分な注意を払うだろうか。政府機関がAI技術の倫理の枠組みを明確にして構築することが必要になると考えられる。それはAI技術の悪用を防ぐためだけではない。日常的なAI技術の利用が人々の心配の種にならないようにするためでもある。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握 -
製品資料
[株式会社マクニカ] 「脆弱性総まとめ」解説 被害事例から考える必須の対策ポイント -
製品資料
[Splunk Services Japan合同会社] サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには -
製品資料
[株式会社うるる] 「入札市場」完全ガイドブック：メリットから資格取得のポイントまで -
市場調査・トレンド
[株式会社うるる] はじめての「自治体／官公庁入札」 必要な知識がすぐに学べる入門ガイド
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
2
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
3
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
4
「企業内サーバ環境の利用実態」に関するアンケート
-
5
AI基盤は本当に「オンプレ回帰」する？ Broadcomの言い分と企業の本音
-
6
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
-
7
「攻撃側にナイフ、防御側にパン」 OpenAIの10億ドル支援に潜む危うさ
-
8
「世界一給与にハングリー」な日本のエンジニアが“雇用の安定”を求める理由
-
9
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
-
10
「Linuxサーバの長期運用とRed Hat Enterprise Linux」に関するアンケート
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー