「AI」の信頼性と透明性の確保に向けて【前編】
本当は怖くない「AI」 説明可能性はなぜ大事か
アルゴリズムに対する信頼性がなければ、AI技術の導入は進まないだろう。そこで今、企業はAI技術を採用した自社システムの透明性を高め、説明可能にする取り組みを進めている。
人工知能（AI）技術があらゆる場面で使われつつある一方で、一部に導入へのためらいが見えるのは不思議ではない。「AIはSF（サイエンスフィクション）が描く未来のようで恐ろしいものだ」という考えも根強い。そこで実際の、あるいは想像が生み出す懸念に対処するため、AI技術の信頼性と透明性を高めようと取り組む企業もある。政府機関もより高い説明可能性（Explainability）を義務付ける法律や規制を検討している。
ユーザーからの信頼を得るには、AIエンジンが決定を下す仕組みの透明性が欠かせない。信頼できなければ、ユーザーはAI技術が組み込まれたシステムを導入しないだろう。そのため企業の間で、こうしたAI技術ベースのシステムが機能する仕組みを説明しようと積極的に取り組む動きが広がっている。目標とするのは、AIシステムが人類に対する陰謀を企てるようにトレーニングされた魂なき機械などではなく、正しいことをするツールだとユーザーに認めてもらうことだ。
併せて読みたいお薦め記事
「AI」の意思決定は信じられるか
「AI」の信頼性を巡る議論
意思決定機能を備えるさまざまな製品にAI技術が組み込まれ始めている。それに伴い、企業はそうしたシステムで実際に何が起こっているのか、システムがどのように動作しているかを、よりオープンにしようと努めている。つまり時間をかけてアルゴリズムの仕組みについての情報や機械学習モデルのトレーニングに使うデータの詳細を公開している。このような活動には、ユーザーがAIシステムに不安を感じないよう支援し、AIシステムの信頼性と透明性を高めるという目標がある。
AIシステムへの信頼の構築
決定をどのように下し、どのように動作するかといったAIシステムの仕組みについて、ユーザーがより簡単に理解できるようにするには、説明可能性も後押しになる。自社のトレーニングデータが信頼できることだけでなく、そのデータから公平で正しい結果がもたらされることも示そうとしている企業もある。現状では、偏りのあるトレーニングデータの使用について多くの議論が交わされている。こうした議論を受けて、システムのデータ収集方法や評価方法を公開することで、起こりかねない批判に先回りして対処しようとする企業もある。
AI技術には、多くの業界を変え、働き方や生活の仕方、コミュニケーションの仕方を変える力がある。そのためAI技術の利用規制に注目が集まっている。規制の現実性に疑問はあるが、何もせず放置すれば危険な影響を及ぼしかねないという指摘もある。自動運転車や自律型航空機、顔認証技術、bot、世論、投票に影響を与えるシステムなどへのAI技術の利用に、こうした懸念が示されている。ユーザー、システム、政府機関が機械学習駆動型の攻撃を受ける恐れもある。これらのさまざまな懸念から、AI技術を活動の中心とする企業が水面下で取り組んでいることをどの程度公開する必要があるか、関係者はより深く考えるようになっている。
特定のアプリケーションでの限られたAI技術の利用に対する懸念もあれば、機械が非常に高い知能を持つようになるといった想像の話に対する懸念もある。またAIシステムがマルチプレイヤーゲームで人間を打ち負かした「DeepMind」の最近の成功を、アルゴリズムが人間から独立する前兆だと考える人もいる。AIシステムは、実物のように見える偽画像の生成にも使用されている。本物と見分けが付かない偽の動画や画像、いわゆる「ディープフェイク」に関する話は、見聞きしているものや読んでいるものを信じられなくなるという新たな課題を生み出す。
顔認証や自動運転車などの技術がもっと一般的になれば、それに伴いAI技術の普及も進むことになる。そのため、これらの技術の利用や潜在的な悪用に対処するには、規制を早めに導入することが欠かせないだろう。何ら監視がなくても、企業はAI技術の信頼性と透明性に十分な注意を払うだろうか。政府機関がAI技術の倫理の枠組みを明確にして構築することが必要になると考えられる。それはAI技術の悪用を防ぐためだけではない。日常的なAI技術の利用が人々の心配の種にならないようにするためでもある。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社MatrixFlow] 「物流リソース最適化」ガイド：人員・配車・傭車を出庫依頼の確定前に決めきる -
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か？ PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える？ 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
2
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
3
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
4
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
5
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
6
「IBM iはDXのボトルネック」は誤解 意外と知らない今風モダナイズの効果
-
7
「朝8時にバッチが終わらない」データ爆発の危機をJPX総研はどう乗り越えたか
-
8
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
9
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
-
10
AI導入後に発覚する「社内文書を読めない」問題 情シスは何を直せばいい？
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
4
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
5
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
6
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
7
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
“あのファイル転送”で暗躍するノーウェアランサム
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー