データの倫理的活用を考える【第4回】
「データの倫理的活用なんて当たり前」と自信満々な人ほど危険な理由
AI技術のために用意したデータを、企業は倫理的に扱えているのか。データの倫理的活用に自信を見せるビジネスリーダーもいるが、その実態は。
第3回「“取りあえずデータ収集”の落とし穴 『警察や検察へのデータ開示』が招く問題」は、データ収集に伴うリスクと消費者との信頼関係の重要性を解説した。今回は、企業が人工知能(AI)技術を扱うに当たって直面し得るデータ利活用の課題を紹介する。
「データの倫理的活用に自信あり」のビジネスリーダーほど危険な理由
データの倫理的扱いにおける今後の重要なポイントは、AI技術を活用したシステムの構築だ。調査会社IDCでシニアリサーチアナリストを務めるビョーン・ステンゲル氏は、AI技術の倫理的活用に自信を見せる企業が少なくないことに触れ、この傾向に警鐘を鳴らす。
ステンゲル氏はAI技術の活用について「まだ比較的初期段階にあり、企業はAI技術の使用が実際に意味するところを理解し始めたばかりだ」と語る。この段階でビジネスリーダーがデータの倫理的活用に自信を持っているとすれば、それは「関係するリスクを完全に理解できていないことの現れだ」(ステンゲル氏)。
「企業はデータを使用して既にある偏見を増長させ、実害を招きかねない判断をしようとしている」と、CRM(顧客関係管理)大手Salesforce(salesforce.com)のキャシー・バクスター氏は指摘する。バクスター氏は、同社でAI技術の倫理的実践についてのプリンシパルアーキテクトを務める。
AI技術の倫理的な活用が問題となった最近の例としては、
- 白人男性ばかりを選ぶ採用システム
- 有色人種を高リスクと評価する仮釈放判断システム
- 女性の信用情報を低く評価するクレジットカード会社のシステム
- 無実の人々の逮捕につながる顔認識システム
などがある。バクスター氏によると、企業が成功を収めるには予測や意思決定の正確性を高める必要がある。一方で「社会のためには、AI技術を構成するデータが有害な偏見を生んでいないことを確実にする必要がある」と同氏は話す。
第5回は、倫理的データ活用の原則を現場に落とし込む方法を考える。
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[SAS Institute Japan株式会社] 生成AIを予知保全に組み込むことで「産業設備保全」はどこまで進化できるのか -
市場調査・トレンド
[SAS Institute Japan株式会社] 製造企業が「AIによる価値創出」を迅速に実現する方法 -
技術文書・技術解説
[株式会社日立ソリューションズ] 開発と運用の分断を解消、実践知に基づくプラットフォームエンジニアリングとは -
事例
[株式会社日立ソリューションズ] 開発・運用の属人化をどう打破した? 日立ソリューションズの実践事例 -
技術文書・技術解説
[Eleven Labs Japan合同会社] 問い合わせ解決単価を約9割削減する試算も 音声AIエージェントのROIと活用例
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
2
Microsoft 365統一で「SharePoint」が1日2TB増 富士フイルムはどう管理した?
-
3
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
4
なぜ「Claude Code」拡張は消しても危ないのか? Cursorで不正版配信
-
5
8割がアナログに逆戻りする“やっぱりな理由” DXを阻む2つの落とし穴
-
6
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
7
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
8
停滞する製造業のDX、開発の生産性を高める可視化の実践方法
-
9
Web攻撃を受ける企業に共通するセキュリティ対策の誤り
-
10
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
6
「テスト内製化&自動化」事例集:ディー・エヌ・エーなど9社に学ぶ実践のコツ
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
9
進化が遅れる「電話」をアップデート、AIを搭載した次世代の通話機能とは?
-
10
有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー