データの倫理的活用を考える【第4回】
「データの倫理的活用なんて当たり前」と自信満々な人ほど危険な理由
AI技術のために用意したデータを、企業は倫理的に扱えているのか。データの倫理的活用に自信を見せるビジネスリーダーもいるが、その実態は。
第3回「“取りあえずデータ収集”の落とし穴 『警察や検察へのデータ開示』が招く問題」は、データ収集に伴うリスクと消費者との信頼関係の重要性を解説した。今回は、企業が人工知能(AI)技術を扱うに当たって直面し得るデータ利活用の課題を紹介する。
「データの倫理的活用に自信あり」のビジネスリーダーほど危険な理由
データの倫理的扱いにおける今後の重要なポイントは、AI技術を活用したシステムの構築だ。調査会社IDCでシニアリサーチアナリストを務めるビョーン・ステンゲル氏は、AI技術の倫理的活用に自信を見せる企業が少なくないことに触れ、この傾向に警鐘を鳴らす。
ステンゲル氏はAI技術の活用について「まだ比較的初期段階にあり、企業はAI技術の使用が実際に意味するところを理解し始めたばかりだ」と語る。この段階でビジネスリーダーがデータの倫理的活用に自信を持っているとすれば、それは「関係するリスクを完全に理解できていないことの現れだ」(ステンゲル氏)。
「企業はデータを使用して既にある偏見を増長させ、実害を招きかねない判断をしようとしている」と、CRM(顧客関係管理)大手Salesforce(salesforce.com)のキャシー・バクスター氏は指摘する。バクスター氏は、同社でAI技術の倫理的実践についてのプリンシパルアーキテクトを務める。
AI技術の倫理的な活用が問題となった最近の例としては、
- 白人男性ばかりを選ぶ採用システム
- 有色人種を高リスクと評価する仮釈放判断システム
- 女性の信用情報を低く評価するクレジットカード会社のシステム
- 無実の人々の逮捕につながる顔認識システム
などがある。バクスター氏によると、企業が成功を収めるには予測や意思決定の正確性を高める必要がある。一方で「社会のためには、AI技術を構成するデータが有害な偏見を生んでいないことを確実にする必要がある」と同氏は話す。
第5回は、倫理的データ活用の原則を現場に落とし込む方法を考える。
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
比較資料
[JCOM株式会社] PBX更改の最適解は? 「オンプレvs.クラウド」比較ガイド -
製品資料
[JCOM株式会社] 「電話環境」見直しガイド:PBX保守終了前に知っておきたいポイントを解説 -
製品資料
[JFEシステムズ株式会社] 製造業のERP刷新:手戻り・肥大化・長期化を招く「6つの落とし穴」の回避策とは -
事例
[JFEシステムズ株式会社] キャタラーに学ぶ「製造業のERP刷新」 約8カ月の短期稼働を実現した秘訣とは? -
製品資料
[JFEシステムズ株式会社] Dynamics 365×製造業向けテンプレートで実現する、失敗リスクを抑えたERP刷新
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「オフィス移転・刷新に伴うネットワーク環境の実態」に関するアンケート
-
2
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
3
「企業のサーバ環境と調達・価格動向」に関するアンケート
-
4
Outlookでゼロデイ悪用、ChromeはXSLT停止――今朝の情シスニュース
-
5
「IBM i(AS/400)はクローズドなシステム」という誤解 DXに寄与する一歩
-
6
2027年電子帳簿保存法のさらなる改正 安易なシステム導入の落とし穴
-
7
なぜAIで「無意味な仕事」が増えるのか 人間の監視がむしろ足かせに?
-
8
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
9
「エンタープライズAI活用・基盤整備」に関するアンケート
-
10
「AI PCの導入状況と課題」に関するアンケート
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー