データの倫理的活用を考える【第4回】
「データの倫理的活用なんて当たり前」と自信満々な人ほど危険な理由
AI技術のために用意したデータを、企業は倫理的に扱えているのか。データの倫理的活用に自信を見せるビジネスリーダーもいるが、その実態は。
第3回「“取りあえずデータ収集”の落とし穴 『警察や検察へのデータ開示』が招く問題」は、データ収集に伴うリスクと消費者との信頼関係の重要性を解説した。今回は、企業が人工知能(AI)技術を扱うに当たって直面し得るデータ利活用の課題を紹介する。
「データの倫理的活用に自信あり」のビジネスリーダーほど危険な理由
データの倫理的扱いにおける今後の重要なポイントは、AI技術を活用したシステムの構築だ。調査会社IDCでシニアリサーチアナリストを務めるビョーン・ステンゲル氏は、AI技術の倫理的活用に自信を見せる企業が少なくないことに触れ、この傾向に警鐘を鳴らす。
ステンゲル氏はAI技術の活用について「まだ比較的初期段階にあり、企業はAI技術の使用が実際に意味するところを理解し始めたばかりだ」と語る。この段階でビジネスリーダーがデータの倫理的活用に自信を持っているとすれば、それは「関係するリスクを完全に理解できていないことの現れだ」(ステンゲル氏)。
「企業はデータを使用して既にある偏見を増長させ、実害を招きかねない判断をしようとしている」と、CRM(顧客関係管理)大手Salesforce(salesforce.com)のキャシー・バクスター氏は指摘する。バクスター氏は、同社でAI技術の倫理的実践についてのプリンシパルアーキテクトを務める。
AI技術の倫理的な活用が問題となった最近の例としては、
- 白人男性ばかりを選ぶ採用システム
- 有色人種を高リスクと評価する仮釈放判断システム
- 女性の信用情報を低く評価するクレジットカード会社のシステム
- 無実の人々の逮捕につながる顔認識システム
などがある。バクスター氏によると、企業が成功を収めるには予測や意思決定の正確性を高める必要がある。一方で「社会のためには、AI技術を構成するデータが有害な偏見を生んでいないことを確実にする必要がある」と同氏は話す。
第5回は、倫理的データ活用の原則を現場に落とし込む方法を考える。
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
2
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
3
「Microsoft 365のセキュリティ運用」に関するアンケート
-
4
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには?
-
5
221人調査で分かった「情シス最大のストレス」は?
-
6
「Salesforceのテスト自動化ツール」に関するアンケート
-
7
「データストレージの活用方法」に関するアンケート
-
8
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
9
AIで人を減らした企業がもう心変わり 「AIブーメラン現象」の実態
-
10
自宅のWi-Fiが「遅い」「途切れる」本当の原因は? Dellが推奨する鉄則
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは?
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う? いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには? サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは?
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー