生成AIの「倫理的リスク」とは結局どういう問題? “4つの視点”で解説生成AI「8つの倫理的懸念」を整理【前編】

生成AIの登場はビジネスに変革のチャンスをもたらすと同時に、新たなリスクをも生んだ。企業は、生成AIが引き起こし得る倫理的問題への対策を考える必要がある。懸念となるポイントを整理しよう。

2023年11月27日 05時00分 公開
[George LawtonTechTarget]

関連キーワード

人工知能 | プライバシー


 テキストや画像などを自動生成するAI(人工知能)技術「生成AI」(ジェネレーティブAI)が引き起こし得る倫理的問題にどう対処するかは、生成AIをビジネスに活用したい企業にとって大きな課題となっている。例えば、生成AIが出力した内容に誤った情報や有害コンテンツを含んでいたり、著作権侵害に該当したりといったリスクがある。これらは、企業が取り組むべき新たな課題だと言える。

 コンサルティング企業Boston Consulting Group(BCG)でマネージングディレクター兼シニアパートナーを務めるタッド・ローズランド氏は、「生成AIがもたらすリスクに対処するには、明確な戦略やガバナンス、責任あるAI活用の取り組みなど、包括的なアプローチが必要だ」と指摘する。企業は具体的にどのようなポイントを考慮すればいいのか。本稿では生成AIがもたらす懸念事項8つのうち、4つを紹介する。

1.有害なコンテンツの生成

 生成AIは人間からプロンプト(生成AIへの指示)を受け取り、その情報を基にしてコンテンツを自動生成する。コンサルティング企業PricewaterhouseCoopers(PwC)でクラウドおよびデジタルアナリティクスインサイト担当パートナーを務めるブレット・グリーンスタイン氏は、「生成AIは生産性向上に役立つが、意図せず有害な用途に使用される危険性がある」と語る。例えば、生成AIが作成したメールが意図せず攻撃的な言葉を含んでいたり、誤った内容を含んでいたりする可能性がある。

 「生成AIは人間や既存のプロセスを代替するのではなく、あくまで補強するために使用されるべきだ」とグリーンスタイン氏は強調する。その上で同氏は、生成したコンテンツが企業の倫理的要件を満たしており、ブランド価値を毀損(きそん)していないことを確認する必要があるとアドバイスする。

2.著作権の侵害

 一般的に生成AIは、インターネットを含む複数のデータソースから画像やテキストのデータを学習する。生成AIが生成した画像やソースコードは、どのデータを基に学習した結果なのかが不明な場合がある。これは金融取引を扱う金融機関や、医薬品の分子生成を手掛ける製薬会社にとって問題となり得る。生成AIを用いて考案した製品が他社の知的財産に基づいていた場合、財務リスクや風評被害が発生するからだ。ローズランド氏は、「生成AIの知的財産や著作権の侵害に関する判例が明確になるまで、企業は生成AIの使用を精査する必要がある」とアドバイスする。

3.データプライバシーの侵害

 大規模言語モデル(LLM)の学習データには、個人識別情報(PII)が含まれる場合がある。AI技術の調査機関Montreal AI Ethics Instituteの創設者兼プリンシパルリサーチャーであるアビシェーク・グプタ氏は、「単純なテキストを用いたプロンプトを用いて、PIIをはじめとするデータを引き出すことが可能だ」と指摘する。さらに、従来の検索エンジンの場合とは異なり、消費者が自身の個人情報を探し出して削除を申請することが難しい可能性もある。LLMのトレーニングを実施する企業は、プライバシーに関する法律を順守し、使用するLLMにPIIが含まれていないことや、LLMからPIIを削除する方法を確認する必要がある。

4.機密情報の漏えい

 生成AIが登場したことで、AI技術にアクセスできる人の層が広がり、「AIの民主化」が実現しつつある。一方で、生成AIを使用する医療関係者の不注意で患者の機密情報が漏えいしたり、生成AIを活用する企業が意図せずに自社戦略を第三者に公開してしまったりといった事態も起きているとローズランド氏は指摘する。このような不測の事態が発生した場合、組織は顧客の信頼を失うだけでなく、訴訟に直面する可能性がある。

 企業は機密情報や保護対象データ、および知的財産を保護するために、生成AIを利用するに当たっての明確なガイドラインやガバナンス方針を確立し、社内で共有するようローズランド氏は呼び掛ける。


 後編は、残る4つの懸念を整理して紹介する。

TechTarget発 世界のインサイト&ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。

ITmedia マーケティング新着記事

news053.jpg

フォルクスワーゲンがGoogleとタッグ 生成AI「Gemini」搭載で、何ができる?
Volkswagen of AmericaはGoogleと提携し、Googleの生成AI機能を専用アプリ「myVW」に導入...

news175.jpg

JAROに寄せられた「広告への苦情」は50年分でどれくらい? 業種別、媒体別の傾向は?
設立50周年を迎えた日本広告審査機構(JARO)が、これまでに寄せられた苦情を取りまとめ...

news085.jpg

データサイエンティストの認知率は米国6割、インド8割 さて、日本は?
データサイエンティスト協会は、日本と米国、インド、ドイツの4カ国で、データサイエンテ...