生成AIの「倫理的リスク」とは結局どういう問題？　“4つの視点”で解説：生成AI「8つの倫理的懸念」を整理【前編】

生成AIの登場はビジネスに変革のチャンスをもたらすと同時に、新たなリスクをも生んだ。企業は、生成AIが引き起こし得る倫理的問題への対策を考える必要がある。懸念となるポイントを整理しよう。

≫ 2023年11月27日 05時00分公開

1．有害なコンテンツの生成

併せて読みたいお薦め記事

生成AIのリスクに関する記事

　生成AIは人間からプロンプト（生成AIへの指示）を受け取り、その情報を基にしてコンテンツを自動生成する。コンサルティング企業PricewaterhouseCoopers（PwC）でクラウドおよびデジタルアナリティクスインサイト担当パートナーを務めるブレット・グリーンスタイン氏は、「生成AIは生産性向上に役立つが、意図せず有害な用途に使用される危険性がある」と語る。例えば、生成AIが作成したメールが意図せず攻撃的な言葉を含んでいたり、誤った内容を含んでいたりする可能性がある。

　「生成AIは人間や既存のプロセスを代替するのではなく、あくまで補強するために使用されるべきだ」とグリーンスタイン氏は強調する。その上で同氏は、生成したコンテンツが企業の倫理的要件を満たしており、ブランド価値を毀損（きそん）していないことを確認する必要があるとアドバイスする。

2．著作権の侵害

　一般的に生成AIは、インターネットを含む複数のデータソースから画像やテキストのデータを学習する。生成AIが生成した画像やソースコードは、どのデータを基に学習した結果なのかが不明な場合がある。これは金融取引を扱う金融機関や、医薬品の分子生成を手掛ける製薬会社にとって問題となり得る。生成AIを用いて考案した製品が他社の知的財産に基づいていた場合、財務リスクや風評被害が発生するからだ。ローズランド氏は、「生成AIの知的財産や著作権の侵害に関する判例が明確になるまで、企業は生成AIの使用を精査する必要がある」とアドバイスする。

3．データプライバシーの侵害

　大規模言語モデル（LLM）の学習データには、個人識別情報（PII）が含まれる場合がある。AI技術の調査機関Montreal AI Ethics Instituteの創設者兼プリンシパルリサーチャーであるアビシェーク・グプタ氏は、「単純なテキストを用いたプロンプトを用いて、PIIをはじめとするデータを引き出すことが可能だ」と指摘する。さらに、従来の検索エンジンの場合とは異なり、消費者が自身の個人情報を探し出して削除を申請することが難しい可能性もある。LLMのトレーニングを実施する企業は、プライバシーに関する法律を順守し、使用するLLMにPIIが含まれていないことや、LLMからPIIを削除する方法を確認する必要がある。

4．機密情報の漏えい

　生成AIが登場したことで、AI技術にアクセスできる人の層が広がり、「AIの民主化」が実現しつつある。一方で、生成AIを使用する医療関係者の不注意で患者の機密情報が漏えいしたり、生成AIを活用する企業が意図せずに自社戦略を第三者に公開してしまったりといった事態も起きているとローズランド氏は指摘する。このような不測の事態が発生した場合、組織は顧客の信頼を失うだけでなく、訴訟に直面する可能性がある。

　企業は機密情報や保護対象データ、および知的財産を保護するために、生成AIを利用するに当たっての明確なガイドラインやガバナンス方針を確立し、社内で共有するようローズランド氏は呼び掛ける。

　後編は、残る4つの懸念を整理して紹介する。

TechTarget発　世界のインサイト＆ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。

TechTargetジャパントップエンタープライズAI