生成AIの登場はビジネスに変革のチャンスをもたらすと同時に、新たなリスクをも生んだ。企業は、生成AIが引き起こし得る倫理的問題への対策を考える必要がある。懸念となるポイントを整理しよう。
テキストや画像などを自動生成するAI（人工知能）技術「生成AI」（ジェネレーティブAI）が引き起こし得る倫理的問題にどう対処するかは、生成AIをビジネスに活用したい企業にとって大きな課題となっている。例えば、生成AIが出力した内容に誤った情報や有害コンテンツを含んでいたり、著作権侵害に該当したりといったリスクがある。これらは、企業が取り組むべき新たな課題だと言える。
コンサルティング企業Boston Consulting Group（BCG）でマネージングディレクター兼シニアパートナーを務めるタッド・ローズランド氏は、「生成AIがもたらすリスクに対処するには、明確な戦略やガバナンス、責任あるAI活用の取り組みなど、包括的なアプローチが必要だ」と指摘する。企業は具体的にどのようなポイントを考慮すればいいのか。本稿では生成AIがもたらす懸念事項8つのうち、4つを紹介する。
生成AIは人間からプロンプト（生成AIへの指示）を受け取り、その情報を基にしてコンテンツを自動生成する。コンサルティング企業PricewaterhouseCoopers（PwC）でクラウドおよびデジタルアナリティクスインサイト担当パートナーを務めるブレット・グリーンスタイン氏は、「生成AIは生産性向上に役立つが、意図せず有害な用途に使用される危険性がある」と語る。例えば、生成AIが作成したメールが意図せず攻撃的な言葉を含んでいたり、誤った内容を含んでいたりする可能性がある。
「生成AIは人間や既存のプロセスを代替するのではなく、あくまで補強するために使用されるべきだ」とグリーンスタイン氏は強調する。その上で同氏は、生成したコンテンツが企業の倫理的要件を満たしており、ブランド価値を毀損（きそん）していないことを確認する必要があるとアドバイスする。
一般的に生成AIは、インターネットを含む複数のデータソースから画像やテキストのデータを学習する。生成AIが生成した画像やソースコードは、どのデータを基に学習した結果なのかが不明な場合がある。これは金融取引を扱う金融機関や、医薬品の分子生成を手掛ける製薬会社にとって問題となり得る。生成AIを用いて考案した製品が他社の知的財産に基づいていた場合、財務リスクや風評被害が発生するからだ。ローズランド氏は、「生成AIの知的財産や著作権の侵害に関する判例が明確になるまで、企業は生成AIの使用を精査する必要がある」とアドバイスする。
大規模言語モデル（LLM）の学習データには、個人識別情報（PII）が含まれる場合がある。AI技術の調査機関Montreal AI Ethics Instituteの創設者兼プリンシパルリサーチャーであるアビシェーク・グプタ氏は、「単純なテキストを用いたプロンプトを用いて、PIIをはじめとするデータを引き出すことが可能だ」と指摘する。さらに、従来の検索エンジンの場合とは異なり、消費者が自身の個人情報を探し出して削除を申請することが難しい可能性もある。LLMのトレーニングを実施する企業は、プライバシーに関する法律を順守し、使用するLLMにPIIが含まれていないことや、LLMからPIIを削除する方法を確認する必要がある。
生成AIが登場したことで、AI技術にアクセスできる人の層が広がり、「AIの民主化」が実現しつつある。一方で、生成AIを使用する医療関係者の不注意で患者の機密情報が漏えいしたり、生成AIを活用する企業が意図せずに自社戦略を第三者に公開してしまったりといった事態も起きているとローズランド氏は指摘する。このような不測の事態が発生した場合、組織は顧客の信頼を失うだけでなく、訴訟に直面する可能性がある。
企業は機密情報や保護対象データ、および知的財産を保護するために、生成AIを利用するに当たっての明確なガイドラインやガバナンス方針を確立し、社内で共有するようローズランド氏は呼び掛ける。
後編は、残る4つの懸念を整理して紹介する。
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
適切に生成AIを使いこなすために、情報には「共有範囲」を設定することが重要となるが、管理が不十分だと“過剰共有”の状況が発生する。過剰共有は社内での情報漏えいにつながる可能性もあるため、十分な対策が必要となる。
生成AIの活用には機密情報漏えいなどのリスクがあるため、利用を制限しているケースもある。しかし、完全に利用を制限してしまうと競合に後れを取る可能性がある。そこで重要なのが、セキュリティと利便性を両立できるような環境構築だ。
昨今、多くの組織がAIエージェントや生成AIをビジネスに活用しつつある。今後はAIをどうビジネスに組み込んでいくかが、組織が飛躍するためのポイントになるだろう。そこで本資料では、AIがもたらす10のビジネス価値を解説する。
顧客体験（CX）を向上させるための手段として、広く注目されつつあるAIだが、実際にFAQやチャット／チャットbotにAIを導入することで、CXはどれだけ高まるのか。次世代のカスタマーサービスの作り方と、そのメリットを探る。
営業資料や議事録といった資料作成において、生成AIへの期待が高まっている。中でも注目したいのがZoomの生成AI機能だ。会議データからの資料作成は、生成AI活用でどのように効率化されるのか。動画で紹介する。
お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア（株）が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。
「ECプラットフォーム」売れ筋TOP10（2025年4月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年4月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は？
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...
ITmediaはアイティメディア株式会社の登録商標です。
