生成AIの成果が台無しに……企業に待ち受ける「未知の2大リスク」とは？

企業における生成AI導入の動きが広がるのに伴い、さまざまな懸念が浮かび上がっている。特に企業の事業継続を揺るがしかねない2つの重大なリスクとは何か。

公開 2024年04月02日 07時01分

更新 2024年04月01日 05時33分

著者

Cliff Saran

[TechTarget]

印刷する連載新着通知を受け取る

　企業のビジネスや社内の業務において、テキストや画像などを自動生成するAI技術「生成AI」（ジェネレーティブAI）の活用が今後さらに広がるだろう。企業は生成AIによって生産性向上などのメリットを享受できる半面、生成AI導入に伴うさまざまなリスクに直面することになる。特にリスクをもたらす可能性のある、2つの懸念がある。

生成AIの成果が台無しになる「未知の2大リスク」とは

併せて読みたいお薦め記事

連載：生成AIの今後の見通し

「AIが仕事を奪う日」が本当に来るなら“まず消える”のはあの職種？

気を付けたいAI導入時の注意点

倫理的リスク

　企業は生成AIの倫理的リスクに直面する。債券信用格付け会社Moody’s Investors Serviceが2024年1月に発表した報告書「2024 AI Outlook」によると、AIモデルの性能は学習データの質に依存する。つまり、人種や性別、経済的要因などバイアス（偏り）を含むデータを学習したAIモデルは、企業の信頼性を損ねるような回答を出力する可能性がある。一方で、有害な結果は今のところ限定的であるとも報告されている。

セキュリティリスク

　AI技術のセキュリティリスクにも注意が必要だ。今後の企業の予算配分において、AIプロジェクトはセキュリティプロジェクトと予算を奪い合うことになると予測される。特に、セキュリティプロジェクトに単独の予算を割り当てていない組織において、この傾向は顕著になる見込みだ。

　企業はAI技術の導入時、適切なシステム設定やセキュリティ対策をしなければならない。それを怠ると、標的型攻撃をはじめとするサイバー脅威の標的になり、被害を受ける可能性がある。AI技術を扱う経験が不足している場合、特にこのリスクは強まる。

　AIツールの土台となるクラウドサービスの利用拡大も、セキュリティリスクにつながる。クラウドサービスで運用するシステムは非常に複雑になりがちで、セキュリティリスクを抑止する対策が容易ではない。クラウドベンダーはAIサービス向けのセキュリティ対策に取り組んでいるが、ユーザー企業数が増える中では対策に十分に行き渡るとは限らない。