生成AIの成果が台無しに……企業に待ち受ける「未知の2大リスク」とは?生成AIの今後の見通し【後編】

企業における生成AI導入の動きが広がるのに伴い、さまざまな懸念が浮かび上がっている。特に企業の事業継続を揺るがしかねない2つの重大なリスクとは何か。

2024年04月02日 07時00分 公開
[Cliff SaranTechTarget]

関連キーワード

人工知能


 企業のビジネスや社内の業務において、テキストや画像などを自動生成するAI技術「生成AI」(ジェネレーティブAI)の活用が今後さらに広がるだろう。企業は生成AIによって生産性向上などのメリットを享受できる半面、生成AI導入に伴うさまざまなリスクに直面することになる。特にリスクをもたらす可能性のある、2つの懸念がある。

生成AIの成果が台無しになる「未知の2大リスク」とは

会員登録(無料)が必要です

倫理的リスク

 企業は生成AIの倫理的リスクに直面する。債券信用格付け会社Moody’s Investors Serviceが2024年1月に発表した報告書「2024 AI Outlook」によると、AIモデルの性能は学習データの質に依存する。つまり、人種や性別、経済的要因などバイアス(偏り)を含むデータを学習したAIモデルは、企業の信頼性を損ねるような回答を出力する可能性がある。一方で、有害な結果は今のところ限定的であるとも報告されている。

セキュリティリスク

 AI技術のセキュリティリスクにも注意が必要だ。今後の企業の予算配分において、AIプロジェクトはセキュリティプロジェクトと予算を奪い合うことになると予測される。特に、セキュリティプロジェクトに単独の予算を割り当てていない組織において、この傾向は顕著になる見込みだ。

 企業はAI技術の導入時、適切なシステム設定やセキュリティ対策をしなければならない。それを怠ると、標的型攻撃をはじめとするサイバー脅威の標的になり、被害を受ける可能性がある。AI技術を扱う経験が不足している場合、特にこのリスクは強まる。

 AIツールの土台となるクラウドサービスの利用拡大も、セキュリティリスクにつながる。クラウドサービスで運用するシステムは非常に複雑になりがちで、セキュリティリスクを抑止する対策が容易ではない。クラウドベンダーはAIサービス向けのセキュリティ対策に取り組んでいるが、ユーザー企業数が増える中では対策に十分に行き渡るとは限らない。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

新着ホワイトペーパー

製品資料 グーグル・クラウド・ジャパン合同会社

約80%の企業でAIが定着していない? その理由と成功させるためのポイントとは

生成AIを活用して業務や顧客体験の再構築を進める動きが活性化しているが、その多くが、PoCやラボ環境の段階にとどまっている。なぜなら、生成AIの可能性を最大限に引き出すための、インフラのパフォーマンスが不十分だからだ。

市場調査・トレンド グーグル・クラウド・ジャパン合同会社

ソフトウェア開発ライフサイクルにおける、生成AI活用のポイントを考察する

昨今のソフトウェア開発では、AIコーディングアシスタントの活用が主流になっている。しかし、最適なコーディングアシストツールは、開発者や企業によって異なるという。導入の際は、どのようなポイントに注意すればよいのか。

製品資料 グーグル・クラウド・ジャパン合同会社

データベースをモダナイズし、生成AIを最大限に活用する方法とは?

生成AIの活用にはデータベースが重要となるが、従来のデータベースは最新テクノロジーに対応できないなどの課題がある。本資料では、データベースをモダナイズし、生成AIを用いてビジネスイノベーションを生み出すための方法を探る。

製品資料 グーグル・クラウド・ジャパン合同会社

検索体験と結果の質をどう高める? ユーザーに喜ばれる検索体験を実現する方法

ビジネスにおいて、検索体験およびその結果の質の向上が重要なテーマとなっている。顧客はもちろん、自社の従業員に対しても、実用的な答えをより迅速に、手間なく入手できる環境の整備が求められている。

事例 グーグル・クラウド・ジャパン合同会社

検索の効率化からデータ活用まで、生成AIの業務組み込み事例5選

登場以来ビジネスへの活用方法が模索されてきた生成AI。近年では業務組み込みにおける具体的な成功例が数多く報告されている。本資料では、5件の生成AI活用事例を交えて、業務に組み込む上での具体的なアプローチを解説する。

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

ITmedia マーケティング新着記事

news025.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。