ビジネスに生成AIを活用する企業は、そのリスクを適切に把握して対処すると同時に、リスクを逆手にとってチャンスに変えることが重要だ。生成AIにまつわる4つの懸念とポイントを整理する。
テキストや画像などを自動生成するAI（人工知能）技術「生成AI」（ジェネレーティブAI）をビジネスに活用する際、そのリスクを適切に把握して対処できていないと、ビジネスに深刻な打撃をもたらしかねない。生成AIを活用するのであれば、リスクに適切に対処するのと同時に、リスクをチャンスに変えることが重要だ。それに当たって企業が知っておくべき「生成AIの8つの懸念」のうち、後半の4つを解説する。
生成AIは、人間のバイアス（偏見）を増長させる可能性がある。例えば、企業が特定のアプリケーションに大規模言語モデル（LLM）を組み込む場合、LLMの学習データにバイアスが含まれていて問題になる可能性がある。コンサルティング企業PricewaterhouseCoopers（PwC）でクラウドおよびデジタルアナリティクスインサイト担当パートナーを務めるブレット・グリーンスタイン氏は、「企業は、学習データやAIモデルに含まれる無意識のバイアスをなくすため、多様なバックグラウンドを持つリーダーや幅広い領域の専門家を配置すべきだ」とアドバイスする。
生成AIは、コーディングやコンテンツ作成、要約、分析といったナレッジワーカー（知識労働者）の業務を、人間より早く遂行できる。これまでも人間の業務をAI技術や自動化ツールに置き換える動きは進んできたが、生成AIはこのペースを加速させている。
このような状況を踏まえて、「企業は従業員が変化に対処できるよう、生成AIに関するスキル習得を支援すべきだ」とグリーンスタイン氏は話す。例えば生成AIの登場によって、プロンプト（情報を生成するための質問や指示）を作成する「プロンプトエンジニア」といった新たな職種が生まれており、企業は新しい職種に向けたスキル開発を従業員に対して実施すべきだ。
コンサルティング企業SSA & Companyでアプライドソリューション担当バイスプレジデントを務めるニック・クレイマー氏は、「生成AI導入を検討する企業は、労働者や業務内容、組織設計に与える影響まで考える必要がある」と指摘する。従業員のスキル開発は、生成AIに起因する従業員の解雇といった影響を最小限に抑えるだけでなく、企業の成長にも貢献する。
生成AIの精度は、データのプロビナンス（データのソースや生成方法の追跡）に依存する。こう話すのは、信用スコアリングサービス企業Fair Isaac（FICO）でチーフアナリティクスオフィサーを務めるスコット・ゾルディ氏だ。学習データの中には、どのデータを基に学習したのかが不明瞭で、バイアスを生む可能性のあるデータが含まれている懸念がある。そうしたデータは、同意なしに使用されていて、十分に管理されていない可能性がある。
例えば、AIベンダーOpenAIのAIチャットbot（AI技術を活用したチャットbot）「ChatGPT」のように、インターネット上の情報を取得して回答を出力する生成AIが存在する。ゾルディ氏はこのようなデータの精度について懐疑的な見方をしている。
FICOの開発チームは10年以上にわたり、不正検知アルゴリズムのトレーニングに生成AIを使用してきた。生成AIが出力したデータには常に「合成データ」のラベルを付け、データ利用の許容範囲を判別できるような仕組みを作っている。生成AIが生成したデータは、AIモデルの学習データとしては使用せず、テストとシミュレーションのためだけに使用する。
生成AIの一般的なトレーニング方法としては、学習データを相互に関連付けたり、属性の確率を計算してグループ化したりする方法がある。一方でChatGPTをはじめ、データ処理の詳細を明らかにしていない生成AIモデルもある。その場合、生成AIが出力した結果の信頼性には疑問が残る。ユーザーは生成AIに質問する際、結果の因果関係を説明してほしいと考える。しかし、生成AIが探るのは因果関係ではなく相関関係だ。そのため生成AIを使用する際は、モデルの解釈可能性、つまりモデルがその回答を出力した理由を注意して見るべきだ。「その回答には納得のいく説明があるのか、それとも結果だけ話しているのか、理解する必要がある」とゾルディ氏はアドバイスする。
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
日々情報が増え続ける今、業務に必要な全ての情報を、社内外の関連ニュースや論文、特許情報などから収集していくのは至難の業だ。そこで業務に必要な情報を着実に届けるための仕組み作りに役立つサービスを紹介する。
クラウド利用の拡大に伴い、データが分散・肥大化する中、従来のセキュリティ対策の限界が見え始めている。データの所在や利用状況を可視化し、リスクを事前に把握して対応することが求められる今、有効となる新たなアプローチを探る。
AIの活用が急速に進む一方で、セキュリティリスクの増大が懸念され、企業の対応が急務となっている。本資料では、2024年2～12月までの5365億件のAI／ML（機械学習）トランザクションの分析に基づき、その実態と対策を多角的に考察する。
製造業の設計現場では、設計プロセスの複雑化などの課題が山積している。こうした中、注目を集めているのが生成AIの活用だ。本資料では、生成AIがもたらす設計業務の未来について、詳しく解説する。
多くの企業が業務における生成AIの有用性を実感する一方、高度な活用を目指すに当たり、壁に突き当たっているケースは多い。既存の業務やシステムと生成AIをスムーズに組み合わせ、自社に合った形で活用するには、どうすればよいのか。
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ（仮想PC画面）は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
「マーケティングオートメーション」 国内売れ筋TOP10（2025年5月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
ITmediaはアイティメディア株式会社の登録商標です。
