生成AIは、人間のバイアス（偏見）を増長させる可能性がある。例えば、企業が特定のアプリケーションに大規模言語モデル（LLM）を組み込む場合、LLMの学習データにバイアスが含まれていて問題になる可能性がある。コンサルティング企業PricewaterhouseCoopers（PwC）でクラウドおよびデジタルアナリティクスインサイト担当パートナーを務めるブレット・グリーンスタイン氏は、「企業は、学習データやAIモデルに含まれる無意識のバイアスをなくすため、多様なバックグラウンドを持つリーダーや幅広い領域の専門家を配置すべきだ」とアドバイスする。

6．労働市場の変化

　生成AIは、コーディングやコンテンツ作成、要約、分析といったナレッジワーカー（知識労働者）の業務を、人間より早く遂行できる。これまでも人間の業務をAI技術や自動化ツールに置き換える動きは進んできたが、生成AIはこのペースを加速させている。

　このような状況を踏まえて、「企業は従業員が変化に対処できるよう、生成AIに関するスキル習得を支援すべきだ」とグリーンスタイン氏は話す。例えば生成AIの登場によって、プロンプト（情報を生成するための質問や指示）を作成する「プロンプトエンジニア」といった新たな職種が生まれており、企業は新しい職種に向けたスキル開発を従業員に対して実施すべきだ。

　コンサルティング企業SSA & Companyでアプライドソリューション担当バイスプレジデントを務めるニック・クレイマー氏は、「生成AI導入を検討する企業は、労働者や業務内容、組織設計に与える影響まで考える必要がある」と指摘する。従業員のスキル開発は、生成AIに起因する従業員の解雇といった影響を最小限に抑えるだけでなく、企業の成長にも貢献する。

7．データプロビナンスの懸念

　生成AIの精度は、データのプロビナンス（データのソースや生成方法の追跡）に依存する。こう話すのは、信用スコアリングサービス企業Fair Isaac（FICO）でチーフアナリティクスオフィサーを務めるスコット・ゾルディ氏だ。学習データの中には、どのデータを基に学習したのかが不明瞭で、バイアスを生む可能性のあるデータが含まれている懸念がある。そうしたデータは、同意なしに使用されていて、十分に管理されていない可能性がある。

　例えば、AIベンダーOpenAIのAIチャットbot（AI技術を活用したチャットbot）「ChatGPT」のように、インターネット上の情報を取得して回答を出力する生成AIが存在する。ゾルディ氏はこのようなデータの精度について懐疑的な見方をしている。

　FICOの開発チームは10年以上にわたり、不正検知アルゴリズムのトレーニングに生成AIを使用してきた。生成AIが出力したデータには常に「合成データ」のラベルを付け、データ利用の許容範囲を判別できるような仕組みを作っている。生成AIが生成したデータは、AIモデルの学習データとしては使用せず、テストとシミュレーションのためだけに使用する。

8．説明可能性・解釈可能性の欠如

　生成AIの一般的なトレーニング方法としては、学習データを相互に関連付けたり、属性の確率を計算してグループ化したりする方法がある。一方でChatGPTをはじめ、データ処理の詳細を明らかにしていない生成AIモデルもある。その場合、生成AIが出力した結果の信頼性には疑問が残る。ユーザーは生成AIに質問する際、結果の因果関係を説明してほしいと考える。しかし、生成AIが探るのは因果関係ではなく相関関係だ。そのため生成AIを使用する際は、モデルの解釈可能性、つまりモデルがその回答を出力した理由を注意して見るべきだ。「その回答には納得のいく説明があるのか、それとも結果だけ話しているのか、理解する必要がある」とゾルディ氏はアドバイスする。