ジェネレーティブAIへの心構え【第4回】

AIが吐き出す“もっともらしい大うそ”に惑わされないための対処法

テキストや画像などを自動生成する「ジェネレーティブAI」を利用する際、特有の“厄介な問題”に気を付ける必要がある。それは何なのか。どう対処すればよいのか。Forrester Researchの見解から探る。

公開 2023年04月06日 08時15分

[TechTarget]

印刷する連載新着通知を受け取る

　「ジェネレーティブAI」は、テキストや画像などを自動生成する人工知能（AI）技術だ。調査会社Forrester Researchは2022年12月、公式ブログに「Beware of “Coherent Nonsense” When Implementing Generative AI」と題したエントリ（投稿）を公開した。ジェネレーティブAIの実装時には「筋の通った無意味な言葉」に注意すべし――これがエントリの趣旨だ。その真意とは。

ジェネレーティブAIの“もっともらしい大うそ”への対処法はこれだ

併せて読みたいお薦め記事

連載：ジェネレーティブAIへの心構え

ジェネレーティブAIで何が変わるのか

　ジェネレーティブAIの仕組みは、人の成長の観点から見ると9歳～11歳の子どもに似ているとエントリは説明する。言い換えると、ジェネレーティブAIは「複数の言葉をもっともらしくつなぎ合わせて論理的な主張を作る」ことはできる。だがジェネレーティブAIが作り話をしているだけなのか、エンドユーザーが聞きたいことに対する答えを提示しているのかは「エンドユーザーには判断が難しい」ということだ。

　Forrester Researchは、ジェネレーティブAIの導入に際して次の行為を推奨する。

使い方を決める際の推奨事項
- ジェネレーティブAIが使用する教師データが信頼できる情報源から入手したものかどうかを確認する。
- 教師データの正確性をITリーダーやビジネスリーダーが評価する。
外部がトレーニングしたAIモデルを利用する際の推奨事項
- 教師データ内の潜在的な偏見や交絡因子（特定の事象に影響を与え得る周辺的な因子）を特定できるよう、データソースの監査方法を検討する。

　ジェネレーティブAIが、質問に関する前提条件や背景情報（コンテキスト）を理解できるかどうかを確認することも重要だ。Forrester Researchは、ジェネレーティブAIについて以下を評価することを推奨する。