AIが吐き出す“もっともらしい大うそ”に惑わされないための対処法ジェネレーティブAIへの心構え【第4回】

テキストや画像などを自動生成する「ジェネレーティブAI」を利用する際、特有の“厄介な問題”に気を付ける必要がある。それは何なのか。どう対処すればよいのか。Forrester Researchの見解から探る。

2023年04月06日 08時15分 公開
[Cliff SaranTechTarget]

関連キーワード

データ分析 | 業務効率


 「ジェネレーティブAI」は、テキストや画像などを自動生成する人工知能(AI)技術だ。調査会社Forrester Researchは2022年12月、公式ブログに「Beware of “Coherent Nonsense” When Implementing Generative AI」と題したエントリ(投稿)を公開した。ジェネレーティブAIの実装時には「筋の通った無意味な言葉」に注意すべし――これがエントリの趣旨だ。その真意とは。

ジェネレーティブAIの“もっともらしい大うそ”への対処法はこれだ

 ジェネレーティブAIの仕組みは、人の成長の観点から見ると9歳~11歳の子どもに似ているとエントリは説明する。言い換えると、ジェネレーティブAIは「複数の言葉をもっともらしくつなぎ合わせて論理的な主張を作る」ことはできる。だがジェネレーティブAIが作り話をしているだけなのか、エンドユーザーが聞きたいことに対する答えを提示しているのかは「エンドユーザーには判断が難しい」ということだ。

 Forrester Researchは、ジェネレーティブAIの導入に際して次の行為を推奨する。

  • 使い方を決める際の推奨事項
    • ジェネレーティブAIが使用する教師データが信頼できる情報源から入手したものかどうかを確認する。
    • 教師データの正確性をITリーダーやビジネスリーダーが評価する。
  • 外部がトレーニングしたAIモデルを利用する際の推奨事項
    • 教師データ内の潜在的な偏見や交絡因子(特定の事象に影響を与え得る周辺的な因子)を特定できるよう、データソースの監査方法を検討する。

 ジェネレーティブAIが、質問に関する前提条件や背景情報(コンテキスト)を理解できるかどうかを確認することも重要だ。Forrester Researchは、ジェネレーティブAIについて以下を評価することを推奨する。

  • 過去の質問を参照して、新しい質問を理解できるかどうか
  • エンドユーザーの違いを理解して、異なる答えを返すかどうか

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

隴�スー騾ケツ€郢晏ク厥。郢ァ�、郢晏現�ス郢晢スシ郢昜サ」�ス

製品資料 Splunk Services Japan合同会社

金融サービス業界のレジリエンス向上、AI活用の有効性とその実装方法とは

イノベーションの加速とともに、セキュリティやレジリエンスの維持などさまざまな課題が顕在化している金融サービス業界。課題の中身を確認しながら、その解決策として期待されるAI活用の有効性や実装方法を紹介する。

市場調査・トレンド Splunk Services Japan合同会社

金融業界におけるAIと機械学習の活用が進む中、解消しておきたい5つの誤解とは

金融業界においてAIツールの活用が進んでいる。一方で、セキュリティ面の不安を抱えている金融サービス企業は少なくない。このような懸念は、リスクとメリットを考慮して、AIと機械学習の戦略を策定することで解消できる。

プレミアムコンテンツ アイティメディア株式会社

AIには代替できない「ITエンジニア職」はこれだ

AI技術は進化を続け、人間の仕事の一部はAIによって代替可能になる。AI技術に代替されにくいITエンジニアの職種とは何か。ITエンジニアはどのようなキャリアを歩むべきなのか。

製品資料 日本ヒューレット・パッカード合同会社

AI活用を加速させる、スーパーコンピューティングの実力

AI活用には処理スピードが重要となる。特に、大規模言語モデルのトレーニングでは、長期的に稼働できる強力なコンピュート性能も求められる。そこで注目したいのが、AIモデルのトレーニングを加速させるスーパーコンピューティングだ。

製品レビュー 日本ヒューレット・パッカード合同会社

開発や分析の多様なニーズに応えながら、組織全体にAIを導入する方法とは?

AIを使ったイノベーションの推進が期待されているが、組織全体にAIを導入するためにはいくつかの課題を解消することが必要だ。開発や分析を担うエンジニアやデータサイエンティストのニーズに応えながら、組織全体にAIを導入する方法とは?

郢晏生ホヲ郢敖€郢晢スシ郢ァ�ウ郢晢スウ郢晢ソスホヲ郢晢ソスPR

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

AIが吐き出す“もっともらしい大うそ”に惑わされないための対処法:ジェネレーティブAIへの心構え【第4回】 - TechTargetジャパン エンタープライズAI 隴�スー騾ケツ€髫ェ蛟�スコ�ス

ITmedia マーケティング新着記事

news026.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...

news130.jpg

Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は?
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...

news040.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年4月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。