AI生成コンテンツを見分けられるか?【第6回】
生成AIが書いた「きれいな文」に混入する“AIのわずかな痕跡”はこれだ
AIモデルによる出力結果の精度が高まる中で、AIモデル製のコンテンツと人間製のコンテンツの判別が難しくなっている。見分けるにはどのような特徴に着目すればいいのか。
LLM(大規模言語モデル)が膨大なデータを学習するにつれ、テキストや画像などを自動生成するAI(人工知能)技術「生成AI」(ジェネレーティブAI)の精度は向上している。コンテンツが人間製なのか、それともAIモデル製なのかを判別するのは、もはや極めて難しくなりつつある。ただし見分けるための“こつ”はある。どのような特徴を見ればいいのか。
「AI」を見抜くための複数の着眼点
併せて読みたいお薦め記事
連載:AI生成コンテンツを見分けられるか?
- 第1回:「AI製なのかどうか」を人間にはもう見破れない現実
- 第2回:それ、AI製? 人には判別不能でも「検出ツール」なら見破れるのか
- 第3回:AIチェッカーに「自筆」と「AIポエム」を判別させたら面白い結果に
- 第4回:AI検出は「ChatGPTの文」をどこまで見抜けるのか? 複数ツールで試してみた
- 第5回:「生成AI」対「AIコンテンツ検出ツール」 勝ったのはどっち?
生成AIのリスクに関する記事
AI技術の法的および技術的リスクを専門とする法律事務所Luminos.Lawで主席サイエンティストを務めるパトリック・ホール氏は、AIベンダーに対し、以下のような予防手段を講じるよう呼び掛ける。
- AIモデルが生成したコンテンツにウオーターマーク(透かし)を入れる
- 生成AIツールを提供する際、信頼性のある「AIコンテンツ検出ツール」を付属にする
生成AIコンテンツ検出ツールは、将来的に信頼できるものとして日常的に受け入れられるようになる可能性がある。それまでの間は、探偵シャーロック・ホームズや刑事コロンボになったつもりで、経験と直感に頼り、コンテンツ内の「AIモデルが残した痕跡」を探すのが最善だ。
例えば以下に示す7つのポイントは、AIモデルが出力したコンテンツである可能性が高い傾向にある。
1.画一的な文章構成
AIモデルが生成したコンテンツは、文の長さや構成に一貫性があり過ぎたり、画一的になり過ぎたりする傾向がある。人間が書いた文章の機敏さや複雑さと比較すると、ひどく退屈で単調な印象を受けることもある。
2.繰り返される単語やフレーズ
AIモデルが出力できる語彙(ごい)は、LLMによって制限されている。人間ならばより良い代替の単語やフレーズを使用する場面でも、AIが生成したコンテンツは全体的に同じ表現を繰り返す場合がある。
3.矛盾
AIモデルが生成したコンテンツは、解釈的な分析や文脈の整理、首尾一貫した議論ができていない場合がある。特に、出力要件が複雑過ぎる場合にこの傾向が顕著だ。
第7回も、引き続きAIモデルが生成したコンテンツを見分ける際に着目すべきポイントを解説する。
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
2
「Microsoft 365のセキュリティ運用」に関するアンケート
-
3
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
4
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには?
-
5
221人調査で分かった「情シス最大のストレス」は?
-
6
「Salesforceのテスト自動化ツール」に関するアンケート
-
7
「データストレージの活用方法」に関するアンケート
-
8
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
9
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
10
自宅のWi-Fiが「遅い」「途切れる」本当の原因は? Dellが推奨する鉄則
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは?
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う? いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには? サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは?
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー