AIの偽情報対策【前編】
「完璧な文章」に潜むうそをどう見抜く? 専門家が指摘する“限界”と次の一手
LLMが生成する完璧な文章には、もっともらしい偽情報が含まれていることがある。文法や表現の自然さといった従来の手掛かりが通用しなくなったいま、専門家が提唱する新たな対抗策とは何か。
大規模言語モデル(LLM)は、正確な文法と巧みな表現で文章を生成できる人工知能(AI)モデルだ。この飛躍的な進歩は、ジャーナリズムや教育、ビジネスコミュニケーションの効率化を推し進めた一方で、偽情報の検出をより困難にした。専門家でさえ、LLMが生成した文章と人間が書いた文章を区別するのに苦労する現状において、偽情報をどのように見分ければよいのだろうか。
あふれ返る「LLMのうそ」に対抗する手段
この問いは、オランダの数学・情報科学研究所であるCentrum Wiskunde & Informatica(CWI)が2025年5月に開催した、偽情報とLLMに関するシンポジウムの中心的なテーマだった。シンポジウムに参加した研究者は偽情報がどのように進化しているのか、それに対抗するためにどのような新しいツールやアプローチが必要なのかを探った。主催者の一人であるCWIの研究者、ダビデ・チェオリン氏は、情報の質、AIモデルのバイアス(偏見)、説明可能性(AIモデルのデータ処理過程や分析結果の理由を説明する能力)を専門としている。
かつて偽情報を見分ける手掛かりとなっていた文法的な誤りや不自然な言い回し、言語的な矛盾といった特徴は、LLMが生成する文章と人間による文章の見分けがつかなくなるにつれて、時代遅れの判断基準になりつつある。
この変化で生じるのは、単なる技術的な課題にとどまらない。世界経済フォーラム(World Economic Forum)は、偽情報を2024年、2025年の2年連続で「世界的に重大な短期的リスク」のトップに位置付けている。LLMが生成する文章の巧妙さが、こうした懸念を増大させる主な要因であり、企業にとっても個人にとっても根本的な課題となっている。
チェオリン氏のチームは、言語的な特徴や情報の評判を手掛かりに、初期の偽情報に特有の兆候を検出するツールや手法を開発してきた。そのために、アムステルダム自由大学(Vrije Universiteit Amsterdam)やミラノ大学(University of Milan)など、複数の研究機関と連携し、自然言語処理(NLP)、論理的推論、クラウドソーシングといった技術を駆使している。
だが、状況は根本的に変わってしまった。LLMは以前よりも言語的に正しい文章を生成できるようになったため、文法的な正しさを頼りに、その情報が本物か偽物かを人間が見抜くことができなくなったとチェオリン氏は指摘する。
LLMが生成した文章から、偽情報を見分ける従来の手掛かりが消えつつある一方で、生成される文章の量、巧妙さ、個人に合わせた最適化の度合いは飛躍的に増大している。ライデン大学(Leiden University)でサイバーセキュリティを教えるトミー・ファン・スティーン氏は、研究者が直面する根本的な課題について説明する。同大学が2025年5月に主催した学際イベント「Night of Digital Security」には、法律、犯罪学、テクノロジー、行政の専門家が集まった。
イベントで、ファン・スティーン氏は次のように述べた。「『フェイクニュース』という概念や言葉が広まったのは、2016年の米大統領選挙の時期に、トランプ前大統領が、自身が同意できないものを全て偽情報と呼んだことがきっかけだ」
問題はあからさまな捏造(ねつぞう)だけにとどまらないとファン・スティーン氏は指摘する。「『誤情報』(misinformation)と『偽情報』(disinformation)を区別することが重要だ。どちらも不正確な情報を共有する点では同じだが、前者は意図的ではなく、後者は意図的である点が異なる」
言語解析だけでは不十分
チェオリン氏のようなAI技術の社会的リスクを研究する専門家にとって、LLMが生成する文章がもたらす影響は、単なる文章生成の域をはるかに超える。同氏のチームがCWIのフランスにおける姉妹機関Inriaと共同で実施した研究は、計算言語学の主要な国際会議であるACL(Association for Computational Linguistics)の論文として採択された。この研究は、LLMがプロンプト(質問や指示)の言語やプロンプトによって与えられた国籍に応じて、異なる政治的バイアスを示すことを明らかにした。同じLLMを、異なる言語で、あるいは異なる国籍の人物として、同一の政治的傾向を測る質問に答えさせたところ、その結果は大きく異なった。
一方でファン・スティーン氏は、偽情報が単に真実か偽りかという二元論で割り切れるものではないことを強調する。同氏は偽情報を性質に応じて分類するため、風刺やパロディーから完全に捏造されたコンテンツまで、7つのカテゴリーから成るフレームワークを提唱している。
「全くのでたらめか、完全な真実かという単純な話ではない。その間には、『事実を巧妙に切り取った報道』や『文脈を無視した引用』といった情報が存在し、それらもあからさまなうそと同じか、それ以上に有害な情報になり得る」(ファン・スティーン氏)
チェオリン氏は、技術的な手段だけではなく、他のエンドユーザーと協力して、偽情報の特定を促進すべきだと狩猟する。このアプローチは、純粋な自動検出から、「透明性が高いシステム」と同氏が呼ぶものへの大きな転換を意味する。このシステムは、評価の根拠をエンドユーザーに提供する。ブラックボックス化したアルゴリズムが二者択一の判断を下すのではなく、その意思決定プロセスをエンドユーザーに説明することで、エンドユーザーの知識を深め、判断能力を高めることを目指す。
次回も引き続き、AI技術が生む偽情報のリスクと、それに対する対抗策を取り上げる。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget発 グローバルITピックアップ
TechTargetジャパンの記事の一部で生成AIを補助的に活用し、米国Informa TechTargetの記事を翻訳・編集して国内向けにお届けします。編集部による内容の確認を徹底しています。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[Neatframe株式会社] 「AIへのデータ受け渡し精度」が決め手 船井総研HDが選んだ会議システムは? -
事例
[Neatframe株式会社] 会議はスピードが命 レックの“爆速商品開発”を生み出す会議環境とは -
事例
[Neatframe株式会社] オフィス回帰で発生する「会議室不足」 NECはどう解消したのか? -
事例
[ServiceNow Japan合同会社] 大阪市の未来を創る「行政DX」の本質と、その取り組みを支える統合基盤の実力 -
事例
[ServiceNow Japan合同会社] 【行政DX先進事例】横浜市が「市民に大切な時間を返す」を実現できた理由とは?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
企業が「Microsoft Azure」を選ばざるを得ない理由
-
2
PC選びの妙で差がつくAI時代 通常PC、AI PC、Copilot+ PCをどう使い分ける?
-
3
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
4
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
-
5
「Check Point」で悪用確認、Windows臨時更新――今朝の情シスニュース
-
6
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
7
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
8
「データ活用とAI活用の実態」に関するアンケート
-
9
「最新のセキュリティ脅威とオープンソースの対策状況」に関するアンケート
-
10
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
6
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
10
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー