422件の誘導事例を確認

生成AIが「危険サイト」に誘導する事例を確認、どのような手口？

生成AIは便利な一方で、新たな脅威の温床にもなっている。攻撃者がインターネット上の情報を不正に操作することで、生成AIが危険なWebサイトを案内してしまうという。どのような手口なのか。

公開 2026年04月11日 08時02分

更新 2026年08月25日 16時12分

[TechTargetジャパン]

印刷する連載新着通知を受け取る

　近年、「ChatGPT」などの生成AI（AI：人工知能）を活用したチャットbotは、日常的な情報検索や文章作成の支援など、さまざまな場面で広く使われている。しかし、その利便性が高まる一方で、生成AIが提示する情報の安全性に対する懸念も浮上している。

　トレンドマイクロの脅威リサーチャーは、生成AIチャットbotの回答に含まれる外部Webサイトへのリンクや、アクセス元のリファラー情報などを独自に調査および分析した。回答の参照URLに自動付与されるパラメータなどを利用することで、生成AIサービスからの誘導実態を詳細に把握できる。

　その結果、2026年2月のテレメトリーデータ（システムや機器の稼働状況に関するデータ）から、生成AIを経由して少なくとも422件の危険なWebサイトに誘導された事例を確認した。これらの危険サイトには、偽ショッピングサイトや不正プログラム配信サイトが含まれており、利用者が詐欺被害に遭うリスクが潜んでいる。

　生成AIが意図せず危険なWebサイトを案内してしまう背景には、どのような攻撃手法や生成AIの特性が関係しているのか。

検索の「AIによる概要」も安全ではない？

併せて読みたいお薦め記事

生成AIのリスク

　生成AIが危険なWebサイトを利用者に提示してしまう要因の一つとして、トレンドマイクロは攻撃者による「SEOポイズニング」などの影響を指摘している。攻撃者は特定の偽サイトを検索エンジンの検索結果の上位に表示させるため、インターネット上の情報を不正に操作する。生成AIがそれらの汚染された情報を学習や参照の対象とすることで、危険なサイトを含む誤った回答が生成されてしまう仕組みだ。

　トレンドマイクロが検証した事例では、特定の商品を販売するWebサイトを尋ねるプロンプトに対し、偽ショッピングサイトへのリンクが含まれる回答が生成された（図1）。

図1　生成AIが偽サイトに誘導する画面例（提供：トレンドマイクロ）《クリックで拡大》

　誘導先の偽サイトは、正規のブランドサイトに似せたデザインを使用し、公式の商品画像を流用しているケースもあり、一見しただけでは真偽の見極めが極めて困難だ（図2）。利用者がAIの回答をうのみにしてこれらのWebサイトを利用した場合、代金を支払っても商品が届かないどころか、個人情報が悪用される恐れがある。

図2　正規ブランドに似せた偽ショッピングサイトの例（提供：トレンドマイクロ）《クリックで拡大》

　生成AI特有のハルシネーション（もっともらしい偽情報の生成）による被害事例も確認されている。動画生成AIの公式サイトのURLを、生成AIチャットbotに繰り返し質問したところ、事実とは異なる詐欺サイトのURLが公式サイトとして提示されるケースがあった。データ分析からも、複数の利用者がこの回答を信じて同じ詐欺サイトに誘導されていたことが明らかになっている。

　検索エンジンの検索結果に表示される「AIによる概要」機能においても、同様のリスクが確認されている（図3）。