「生成AI」対「AIコンテンツ検出ツール」 勝ったのはどっち?AI生成コンテンツを見分けられるか?【第5回】

生成AIが出力したコンテンツの、正確性の欠如や法的侵害といったリスクが問題となっている。AI製なのかどうかを見分ける手段が必要だ。その方法として「AIコンテンツ検出ツール」がある。実際に使えるものなのか。

2024年02月10日 11時15分 公開
[Ron KarjianTechTarget]

 テキストや画像などを自動生成するAI(人工知能)技術である「生成AI」(ジェネレーティブAI)。求めるコンテンツを迅速に出力してくれる便利な技術だが、生成AIが出力したコンテンツには不正確な情報が含まれる傾向にある。そのコンテンツがAIモデル製なのかどうかの判別が重要だ。ただしその判別は極めて難しいのが現状だ。

 このような課題の解決に役立つのが、コンテンツを生成したのが人間なのか、AIモデルなのかを判別する「AIコンテンツ検出ツール」だ。筆者は6つのAIコンテンツ検出ツールを実際に使用し、その性能を調査した。そのうち「GPTZero」と「AI GPT3 Detector by Kazan SEO」のレビューを紹介する。

生成AIとAIコンテンツ検出ツールの“意外な判定結果”

会員登録(無料)が必要です

 調査では、同程度の長さの異なるテキストコンテンツを3つ用意した。

  • 1つ目は、人間(筆者自身)が書いた、最高データ責任者(CDO)の役割の変化に関する記事の抜粋
  • 残り2つは、「生成AIの長所と短所について説明せよ」というリクエストに応じてChatGPTが生成したエッセイとポエム
    • エッセイとポエムは、どちらも大ヒット映画「ターミネーター」シリーズのサイボーグ主人公、ターミネーターの口調で書かれている。

GPTZero

 GPTZeroは、「人間は真実を知るべきだ」(Humans deserve the truth)をコンセプトに掲げたAIコンテンツ検出ツールだ。プリンストン大学(Princeton University)でコンピュータサイエンスを専攻する学生エドワード・ティアン氏が開発した。統計的特徴に基づいてテキストを分析し、文章全体だけでなく、一文や段落ごとに詳細な予測を示すことが可能だ。

 テキストを空欄に入力し、「Check Origin」(起源を確認)ボタンをクリックすると、AIモデルが作成した可能性のある文章がハイライトで表示される。最終的に、人間が生成したテキストである可能性と、AIモデルが生成したテキストである可能性を表示する。

 GPTZeroに上述の3つのコンテンツを入力したところ、ChatGPTが生成したターミネーター調のエッセイは容易にAI製だと判別できたが、他の検出ツールと同様、ChatGPTが生成したターミネーター調のポエムは人間製と判定し、だまされる結果となった。

AI GPT3 Detector by Kazan SEO

 AI GPT3 Detector by Kazan SEOは、テキスト抽出機能や重複コンテンツ対策機能、キーワードクラスタリング機能など、さまざまな機能を提供するSEO(検索エンジン最適化)ツール「Kazan SEO」の一機能だ。Kazan SEOのWebサイトでは、検出の仕組みについてほぼ説明されていないが、単語数が多いほど精度が高くなるという。

 利用時は、まず「AI GPT3 Detector」のアイコンを選択する。表示されたスペースにコンテンツを入力し、「Detect」(検出)ボタンを押すと、そのテキストが本物(人間製)である確率と、偽物(AIモデル製)である確率をそれぞれパーセンテージで表示する。

 3つのコンテンツを渡したところ、筆者が書いたCDOの記事は「94.99%人間製」との判定が下り、ChatGPTが生成したターミネーター調のエッセイは「99.32%AIモデル製」の結果が出た。一方で、ChatGPTが生成したターミネーター調のポエムは「97.62%人間製」となり、筆者が書いたものよりも人間が作成した可能性が高いとの判定が出た。

 他のAIコンテンツ検出ツールでも、ChatGPTが生成したターミネーター調のポエムは「人間によって書かかれた」と判定される結果になった。


 第6回以降は、AIが生成したコンテンツを見分けるための方法について解説する。

TechTarget発 世界のインサイト&ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

新着ホワイトペーパー

製品資料 AvePoint Japan株式会社

生成AIの落とし穴、“過剰共有”のリスクと防止策

適切に生成AIを使いこなすために、情報には「共有範囲」を設定することが重要となるが、管理が不十分だと“過剰共有”の状況が発生する。過剰共有は社内での情報漏えいにつながる可能性もあるため、十分な対策が必要となる。

製品資料 東京エレクトロン デバイス株式会社

生成AI活用の鍵、セキュリティと利便性を両立するための方法とは?

生成AIの活用には機密情報漏えいなどのリスクがあるため、利用を制限しているケースもある。しかし、完全に利用を制限してしまうと競合に後れを取る可能性がある。そこで重要なのが、セキュリティと利便性を両立できるような環境構築だ。

市場調査・トレンド 日本オラクル株式会社

今後のAI活用はどう進化する? AIがビジネスにもたらす10の価値と活用例

昨今、多くの組織がAIエージェントや生成AIをビジネスに活用しつつある。今後はAIをどうビジネスに組み込んでいくかが、組織が飛躍するためのポイントになるだろう。そこで本資料では、AIがもたらす10のビジネス価値を解説する。

製品資料 株式会社Zendesk

FAQやチャットへのAI導入でカスタマーサービスを次世代化、CXはどれだけ高まる

顧客体験(CX)を向上させるための手段として、広く注目されつつあるAIだが、実際にFAQやチャット/チャットbotにAIを導入することで、CXはどれだけ高まるのか。次世代のカスタマーサービスの作り方と、そのメリットを探る。

製品資料 NECネッツエスアイ株式会社

Zoomの新機能はもう使っている? 動画で分かる「生成AI機能による資料作成」

営業資料や議事録といった資料作成において、生成AIへの期待が高まっている。中でも注目したいのがZoomの生成AI機能だ。会議データからの資料作成は、生成AI活用でどのように効率化されるのか。動画で紹介する。

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

ITmedia マーケティング新着記事

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news026.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...

news130.jpg

Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は?
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...