「AI製なのかどうか」を人間にはもう見破れない現実AI生成コンテンツを見分けられるか?【第1回】

生成AIの活用が急速に広がる一方で、生成したコンテンツの信ぴょう性や、著作権侵害といったリスクに留意する必要がある。「AI製なのかどうか」を見破れないと、どのような問題があるのか。

2024年01月13日 08時00分 公開
[Ron KarjianTechTarget]

 テキストや画像などを自動生成するAI(人工知能)技術「生成AI」(ジェネレーティブAI)は、全く新しい技術というわけではない。1966年にAIチャットbot「ELIZA」が登場して以来、生成AIは世間では無名の存在だった。そこに2022年11月、AIベンダーOpenAIの「ChatGPT」が突如として現れた。

 ChatGPTは発表されてからわずか2カ月で、1億人のアクティブユーザー数を獲得した。生成AIは瞬く間にブームとなり、その功績をたたえる人がいれば、悲観的な見方をする人もいた。生成AIが出力した内容は一見すると正確で、人間が生成したもののように見えるが、一定以上の割合でナンセンスなものも含まれているからだ。

人間はもう「AI製なのかどうか」を見抜けない?

 AI技術の法的および技術的リスクを専門とする法律事務所Luminos.Lawで主席サイエンティストを務めるパトリック・ホール氏は、「ChatGPTを試験的に導入する企業は増えている」と話す一方で、「プライバシー侵害や知的財産権侵害、差別の増長など、生成AIのリスク面に注意が必要だ」と指摘する。「生成AIのリスクを適切に管理するために、企業は生成したコンテンツの使用履歴や配布履歴を把握する必要がある」とホール氏は語る。

 2023年2月に調査会社Forrester Researchが発表したレポート「Generative AI Prompts Productivity, Imagination, And Innovation In The Enterprise」には、生成AIがもたらした功績とリスクについての言及がある。次のような内容だ。生成AIを活用することで、テキストを用いた画像やソースコードの生成、コンテンツのパーソナライズ化が容易にできるようになった。ChatGPTなどのAIチャットbotは、検索から編集、トピックの生成まで幅広いタスクをこなせる。データサイエンティストやアプリケーション開発者、マーケティング担当者や営業、デジタルアーティスト、メディアなど、幅広い職種と業種がその恩恵を受けることになった。

 こうして生成AIブームが盛り上がりを見せる一方で、本物を装った合成コンテンツ「ディープフェイク」や透明性の欠如、偏見の増幅など、生成AIが引き起こすリスクへの不安が強まる。Forrester Researchのアナリストが2022年12月に公開したブログのエントリ(投稿)には、「チャットbotは言葉をもっともらしくつなぎ合わせ、論理的に見える文章を生成するが、その内容の正確性を判断することは難しい」との記述がある。

 上述したようなリスクの深刻化を恐れた米国の非営利団体Future of Life Instituteは、2023年3月、AIシステムの開発停止を求める署名運動を開始した。電気自動車(EV)メーカーTeslaのCEOイーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏などの著名人をはじめ、数千人以上が署名している。

 もちろん、AIが生成したコンテンツには正確かつ有用な内容も含まれている。ただしビジネスで使用する際は、AIが生成したコンテンツなのかどうかを見分けられるようにしておくのが望ましい。このような背景から、コンテンツを生成したのがAIモデルなのか人間なのかを判断する「AIコンテンツ検出ツール」が登場しており、特にChatGPTの発表があってからさまざまなツールが世に出ている。


 第2回は、AIコンテンツ検出ツールの仕組みについて解説する。

TechTarget発 世界のインサイト&ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。

ITmedia マーケティング新着記事

news135.png

インターネットの利用環境、女性の66%は「スマホのみ」――LINEヤフー調査
LINEヤフーが実施した2023年下期のインターネット利用環境に関する調査結果です。

news108.png

LINEで求職者に合った採用情報を配信 No Companyが「チャットボット for 採用マーケティング」を提供開始
就活生が身近に利用しているLINEを通して手軽に自社の採用情報を受け取れる環境を作れる。

news102.jpg

GoogleがIABのプライバシーサンドボックス批判に猛反論 完全論破へ42ページのレポートを公開
Googleは、米インタラクティブ広告協会から寄せられた批判について「多くの誤解と不正確...