「AI製なのかどうか」を人間にはもう見破れない現実AI生成コンテンツを見分けられるか?【第1回】

生成AIの活用が急速に広がる一方で、生成したコンテンツの信ぴょう性や、著作権侵害といったリスクに留意する必要がある。「AI製なのかどうか」を見破れないと、どのような問題があるのか。

2024年01月13日 08時00分 公開
[Ron KarjianTechTarget]

 テキストや画像などを自動生成するAI(人工知能)技術「生成AI」(ジェネレーティブAI)は、全く新しい技術というわけではない。1966年にAIチャットbot「ELIZA」が登場して以来、生成AIは世間では無名の存在だった。そこに2022年11月、AIベンダーOpenAIの「ChatGPT」が突如として現れた。

 ChatGPTは発表されてからわずか2カ月で、1億人のアクティブユーザー数を獲得した。生成AIは瞬く間にブームとなり、その功績をたたえる人がいれば、悲観的な見方をする人もいた。生成AIが出力した内容は一見すると正確で、人間が生成したもののように見えるが、一定以上の割合でナンセンスなものも含まれているからだ。

人間はもう「AI製なのかどうか」を見抜けない?

 AI技術の法的および技術的リスクを専門とする法律事務所Luminos.Lawで主席サイエンティストを務めるパトリック・ホール氏は、「ChatGPTを試験的に導入する企業は増えている」と話す一方で、「プライバシー侵害や知的財産権侵害、差別の増長など、生成AIのリスク面に注意が必要だ」と指摘する。「生成AIのリスクを適切に管理するために、企業は生成したコンテンツの使用履歴や配布履歴を把握する必要がある」とホール氏は語る。

 2023年2月に調査会社Forrester Researchが発表したレポート「Generative AI Prompts Productivity, Imagination, And Innovation In The Enterprise」には、生成AIがもたらした功績とリスクについての言及がある。次のような内容だ。生成AIを活用することで、テキストを用いた画像やソースコードの生成、コンテンツのパーソナライズ化が容易にできるようになった。ChatGPTなどのAIチャットbotは、検索から編集、トピックの生成まで幅広いタスクをこなせる。データサイエンティストやアプリケーション開発者、マーケティング担当者や営業、デジタルアーティスト、メディアなど、幅広い職種と業種がその恩恵を受けることになった。

 こうして生成AIブームが盛り上がりを見せる一方で、本物を装った合成コンテンツ「ディープフェイク」や透明性の欠如、偏見の増幅など、生成AIが引き起こすリスクへの不安が強まる。Forrester Researchのアナリストが2022年12月に公開したブログのエントリ(投稿)には、「チャットbotは言葉をもっともらしくつなぎ合わせ、論理的に見える文章を生成するが、その内容の正確性を判断することは難しい」との記述がある。

 上述したようなリスクの深刻化を恐れた米国の非営利団体Future of Life Instituteは、2023年3月、AIシステムの開発停止を求める署名運動を開始した。電気自動車(EV)メーカーTeslaのCEOイーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏などの著名人をはじめ、数千人以上が署名している。

 もちろん、AIが生成したコンテンツには正確かつ有用な内容も含まれている。ただしビジネスで使用する際は、AIが生成したコンテンツなのかどうかを見分けられるようにしておくのが望ましい。このような背景から、コンテンツを生成したのがAIモデルなのか人間なのかを判断する「AIコンテンツ検出ツール」が登場しており、特にChatGPTの発表があってからさまざまなツールが世に出ている。


 第2回は、AIコンテンツ検出ツールの仕組みについて解説する。

TechTarget発 世界のインサイト&ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。

ITmedia マーケティング新着記事

news158.png

売れるネット広告社、「売れるD2Cつくーる」にLP自動生成機能を追加
売れるネット広告社が「売れるD2Cつくーる」に、新たに「ランディングページ自動生成(AI...

news132.jpg

「Apple炎上」から何を学ぶか?(無料eBook)
Appleが新しい「iPad Pro」の広告用に公開した「Crush!」が世界中で大炎上したのは記憶に...

news105.jpg

Web担当者を悩ませる「フォーム営業」をブロック 「ヘルプドッグフォーム」に新機能
ノーコードのフォーム作成管理システム「ヘルプドッグフォーム」が「フォーム営業ブロッ...