AI技術の法的および技術的リスクを専門とする法律事務所Luminos.Lawで主席サイエンティストを務めるパトリック・ホール氏は、「ChatGPTを試験的に導入する企業は増えている」と話す一方で、「プライバシー侵害や知的財産権侵害、差別の増長など、生成AIのリスク面に注意が必要だ」と指摘する。「生成AIのリスクを適切に管理するために、企業は生成したコンテンツの使用履歴や配布履歴を把握する必要がある」とホール氏は語る。

　2023年2月に調査会社Forrester Researchが発表したレポート「Generative AI Prompts Productivity, Imagination, And Innovation In The Enterprise」には、生成AIがもたらした功績とリスクについての言及がある。次のような内容だ。生成AIを活用することで、テキストを用いた画像やソースコードの生成、コンテンツのパーソナライズ化が容易にできるようになった。ChatGPTなどのAIチャットbotは、検索から編集、トピックの生成まで幅広いタスクをこなせる。データサイエンティストやアプリケーション開発者、マーケティング担当者や営業、デジタルアーティスト、メディアなど、幅広い職種と業種がその恩恵を受けることになった。

　こうして生成AIブームが盛り上がりを見せる一方で、本物を装った合成コンテンツ「ディープフェイク」や透明性の欠如、偏見の増幅など、生成AIが引き起こすリスクへの不安が強まる。Forrester Researchのアナリストが2022年12月に公開したブログのエントリ（投稿）には、「チャットbotは言葉をもっともらしくつなぎ合わせ、論理的に見える文章を生成するが、その内容の正確性を判断することは難しい」との記述がある。

　上述したようなリスクの深刻化を恐れた米国の非営利団体Future of Life Instituteは、2023年3月、AIシステムの開発停止を求める署名運動を開始した。電気自動車（EV）メーカーTeslaのCEOイーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏などの著名人をはじめ、数千人以上が署名している。

　もちろん、AIが生成したコンテンツには正確かつ有用な内容も含まれている。ただしビジネスで使用する際は、AIが生成したコンテンツなのかどうかを見分けられるようにしておくのが望ましい。このような背景から、コンテンツを生成したのがAIモデルなのか人間なのかを判断する「AIコンテンツ検出ツール」が登場しており、特にChatGPTの発表があってからさまざまなツールが世に出ている。

　第2回は、AIコンテンツ検出ツールの仕組みについて解説する。