MetaのAIチャットbotが物議 「教師データをネットで調達」はありなのか？：“未成熟なAI”を公開する難しさ【第3回】

Meta PlatformsのAIチャットbot「BlenderBot 3」は、インターネットユーザーが生成するデータを機械学習に用いる。このことがBlenderBot 3の限界を定めているとの見方がある。どういうことなのか。

[Esther Ajao，TechTarget]

　Meta Platforms（旧Facebook）が一般公開した「BlenderBot 3」が物議を醸している。BlenderBot 3は一般のインターネットユーザーのやりとりを通じて学習する、人工知能（AI）技術ベースのチャットbotだ。

「AIチャットbotの教師データをインターネットで調達」は是か非か

併せて読みたいお薦め記事

連載：“未成熟なAI”を公開する難しさ

• 第1回：MetaのAIチャットbot「BlenderBot 3」が公開直後に“バッシングの嵐”に
• 第2回：AIチャットbot「BlenderBot 3」が物議　Metaは何かを間違えたのか？

あらためて知りたいチャットbotのこと

• 「チャットbot」でコロナ禍の人材獲得を効率化　アパレル企業はなぜ成功した？
• 放送局は「人格を備えたチャットbot」の倫理問題をどう解消したのか
• 普通のチャットbotと「AIチャットbot」の違いとは？

　BlenderBot 3には、不適切な言動があれば、エンドユーザーの“評価”（サムアップ、サムダウンの評価ボタン）によるフィードバックを受けて、同じ間違いを繰り返さないようにする仕組みがある。Meta Platformsは、BlenderBot 3とエンドユーザーとの会話を匿名化して収集し、システム改善に利用する。

　インターネットに公開されたテキストや一般ユーザーとの対話を教師データとして使う試みは過去にもあった。MicrosoftのAIチャットbot「Tay」は、残念ながらうまくいかなかった。

　「一般に公開されているデータに基づいて学習するAIチャットbotが、有害な情報を出力しても驚くには当たらない」。ノースイースタン大学（Northeastern University）で、「責任あるAI」（Responsible AI）に関する分野の教育カリキュラムを担当するマイク・ベネット氏はこう話す。

　巨大ITベンダーは「経済的に合理性のある方法で、AIチャットbotを迅速かつ効率的にトレーニングしている」とベネット氏は指摘。「そうして生まれたAIチャットbotに対して『教師データの状況に沿った会話をする』こと以外に、何を期待すべきだというのか」と強調する。

---

　第4回は、AIチャットbotの不適切な言動を防ぐために、企業がすべきことを探る。

TechTarget発　先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。