“未成熟なAI”を公開する難しさ【第2回】

AIチャットbot「BlenderBot 3」が物議　Metaは何かを間違えたのか？

公開当初の未成熟さから物議を醸したMeta PlatformのAIチャットbot「BlenderBot 3」。何が問題を招いたのか。Metaの取り組みに不十分な点はなかったのか。

公開 2022年11月30日 08時15分

更新 2024年04月09日 13時08分

著者

Esther Ajao

[TechTarget]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　Meta Platforms（旧Facebook）が2022年8月に公開した、人工知能（AI）技術ベースのチャットbot「BlenderBot 3」。公開当初のBlenderBot 3は必ずしも適切な会話ができず、未成熟だったことから、インターネットユーザーの批判を招いた。

実に難しい「BlenderBot 3」問題　Metaに“落ち度”は？

併せて読みたいお薦め記事

連載：“未成熟なAI”を公開する難しさ

第1回：MetaのAIチャットbot「BlenderBot 3」が公開直後に“バッシングの嵐”に

あらためて知りたいチャットbotのこと

　BlenderBot 3は、インターネットのデータやエンドユーザーとの対話を基に、回答精度を向上させる仕組みを持つ。AIモデルのデータ分類精度を高めるには、機械学習のための教師データを十分にそろえることが必要だ。「それは簡単なことではない」と、調査会社Forrester Researchのアナリストであるウィル・マッケオンホワイト氏は語る。

　「ソーシャルメディアのエンドユーザーからの反応を集めたとしても、機械学習のための良い教師データは得られない」というのが、マッケオンホワイト氏の考えだ。「何かネガティブなことが起きると分かっていたなら、Meta Platformsはそれを避けるための措置を取るべきだった」と同氏は述べる。

　BlenderBot 3が物議を醸したこの出来事は、Microsoftが2016年に発表したAIチャットbot「Tay」を想起させる。TayもBlenderBot 3と同様に、エンドユーザーとのやりとりを学習して成長するコンセプトで登場したが、人種差別的なことを含む不適切な言葉を覚えさせられたことが物議を醸した。Tayを巡る論争によって、同社はTayを公開した数日後にサービスを停止することとなった。

　第3回は、AIチャットbotの教師データを見つけることの難しさについて解説する。