Meta PlatformsのAIチャットbot「BlenderBot 3」は、インターネットユーザーが生成するデータを機械学習に用いる。このことがBlenderBot 3の限界を定めているとの見方がある。どういうことなのか。
Meta Platforms(旧Facebook)が一般公開した「BlenderBot 3」が物議を醸している。BlenderBot 3は一般のインターネットユーザーのやりとりを通じて学習する、人工知能(AI)技術ベースのチャットbotだ。
BlenderBot 3には、不適切な言動があれば、エンドユーザーの“評価”(サムアップ、サムダウンの評価ボタン)によるフィードバックを受けて、同じ間違いを繰り返さないようにする仕組みがある。Meta Platformsは、BlenderBot 3とエンドユーザーとの会話を匿名化して収集し、システム改善に利用する。
インターネットに公開されたテキストや一般ユーザーとの対話を教師データとして使う試みは過去にもあった。MicrosoftのAIチャットbot「Tay」は、残念ながらうまくいかなかった。
「一般に公開されているデータに基づいて学習するAIチャットbotが、有害な情報を出力しても驚くには当たらない」。ノースイースタン大学(Northeastern University)で、「責任あるAI」(Responsible AI)に関する分野の教育カリキュラムを担当するマイク・ベネット氏はこう話す。
巨大ITベンダーは「経済的に合理性のある方法で、AIチャットbotを迅速かつ効率的にトレーニングしている」とベネット氏は指摘。「そうして生まれたAIチャットbotに対して『教師データの状況に沿った会話をする』こと以外に、何を期待すべきだというのか」と強調する。
第4回は、AIチャットbotの不適切な言動を防ぐために、企業がすべきことを探る。
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...