“未成熟なAI”を公開する難しさ【第4回】
AIチャットbotの“不適切な発言”を防ぐには何をすればよいのか？
Meta Platformsが公開したAIチャットbot「BlenderBot 3」は、未成熟な状態だったことから物議を醸した。AIチャットbotに不適切な言動をさせないために、開発元の企業がすべきこととは何なのか。専門家に聞いた。
人工知能（AI）技術ベースのチャットbotを機械学習によってトレーニングするためには、企業は精選された教師データの開拓に相応のコストや時間を投じなければならない。小規模な企業にとって、トレーニングをより安価に実現するための選択肢は「複数の組織とリソースを共有して教師データを確保することだ」と、AI技術に詳しいノースイースタン大学（Northeastern University）のマイク・ベネット氏は語る。ただし競合他社とのリソース共有には摩擦が生じ、権利の把握に時間がかかる可能性がある。
もう一つの選択肢は、
- 未成熟なAIチャットbotの公開を避けること
だ。AIチャットbotをはじめとする「NLG」（自然言語生成）システムの開発に取り組む人は、一般公開をする前にシステムをよく観察し、メンテナンスをして傾向を把握し、必要に応じて教師データを変更しなければならない――。調査会社Forrester Researchのアナリストであるウィル・マッケオンホワイト氏は、こう主張する。NLGは、AI技術を利用してテキスト制作を支援する技術だ。
併せて読みたいお薦め記事
連載：“未成熟なAI”を公開する難しさ
- 第1回：MetaのAIチャットbot「BlenderBot 3」が公開直後に“バッシングの嵐”に
- 第2回：AIチャットbot「BlenderBot 3」が物議 Metaは何かを間違えたのか？
- 第3回：MetaのAIチャットbotが物議 「教師データをネットで調達」はありなのか？
あらためて知りたいチャットbotのこと
マッケオンホワイト氏によれば、インターネットに公開されているデータを企業が教師データとして利用する場合、責任を持って実行するための方法が幾つかある。一つは、利用規約を設けることで、技術の悪用を防ぐことだ。バックエンドにフィルター機能を導入したり、システムが生成してはいけない禁止語句のリストを用意したりする方法もある。
NLGシステムの課題と限界
Meta Platforms（旧Facebook）のAIチャットbot「BlenderBot 3」は公開当初、トレーニングが不十分で、適切な対話ができない状態だったことから物議を醸した。BlenderBot 3などのNLGシステムを巡る混乱は「メタバース（巨大仮想空間）用に、AI技術を活用したアバター（仮想キャラクター）を作ろうとしている人のハードルを上げる」とベネット氏は指摘。「メタバース分野のビジネスを本格的に開始する前に、不道徳な影響を大きく減らすための前向きな取り組みが必要だ」と主張する。
こうした取り組みをしなくても、アバターと魅力的な対話ができる可能性はもちろんある。しかし対策をしなければ「最新バージョンのAIチャットbotが、過去1カ月の会話から学習した“不幸な発言の組み合わせ”を出力する可能性がある」とベネット氏は注意を促す。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
比較資料
[セコムトラストシステムズ株式会社] 「自社に合うEDR」はどれか分かる？ 比較・検討時の見極めポイントを解説 -
製品資料
[アルプス システム インテグレーション株式会社] まだ社内で眠らせたまま？ AI活用の糧となる「データ資産」を有効利用するには -
市場調査・トレンド
[AvePoint Japan株式会社] “SCS評価制度”対応の第一歩、自社環境と要求事項とのギャップを把握する方法 -
製品資料
[株式会社BREXA Technology] 情報整理の自動化でインシデントの初動対応を効率化、AIエージェント活用のコツ -
製品レビュー
[ヴィーム・ソフトウェア株式会社] SCS評価制度を導入するだけで十分？ 組織の防御力を高める活用方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
2
「WSUS」終了の時限爆弾 “本命”移行先ツールとMicrosoft提唱の新管理手法
-
3
「Wi-Fi 7」経由でWindowsが乗っ取られる？ 最高権限奪取の恐怖
-
4
Claude Codeでは「エージェントを作るな、スキルを作れ」 Anthropicが示すAI構築術
-
5
パッチなしで「今すぐサーバを落とせ」 Kiteworks異例警告の波紋
-
6
「IBM i（AS/400）はクローズドなシステム」という誤解 DXに寄与する一歩
-
7
VMware離れの決め手は“機能”以外だった 情シス109人が選んだ新基準と死角は
-
8
「企業におけるAIの運用」に関するアンケート
-
9
「ERP（統合基幹業務システム）の導入・活用」に関するアンケート
-
10
【基本情報技術者試験】データを複数ディスクに分散する「RAID」の仕組みと特徴
ホワイトペーパーランキング PR
-
1
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
2
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
3
バックアップは“取っているから大丈夫”なのか？ ランサムウェア時代の備え方
-
4
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
5
月1000枚の紙を削減 9年動けなかった組織が、業務改革のその先に得たもの
-
6
「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略
-
7
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
8
ソフトウェア開発の属人化と手戻りをどう防ぐ？ 速さと品質を両立させる方法
-
9
AI活用を停滞させる「2：6：2の壁」を乗り越えるためのポイントとは？
-
10
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー