AIチャットbotの“不適切な発言”を防ぐには何をすればよいのか?“未成熟なAI”を公開する難しさ【第4回】

Meta Platformsが公開したAIチャットbot「BlenderBot 3」は、未成熟な状態だったことから物議を醸した。AIチャットbotに不適切な言動をさせないために、開発元の企業がすべきこととは何なのか。専門家に聞いた。

2022年12月28日 08時15分 公開
[Esther AjaoTechTarget]

関連キーワード

機械学習


 人工知能(AI)技術ベースのチャットbotを機械学習によってトレーニングするためには、企業は精選された教師データの開拓に相応のコストや時間を投じなければならない。小規模な企業にとって、トレーニングをより安価に実現するための選択肢は「複数の組織とリソースを共有して教師データを確保することだ」と、AI技術に詳しいノースイースタン大学(Northeastern University)のマイク・ベネット氏は語る。ただし競合他社とのリソース共有には摩擦が生じ、権利の把握に時間がかかる可能性がある。

 もう一つの選択肢は、

  • 未成熟なAIチャットbotの公開を避けること

だ。AIチャットbotをはじめとする「NLG」(自然言語生成)システムの開発に取り組む人は、一般公開をする前にシステムをよく観察し、メンテナンスをして傾向を把握し、必要に応じて教師データを変更しなければならない――。調査会社Forrester Researchのアナリストであるウィル・マッケオンホワイト氏は、こう主張する。NLGは、AI技術を利用してテキスト制作を支援する技術だ。

 マッケオンホワイト氏によれば、インターネットに公開されているデータを企業が教師データとして利用する場合、責任を持って実行するための方法が幾つかある。一つは、利用規約を設けることで、技術の悪用を防ぐことだ。バックエンドにフィルター機能を導入したり、システムが生成してはいけない禁止語句のリストを用意したりする方法もある。

NLGシステムの課題と限界

 Meta Platforms(旧Facebook)のAIチャットbot「BlenderBot 3」は公開当初、トレーニングが不十分で、適切な対話ができない状態だったことから物議を醸した。BlenderBot 3などのNLGシステムを巡る混乱は「メタバース(巨大仮想空間)用に、AI技術を活用したアバター(仮想キャラクター)を作ろうとしている人のハードルを上げる」とベネット氏は指摘。「メタバース分野のビジネスを本格的に開始する前に、不道徳な影響を大きく減らすための前向きな取り組みが必要だ」と主張する。

 こうした取り組みをしなくても、アバターと魅力的な対話ができる可能性はもちろんある。しかし対策をしなければ「最新バージョンのAIチャットbotが、過去1カ月の会話から学習した“不幸な発言の組み合わせ”を出力する可能性がある」とベネット氏は注意を促す。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

髫エ�ス�ス�ー鬨セ�ケ�つ€驛「譎擾スク蜴・�。驛「�ァ�ス�、驛「譎冗樟�ス�ス驛「譎「�ス�シ驛「譏懶スサ�」�ス�ス

製品資料 グーグル・クラウド・ジャパン合同会社

約80%の企業でAIが定着していない? その理由と成功させるためのポイントとは

生成AIを活用して業務や顧客体験の再構築を進める動きが活性化しているが、その多くが、PoCやラボ環境の段階にとどまっている。なぜなら、生成AIの可能性を最大限に引き出すための、インフラのパフォーマンスが不十分だからだ。

市場調査・トレンド グーグル・クラウド・ジャパン合同会社

ソフトウェア開発ライフサイクルにおける、生成AI活用のポイントを考察する

昨今のソフトウェア開発では、AIコーディングアシスタントの活用が主流になっている。しかし、最適なコーディングアシストツールは、開発者や企業によって異なるという。導入の際は、どのようなポイントに注意すればよいのか。

製品資料 グーグル・クラウド・ジャパン合同会社

データベースをモダナイズし、生成AIを最大限に活用する方法とは?

生成AIの活用にはデータベースが重要となるが、従来のデータベースは最新テクノロジーに対応できないなどの課題がある。本資料では、データベースをモダナイズし、生成AIを用いてビジネスイノベーションを生み出すための方法を探る。

製品資料 グーグル・クラウド・ジャパン合同会社

検索体験と結果の質をどう高める? ユーザーに喜ばれる検索体験を実現する方法

ビジネスにおいて、検索体験およびその結果の質の向上が重要なテーマとなっている。顧客はもちろん、自社の従業員に対しても、実用的な答えをより迅速に、手間なく入手できる環境の整備が求められている。

事例 グーグル・クラウド・ジャパン合同会社

検索の効率化からデータ活用まで、生成AIの業務組み込み事例5選

登場以来ビジネスへの活用方法が模索されてきた生成AI。近年では業務組み込みにおける具体的な成功例が数多く報告されている。本資料では、5件の生成AI活用事例を交えて、業務に組み込む上での具体的なアプローチを解説する。

郢晏生ホヲ郢敖€郢晢スシ郢ァ�ウ郢晢スウ郢晢ソスホヲ郢晢ソスPR

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

AIチャットbotの“不適切な発言”を防ぐには何をすればよいのか?:“未成熟なAI”を公開する難しさ【第4回】 - TechTargetジャパン エンタープライズAI 隴�スー騾ケツ€髫ェ蛟�スコ�ス

TechTarget郢ァ�ク郢晢ス」郢昜サ」ホヲ 隴�スー騾ケツ€髫ェ蛟�スコ�ス

ITmedia マーケティング新着記事

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news026.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...