Duplexは機械学習や自然言語処理などの音声技術エンジンによって、まるで生身の人間のような音声機能をGoogleアシスタントに追加する。これは機械と人がリアルタイムに会話する新しいコミュニケーション手段をもたらすものだ。

　AIは音声を認識するだけでなく、人間同士の自然な会話との違いが分からないほど真に迫った音声を生成できるようになる。

プライバシーの懸念

　仮想アシスタントを誰もが使えるようになるのは楽しみだが、そこにはさまざまなプライバシーとマナーの問題が潜んでいる。Googleが2018年5月に公開したデモでは、Duplexがヘアサロンに電話をかけて予約を入れるが、AIからの電話であることを相手に知らせておらず、問題視された。

　このように透明性に欠けた状況では、電話を受けた相手は人間と会話していると錯覚する可能性があり、その目的を警戒したくなるのも不思議はない。実際、前例もある。Googleはその後、対策を加えた。Duplexの自動通話は最初に、これが自動通話サービスであること、通話が録音されることの2点を相手に告げるようになった。

　Duplexはかの有名なチューリングテストに合格したといわれる。これが人間ではないことはなかなか判別できない。そうなれば、相手を欺くばかりでなく、以下のような懸念もある。

1. 通話の録音に対する同意の問題。AIが進歩するのに従い、通話の録音に関連する問題は深まる一方だ。米国では通話録音の適法性は州ごとに異なる。全米規模や世界規模のマーケティングキャンペーンにDuplexを利用するようになれば、状況はますます混迷するだろう。
2. データの所有に関する問題。通話の録音は、誰が、どこに、いつまで、何の目的で保存するのか。これはプライバシーとアクセスの新しい問題を生み出し、AIを非常に危険な方向へ向かわせる可能性がある。
3. Duplexの録音音声を使って個人の声を模倣できるという問題。Duplexを悪用すれば、同意を得ずに声を録音することができる。ほんの短い会話からも、本人になりすます音声サンプルを採取できる。これはかつてない大規模ななりすまし犯罪や詐欺、スパイ行為を可能にする危険がある。

現時点のGoogleアシスタントに心配はいらない

　Duplexが犯罪者の手に渡れば恐ろしい世界が待っていそうだが、現時点で企業が心配する必要はあまりない。Googleは、企業やコンタクトセンターをDuplexの対象にはしないとしている。だがそれも新しいビジネスモデルが誕生すれば変わっていくだろう。

　これまでのところ、Duplexはサロンやレストランの予約など、消費者向けの限定的なユースケースのみを対象に開発されている。そのような場面を想定すれば、基本的な会話を明確に定義できる。第1世代としてはそれで十分だ。

　そこからさらに汎用的で自由な会話ができるまでには大きな飛躍が必要だ。そうなれば、Duplexをあらゆる用途に使えるようになり、同時に悪用の可能性も広がる。ただ、そのようなシナリオはまだ先のことだ。

　Duplexを使用できるのはGoogleアシスタントのみであり、比較的閉じられた環境だといえる。一方、Duplexの機械学習エンジン「TensorFlow」はオープンソースであり、LinkedIn、Coca-Cola、Tencent、Dropbox、Uberなども利用している。これらの企業がそれぞれどのような会話プラットホームを開発することになるのかはまだ分からず、Googleアシスタントだけで終わる話ではない。

　ビジネス向けへの応用は楽しみだが、考えなければならないことは多い。この問題はまだ始まったばかりだ。