「音声アシスタント」が“盗聴”

「Alexa」「Googleアシスタント」「Siri」の録音は人が聞いていた

Amazon.com、Google、Appleはそれぞれの音声アシスタントが収集した音声データを請負業者が聞いていることを明らかにした。ただしそれがどんな頻度なのか、どの程度の量を対象とするのかは不明だ。

公開 2019年09月03日 10時02分

著者

Jonathan Dame

[TechTarget]

印刷する Googleで優先するソースとして追加

　Amazon.com（以下、Amazon）は、人工知能（AI）エンジンを搭載して話し言葉に応答する音声アシスタントの「Alexa」に関し、「Alexaが記録する音声データを同社の従業員が聞く場合がある」と告知した。これを受け、企業向けAlexaである「Alexa for Business」のユーザー企業から、プライバシーを懸念する声が上がっている。「Alexa for Businessが収集した音声データを、人がどのくらいの頻度で聞いているのか説明してほしい」という複数の問い合わせに対し、Amazonは応じなかった。

　2019年8月、メディア企業Vice Mediaは、Microsoftの音声データに関わるニュースを報じた。それによると、コミュニケーションツール「Skype」の翻訳機能を介した会話データや、音声アシスタント「Cortana」に対する音声コマンドのデータを、Microsoftの請負業者が聞いているという。

　Microsoftは、Cortanaや企業向けSkypeである「Skype for Business」、コラボレーションツール「Microsoft Teams」の企業利用において、記録した音声データを従業員が確認しているかどうかは明かしていない。「われわれは音声データの収集と使用について、透明性の確保に努めている」と同社は述べる。

　「検索や音声によるコマンド入力、音声翻訳など音声を利用するサービスの改善のため、音声データを収集する前に、許諾を求めている」というのがMicrosoftの主張だ。同社はその情報を「個人を特定する要素を取り除いた上で、外部のベンダーと共有する場合もある」と説明する半面、「それらのベンダーには機密保持契約を要求している」という。

併せて読みたいお薦め記事

AI音声アシスタントの課題

企業と個人情報保護

プライバシー規約で明言した内容

　「Amazonの数千人の従業員と請負業者から成るグローバルチームが、音声をテキストに変換する技術の改良を目的に、Alexaが記録する音声データの一部を聞いている」と通信社Bloombergが報じたのは、2019年4月のことだった。AmazonはAlexaのユーザーにこの事実を明示していなかった。

　Bloombergによれば、Amazonは2019年8月初め、Alexaのプライバシー設定画面に新しい文言を追加し、「人が一部の音声記録を確認している」ことを明示した。Alexaのユーザーは、自分の音声データをサービス改善に利用することをAmazonに許可するかどうか選択できる。

　最新版のプライバシーに関する説明文の中で、Amazonは次のように述べている。

この設定を有効にすると、私たちのサービスの改善に役立てるために、音声データが新機能の開発に使われたり、人によって確認されたりする場合があります。人間が確認する音声データは、全体のごく一部です。

導入中の組織の懸念

　セントルイス大学（Saint Louis University）は2018年に、Alexa for Businessの導入に伴い、学生寮と職員宿舎に2300台以上のスマートスピーカー「Amazon Echo」を設置した。「設置したAmazon Echoは、いずれも学生の個人情報とは関連付けられていない」と同大学は強調する。「われわれの学生の大部分は現在（2019年8月）、夏休みのため学生寮にいない。キャンパスに戻ってくるのは8月下旬だ」と、セントルイス大学のPRディレクターを務めるナンシー・ソロモン氏は述べる。「われわれはAmazonと連絡を取っており、音声データの使用を無効にする作業を共同で進めている。作業が完了したら情報を学生に周知する」（同氏）

　Alexa for Businessには、「Amazon Echoにオンライン会議の開始を音声で指示する」といったビジネス向けの機能がある。企業がAmazon Echoを利用する場合、会議室や共有スペースに設置することが一般的だ。従業員は個人用のAlexa搭載デバイスを、企業のAlexa for Businessアカウントに接続することも可能だ。Amazonは企業向けのマーケティング資料の中で「Alexa for Businessが処理した音声データを当社が保存、使用する場合がある」と述べる一方、「そのような音声データを利用できるのは認可された従業員だけだ」とも示す。

GoogleとAppleも裏側に人の影が存在

　AmazonだけではなくGoogleとAppleも、請負業者が利用者の音声データを手動で確認している事実を明示していなかったために批判を浴びた。

　GoogleとAppleは2019年7月、それぞれ「Google Home」「Siri」を介してやりとりされる音声データについて、人間によるレビューを一時的に停止したと報じられた。「両社の請負業者が個人的な会話の記録を聞く場合がある」というニュースが流れたためだ。Google Homeは音声アシスタント「Googleアシスタント」を搭載するスマートスピーカー、Siriは音声アシスタント。

　両社は「人間による確認の対象は音声データのごく一部に限定しており、ユーザーが個人として特定されないようにする手続きを踏んでいる」と強調する。確認を担当するチームは、システムが無関係な情報を提供したり、誰かが話したことを誤ってテキストに変換したりした場合、その内容を点検するという。「こうしたエラーの修正は、システムの正確性を高めるのに役立つだろう」と両社は主張している。

　一連の報道やベンダーの対処は、現在の機械学習をはじめとするAI技術には限界があることを思い起こさせる。こうした自動認識などの機能を提供するソフトウェアは、自ら進化できると考えられている。だが市場に広く出回っている製品でも、技術的なミスの修正を依然として人間に依存している。

　こうした報道が出たことで、アナリストは「Alexa for Businessのようなサービスの企業における導入は遅れそうだ」と指摘する。企業の間では以前から、音声アシスタントの職場への導入に消極的な声が出ている。

　GoogleやAppleの請負業者が確認していると報じられた音声データには、ユーザーがボタンを押し間違えたり、スマートスピーカーがユーザーの発言を起動コマンドと誤認したりしたために、録音された会話も含まれている。音声アシスタントは、「Alexa」など特定のキーワードを利用者が言わなければ、何も送信しないという認識が一般的だ。だが「デバイスの音声収集を巡るニュースがこのように増えてくると、セキュリティに関する懸念はますます高まりそうだ」と、調査会社Nemertes Researchのアナリストであるアーウィン・レーザー氏は指摘する。

印刷する

この記事の著者

Jonathan Dame

「Alexa」「Googleアシスタント」「Siri」の録音は人が聞いていた

併せて読みたいお薦め記事

AI音声アシスタントの課題

企業と個人情報保護

プライバシー規約で明言した内容

導入中の組織の懸念

GoogleとAppleも裏側に人の影が存在

この記事の著者

関連記事

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

「Alexa」「Googleアシスタント」「Siri」の録音は人が聞いていた

併せて読みたいお薦め記事

AI音声アシスタントの課題

企業と個人情報保護

プライバシー規約で明言した内容

導入中の組織の懸念

GoogleとAppleも裏側に人の影が存在

この記事の著者

関連記事

「音声アシスタント」に盗聴や“声まね詐欺”のリスク 気を付けるべき脅威と対策

WeWorkが「Amazon Alexa for Business」の導入中止？ 企業向け音声アシスタントの課題とは

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

「音声アシスタント」に盗聴や“声まね詐欺”のリスク　気を付けるべき脅威と対策

WeWorkが「Amazon Alexa for Business」の導入中止？　企業向け音声アシスタントの課題とは