個人宅から音声3500件を収集 スマートスピーカーの実態が波紋

続いて音声で指示を出すことになるが、その内容はスマートスピーカー単体では解析することができない。そのため、録音またはストリーミングで各社のサーバ上に送信し、そこで内容を解析するしくみになっている。音声を送信しないオフライン対応にAppleが取り組んでいるが、現状では家庭外に録音ファイルが出てゆくしくみが最も一般的だ。

したがって、家庭内の音が望まない場面で送信されるケースは起こり得る。ウェイク・ワードと似たことばに反応し、スマホまたはスマートスピーカーの音声アシスタントが誤って起動した経験はないだろうか。このとき、前後数秒間の生活音が知らぬ間に録音・送信されている可能性がある。

過去にもあったプライバシー問題

今回の件についてAmazonは、プライバシー保護のためのアクションをユーザが取ることも可能だと説明している。同社広報はサン紙に対し、音声データを保存しない設定にできると説明し、また、連絡先をAlexaアプリに取り込む機能はあくまで任意のオプション機能であると述べている。他の企業においても、個人を特定できない形で音声を保存するなど、一定の配慮を行なっている。

しかし、Alexaとプライバシーに関しては、過去にも問題が持ち上がっていた。ブルームバーグは2019年4月、当時の音声データの取扱いに関する内情を報じた。ユーザがAlexaに話しかけた内容の一部は「世界で数千人」規模のAmazonスタッフが人間の耳で聞き取り、注釈を付記し、文字に書き起こしているのだという。発話内容を解析し、AIの精度を向上するためだ。類似の取り組みは同社に限らず、AIアシスタントを開発する他社でも一般的に行われている。

収集されたファイルのなかには、シャワーを浴びながらの調子外れの鼻歌や、助けを求める子供の叫び声、性的暴行と思しき音声など、第三者が安易に知るべきでない内容も含まれていたという。Amazonで音声レビュー担当を担当していた複数のスタッフが、不鮮明な発話や「面白い録音内容」などが発見された場合、社内チャットを通じて随時共有されていたと証言している。

自分の肉声が数千件もサーバに記録され、場合によっては人間に聞き取られていると想像するのは、決して気味の良い話ではない。今回の騒動は、AI開発とプライバシー保護のバランス感覚について改めて一石を投じることとなった。

Woman found Amazon folder with thousands of audio recordings from her home gadgets