Os trabalhadores da Amazon ouvindo as gravações do Alexa não são grande coisa. Aqui está o porquê

De acordo com um Relatório Bloomberg esta semana, milhares de funcionários da Amazon estão ouvindo gravações de usuários Alexa todos os dias para fins de controle de qualidade e para ajustar o produto. Em alguns casos, eles escutam durante atividades embaraçosas ou até mesmo criminosas.

Meus colegas experientes em tecnologia, alguns dos quais debati no passado sobre os méritos dos assistentes de voz (sou fã, eles não), ficaram furiosos.

"Ver?" eles me disseram depois as notícias quebrado. “Assistentes de voz estão nos espionando.”

São caras que podem falar longamente sobre os benefícios da tecnologia drone, as inovações dos fones de ouvido sem fio e os recursos de dispositivos sofisticados.

notebooks. Eles têm modelos de celulares mais novos no bolso e conhecem blockchain e bitcoin melhor do que qualquer pessoa que conheço. Em outras palavras, eles são caras que entendem de tecnologia e eu respeito suas opiniões.

Talvez seja por isso que eles reclamaram e voltaram para seus computadores quando eu lhes disse que não via problema em os funcionários da Amazon ouvirem conversas.

Por que me sinto assim? Bem, há muitas razões. E embora eu não esteja totalmente satisfeito com alguns detalhes do relatório da Bloomberg (gravações de agressão sexual que não foram denunciadas, por exemplo), não vou desligar meu telefone. Alexa dispositivos em casa ainda.

Provavelmente preciso explicar o porquê.

A reputação de Alexa

Eu entendo a indignação. Eu realmente quero. Alexa não tem exatamente um histórico estelar. Houve aquele tempo em que Alexa gravou um casal conversando sem eles saberem e então de alguma forma enviou a gravação para um de seus contatos. E então houve o momento em que Alexa iniciado rindo aleatoriamente sem avisar. Existem outros casos em que Alexa e outros assistentes de voz foram pegos gravando quando não deveriam, aumentando o fator de arrepio para um dispositivo com o qual muitas pessoas já desconfiam.

Tendo uma conversa no escritório sobre coisas bastante confidenciais e Alexa apenas riu. Alguém mais já teve isso?

Não soou como se tivéssemos acidentalmente feito ela acordar. Ela simplesmente riu. Foi realmente assustador.

-David Woodland??? (@DavidSven) 1º de março de 2018

Mas essa situação com os funcionários ouvindo gravações é diferente, porque não há mau funcionamento do aparelho ou irregularidade envolvida. Alexa não fez nada de errado, nem os funcionários que estão ouvindo amostras aleatórias de gravações. Tudo e todos estão fazendo o seu trabalho, quer nos sintamos confortáveis ​​com isso ou não. É por isso que me sinto assim.

1. As pessoas sabem que a Amazon grava as conversas entre elas e Alexa. E se não o fizerem, deveriam

Os dados analisados ​​não são gravações realizadas sem o conhecimento ou consentimento dos usuários. Foi obtido quando os usuários ativaram o dispositivo usando a palavra de ativação “Alexa”. Portanto, não é como se os funcionários da Amazon estivessem gravando pessoas secretamente e depois rindo disso em salas de bate-papo.

A Amazon afirmou isso em comunicado à Digital Trends.

“Por padrão, os dispositivos Echo são projetados para detectar apenas a palavra de ativação escolhida (Alexa, Amazon, computador ou Echo)”, disse o porta-voz. “O dispositivo detecta a palavra de ativação identificando padrões acústicos que correspondem à palavra de ativação. Nenhum áudio é armazenado ou enviado para a nuvem, a menos que o dispositivo detecte a palavra de ativação (ou Alexa é ativado pressionando um botão). Temos salvaguardas técnicas e operacionais rigorosas e uma política de tolerância zero para o abuso do nosso sistema. Os funcionários não têm acesso direto a informações que possam identificar a pessoa ou conta como parte deste fluxo de trabalho. Embora todas as informações sejam tratadas com alta confidencialidade e utilizemos autenticação multifatorial para restringir o acesso, criptografia do serviço, e auditorias de nosso ambiente de controle para protegê-lo, os clientes podem excluir suas gravações de voz associadas à sua conta a qualquer momento. tempo."

2. É razoável supor que os humanos estão ouvindo as gravações dos usuários para melhorar o Alexa

É evidente para mim que os proprietários de dispositivos podem esperar que os funcionários da Amazon usem dados coletados em conversas reais com assistentes de voz para melhorar o produto. Quero dizer, se você pensar bem, de que outra forma eles poderiam melhorar o produto? Não é como se os computadores pudessem rastrear e analisar computadores. Tem que haver algum envolvimento humano, pois é assim que o aprendizado de máquina melhora.

Na verdade, a Amazon diz em seu site que usa “suas solicitações à Alexa para treinar nossos sistemas de reconhecimento de fala e compreensão de linguagem natural”.

É certo que ter “milhares” de funcionários ouvindo “milhares” de gravações diariamente, como relatou a Bloomberg, parece um exagero. Mas o fato de esses funcionários transcreverem e anotarem a gravação antes de usar um software para analisá-la a fim de melhorar as habilidades de Alexa faz sentido para mim. De que outra forma eles melhorariam seu produto?

3. Os usuários do alto-falante do assistente de voz já trocaram sua privacidade por conveniência

Meu terceiro ponto, e talvez o mais controverso, é este: se você decidir ter um desses dispositivos que estão sempre ouvindo em sua casa, você já comprometeu sua privacidade, quer goste ou não. Você já decidiu que poder desligar as luzes com apenas um comando verbal vale a pena ter um dispositivo sempre escutando em sua casa.

Você mudou para o lado negro, porque mesmo nas melhores circunstâncias, a tecnologia pode e irá falhar. E essa falha pode se manifestar de maneiras malucas, seja por meio de risadas robóticas, ruídos aleatórios de peidos ou o dispositivo gravando e até mesmo compartilhando quando você não quer. Se você acredita o contrário, ou não entende como funcionam os assistentes de voz ou depositou muita fé na tecnologia e/ou nas empresas que coletam as informações.

Se você é proprietário de um alto-falante Alexa e não sabe que o dispositivo está sempre ouvindo, talvez você precise ler sobre o que acontece quando você diz: “Alexa, Como está o tempo." Enquanto você faz isso, dê um passo para trás e reavalie o que você faz com seu telefone e o que compartilha nas redes sociais. Porque, goste você ou não, a tecnologia está nos rastreando e coletando dados. E nós lhes demos permissão para fazer isso. Caramba, estamos felizes em fornecer informações pessoais.

A Amazon disse à Digital Trends que a privacidade dos clientes é sua principal preocupação e os usuários podem excluir as gravações a qualquer momento (aqui está nosso post sobre como fazer isso).

“Anotamos apenas um número extremamente pequeno de interações de um conjunto aleatório de clientes para melhorar a experiência do cliente”, disse a Amazon ao Digital Trends. “Por exemplo, esta informação nos ajuda a treinar nosso reconhecimento de fala e linguagem natural compreender os sistemas, para que Alexa possa entender melhor suas solicitações e garantir que o serviço funcione bem para todos."

Se podemos confiar nossas informações pessoais à Amazon é uma discussão para outro dia. Mas o que quero dizer é que, se você está preocupado com a possibilidade de Alexa espionar você, talvez não devesse ter Alexa em sua casa.

Então, isso prejudicará a popularidade do Amazon Alexa? Meu palpite é não. Muito provavelmente, isso provavelmente fará com que os que odeiam dispositivos Alexa odeiem ainda mais, enquanto aqueles que possuem os alto-falantes, aqueles que já chegaram à conclusão de que os assistentes de voz valem a pena, encolhem os ombros e dizem: “então o que?"

Meus colegas e eu teremos apenas que concordar em discordar sobre este assunto.

Recomendações dos Editores

• Seu Amazon Echo, Alexa ou Ring está desativado hoje? Você não está sozinho
• 7 coisas que gostaríamos que o Amazon Alexa pudesse fazer
• 7 coisas que você não sabia que Alexa poderia fazer em um alto-falante inteligente Amazon Echo
• Evite dizer essas palavras perto do alto-falante inteligente, se não quiser que ele ouça
• As melhores ofertas de final de ano da Amazon em dispositivos domésticos inteligentes Echo e Ring compatíveis com Alexa