Les employés d'Amazon qui écoutent les enregistrements d'Alexa ne sont pas un gros problème. Voici pourquoi

Selon un Rapport Bloomberg cette semaine, des milliers de travailleurs d'Amazon écoutent chaque jour les enregistrements des utilisateurs d'Alexa à des fins de contrôle qualité et pour affiner le produit. Dans certains cas, ils écoutent lors d’activités embarrassantes, voire criminelles.

Mes collègues férus de technologie, avec lesquels j’ai déjà débattu par le passé des mérites des assistants vocaux (je suis fan, eux ne le sont pas), étaient furieux.

"Voir?" ils me l'ont dit après les nouvelles cassé. "Les assistants vocaux nous espionnent."

Ce sont des gars qui peuvent parler longuement des avantages de la technologie des drones, des innovations des écouteurs sans fil et des fonctionnalités des appareils sophistiqués.

ordinateurs portables. Ils ont des modèles de téléphones portables plus récents dans leurs poches et connaissent la blockchain et le bitcoin mieux que quiconque que je connais. En d’autres termes, ce sont des gars qui s’y connaissent en technologie et je respecte leurs opinions.

C’est peut-être pour cela qu’ils ont gémi et sont retournés à leurs ordinateurs lorsque je leur ai dit que je ne voyais pas le problème avec les employés d’Amazon qui écoutaient les conversations.

Pourquoi est-ce que je ressens cela? Eh bien, il y a de nombreuses raisons. Et même si je ne suis pas entièrement satisfait de certains détails du rapport Bloomberg (les enregistrements d’agressions sexuelles ne sont pas signalés, par exemple), je ne vais pas débrancher mon téléphone. Alexa appareils à la maison pour l'instant.

Je dois probablement expliquer pourquoi.

La réputation d'Alexa

Je comprends l'indignation. Je fais vraiment. Alexa n’a pas vraiment un palmarès brillant. Il fut un temps où Alexa enregistré un couple parlant sans qu'ils le sachent et puis d'une manière ou d'une autre, j'ai envoyé l'enregistrement à l'un de leurs contacts. Et puis il y a eu le moment où Alexa commencé rire au hasard sans invite. Il existe d'autres cas où Alexa et d’autres assistants vocaux ont été surpris en train d’enregistrer alors qu’ils n’étaient pas censés le faire, augmentant ainsi le facteur de fluage pour un appareil dont beaucoup de gens se méfient déjà.

J'ai eu une conversation au bureau sur des choses assez confidentielles et Alexa s'est contentée de rire. Quelqu'un d'autre a déjà eu ça ?

Cela ne sonnait pas comme si nous l’avions accidentellement réveillée. Elle a simplement ri. C'était vraiment effrayant.

— David Woodland??? (@DavidSven) 1er mars 2018

Mais cette situation avec des employés écoutant des enregistrements est différente, car il n’y a aucun dysfonctionnement de l’appareil ni aucun acte répréhensible. Alexa n’a rien fait de mal, pas plus que les employés qui écoutent des échantillons aléatoires d’enregistrements. Tout et tout le monde fait son travail, que nous nous y sentions à l'aise ou non. Voici pourquoi je ressens cela.

1. Les gens savent qu'Amazon enregistre les conversations entre eux et Alexa. Et s’ils ne le font pas, ils devraient

Les données analysées ne sont pas des enregistrements effectués à l’insu ou sans le consentement des utilisateurs. Il a été obtenu lorsque les utilisateurs ont activé l'appareil en utilisant le mot d'activation « Alexa ». Ce n’est donc pas comme si les employés d’Amazon enregistraient secrètement des personnes et en riaient ensuite dans les forums de discussion.

Amazon l'a affirmé dans une déclaration à Digital Trends.

"Par défaut, les appareils Echo sont conçus pour détecter uniquement le mot d'activation que vous avez choisi (Alexa, Amazon, ordinateur ou Echo)", a déclaré le porte-parole. « L'appareil détecte le mot d'activation en identifiant les modèles acoustiques qui correspondent au mot d'activation. Aucun audio n'est stocké ou envoyé vers le cloud à moins que l'appareil ne détecte le mot d'activation (ou Alexa est activé en appuyant sur un bouton). Nous disposons de garanties techniques et opérationnelles strictes et appliquons une politique de tolérance zéro pour les abus de notre système. Les employés n'ont pas d'accès direct aux informations permettant d'identifier la personne ou le compte dans le cadre de ce flux de travail. Bien que toutes les informations soient traitées avec une haute confidentialité et que nous utilisons une authentification multifacteur pour restreindre l'accès, le cryptage du service, et des audits de notre environnement de contrôle pour le protéger, les clients peuvent supprimer à tout moment leurs enregistrements vocaux associés à leur compte. temps."

2. Il est raisonnable de supposer que les humains écoutent les enregistrements des utilisateurs pour améliorer Alexa.

Il me semble évident que les propriétaires d’appareils peuvent s’attendre à ce que les employés d’Amazon utilisent les données recueillies lors de conversations réelles avec des assistants vocaux afin d’améliorer le produit. Je veux dire, si vous y réfléchissez, comment pourraient-ils améliorer le produit autrement? Ce n’est pas comme si les ordinateurs pouvaient suivre et analyser les ordinateurs. Il doit y avoir une certaine implication humaine, car c’est ainsi que l’apprentissage automatique s’améliore.

En fait, Amazon indique sur son site Web qu'il utilise « vos demandes adressées à Alexa pour entraîner nos systèmes de reconnaissance vocale et de compréhension du langage naturel ».

Certes, avoir des « milliers » d’employés écoutant quotidiennement des « milliers » d’enregistrements, comme l’a rapporté Bloomberg, semble exagéré. Mais le fait que ces employés transcrivent et annotent l’enregistrement avant d’utiliser un logiciel pour l’analyser afin d’améliorer les capacités d’Alexa me semble logique. Sinon, comment pourraient-ils améliorer leur produit ?

3. Les utilisateurs de haut-parleurs à assistant vocal ont déjà troqué leur vie privée pour plus de commodité

Mon troisième point, et peut-être le plus controversé, est le suivant: si vous choisissez d'avoir l'un de ces appareils toujours à l'écoute dans votre maison, vous avez déjà compromis votre vie privée, que cela vous plaise ou non. Vous avez déjà décidé que pouvoir éteindre vos lumières avec une simple commande verbale valait le compromis d’avoir un appareil à l’écoute permanente dans votre maison.

Vous êtes passé du côté obscur, car même dans le meilleur des cas, la technologie peut échouer et échouera. Et cet échec pourrait se manifester de manière folle, qu’il s’agisse de rires robotiques, de bruits de pets aléatoires ou de l’enregistrement et même du partage de l’appareil lorsque vous ne le souhaitez pas. Si vous pensez le contraire, soit vous ne comprenez pas comment fonctionnent les assistants vocaux, soit vous avez trop confiance dans la technologie et/ou dans les entreprises qui collectent les informations.

Si vous êtes propriétaire d'une enceinte Alexa et ne savez pas que l'appareil est toujours à l'écoute, vous devrez peut-être lire ce qui se passe lorsque vous dites: «Alexa, quel temps fait-il. Pendant que vous y êtes, prenez du recul et réévaluez ce que vous faites avec votre téléphone et ce que vous partagez sur les réseaux sociaux. Parce que que cela vous plaise ou non, la technologie nous suit et collecte des données. Et nous leur avons donné la permission de le faire. Bon sang, nous partageons volontiers des informations personnelles.

Amazon a déclaré à Digital Trends que la confidentialité des clients était sa principale préoccupation et que les utilisateurs avaient la possibilité de supprimer les enregistrements à tout moment (voici notre article sur comment procéder).

"Nous n'annotons qu'un très petit nombre d'interactions provenant d'un ensemble aléatoire de clients afin d'améliorer l'expérience client", a déclaré Amazon à Digital Trends. « Par exemple, ces informations nous aident à entraîner notre reconnaissance vocale et notre langage naturel. comprendre les systèmes, afin qu'Alexa puisse mieux comprendre vos demandes et garantir le bon fonctionnement du service pour tout le monde."

La question de savoir si nous pouvons faire confiance à Amazon avec nos informations personnelles est une discussion pour un autre jour. Mais ce que je veux dire, c’est que si vous craignez qu’Alexa vous espionne, vous n’auriez peut-être pas dû le faire. Alexa dans votre maison.

Alors, cela va-t-il nuire à la popularité d’Amazon Alexa? Je suppose que non. Très probablement, cela incitera probablement les ennemis des appareils Alexa à détester encore plus, tandis que ceux qui possèdent les haut-parleurs, ceux qui sont déjà arrivés à la conclusion que les assistants vocaux en valent la peine, haussent les épaules et disent: « alors quoi?"

Mes collègues et moi devrons simplement accepter d’être en désaccord sur ce point.

Recommandations des rédacteurs

• Votre Amazon Echo, Alexa ou Ring est-il en panne aujourd'hui? Tu n'es pas seul
• 7 choses que nous aimerions qu'Amazon Alexa puisse faire
• 7 choses que vous ne saviez pas qu'Alexa pouvait faire sur un haut-parleur intelligent Amazon Echo
• Évitez de prononcer ces mots à proximité de votre enceinte intelligente si vous ne souhaitez pas qu'elle vous écoute
• Meilleures offres Amazon de fin d'année sur les appareils domestiques intelligents Echo et Ring compatibles Alexa