Amazon-werknemers die naar Alexa-opnames luisteren, zijn geen probleem. Dit is waarom

Volgens een Bloomberg-rapport deze week luisteren duizenden Amazon-werknemers elke dag naar opnames van Alexa-gebruikers voor kwaliteitscontroledoeleinden en om het product te verfijnen. In sommige gevallen luisteren ze mee tijdens gênante of zelfs criminele activiteiten.

Mijn technisch onderlegde collega's, met wie ik in het verleden met sommigen heb gedebatteerd over de voordelen van stemassistenten (ik ben een fan, zij niet), waren woedend.

"Zien?" vertelden ze me daarna Het nieuws kapot gegaan. “Stemassistenten bespioneren ons.”

Dit zijn jongens die uitgebreid kunnen praten over de voordelen van dronetechnologie, de innovaties van draadloze oordopjes en de kenmerken van luxe laptops

. Ze hebben nieuwere mobiele telefoons op zak en kennen blockchain en bitcoin beter dan wie dan ook. Met andere woorden: het zijn technisch onderlegde jongens en ik respecteer hun mening.

Misschien kreunden ze daarom en keerden ze zich weer naar hun computers toen ik hen vertelde dat ik het probleem niet zag als Amazon-werknemers naar gesprekken luisterden.

Waarom voel ik me zo? Nou, er zijn veel redenen. En hoewel ik niet helemaal tevreden ben met sommige details van het Bloomberg-rapport (opnamen van aanranding die niet worden gerapporteerd bijvoorbeeld), ga ik mijn stekker niet uit het stopcontact halen. Alexa apparaten nog niet in huis.

Ik moet waarschijnlijk uitleggen waarom.

Alexas reputatie

Ik snap de verontwaardiging. Echt waar. Alexa heeft niet bepaald een geweldig trackrecord. Er was een tijd dat Alexa nam een ​​stel op dat praatte zonder dat ze het wisten, en toen op de een of andere manier de opname naar een van hun contacten gestuurd. En toen was er de tijd dat Alexa begonnen willekeurig lachen zonder te vragen. Er zijn andere gevallen waarin Alexa en andere stemassistenten zijn betrapt op opnames terwijl dat niet de bedoeling was, wat de kruipfactor verhoogt voor een apparaat waar veel mensen al op hun hoede voor zijn.

Ik had een kantoorgesprek over behoorlijk vertrouwelijke dingen en Alexa lachte alleen maar. Heeft iemand anders dat wel eens?

Het klonk niet alsof we haar per ongeluk wakker hadden gemaakt. Ze lachte gewoon. Het was echt griezelig.

–David Woodland??? (@DavidSven) 1 maart 2018

Maar deze situatie waarbij medewerkers naar opnames luisteren, is anders, omdat er geen sprake is van een apparaatstoring of wangedrag. Alexa heeft niets verkeerd gedaan, en de medewerkers die naar willekeurige voorbeelden van opnames luisteren ook niet. Alles en iedereen doet zijn werk, of we ons daar nu prettig bij voelen of niet. Dit is waarom ik me zo voel.

1. Mensen weten dat Amazon de gesprekken tussen hen en Alexa opneemt. En als ze dat niet doen, moeten ze dat doen

De gegevens die worden geanalyseerd, zijn geen opnames die zijn gemaakt zonder medeweten of toestemming van de gebruiker. Het werd verkregen toen gebruikers het apparaat activeerden met het wake-word ‘Alexa’. Het is dus niet zo dat medewerkers van Amazon in het geheim mensen opnemen en er vervolgens in chatrooms om lachen.

Amazon bevestigde dit in een verklaring aan Digital Trends.

“Standaard zijn Echo-apparaten ontworpen om alleen het door jou gekozen wake-word te detecteren (Alexa, Amazon, computer of Echo)”, aldus de woordvoerder. “Het apparaat detecteert het wake-word door akoestische patronen te identificeren die overeenkomen met het wake-word. Er wordt geen audio opgeslagen of naar de cloud verzonden, tenzij het apparaat het wake-word (of Alexa wordt geactiveerd door op een knop te drukken). We hebben strikte technische en operationele waarborgen en een nultolerantiebeleid ten aanzien van misbruik van ons systeem. Medewerkers hebben als onderdeel van deze workflow geen directe toegang tot informatie die de persoon of het account kan identificeren. Hoewel alle informatie met hoge vertrouwelijkheid wordt behandeld en we multifactor-authenticatie gebruiken om de toegang, service-encryptie, en audits van onze controleomgeving om deze te beschermen, kunnen klanten op elk gewenst moment hun stemopnamen die aan hun account zijn gekoppeld, verwijderen tijd."

2. Het is redelijk om aan te nemen dat mensen naar gebruikersopnamen luisteren om Alexa te verbeteren

Het is mij duidelijk dat eigenaren van apparaten kunnen verwachten dat Amazon-werknemers gegevens uit echte gesprekken met stemassistenten gebruiken om het product te verbeteren. Ik bedoel, als je erover nadenkt, hoe zouden ze anders het product kunnen verbeteren? Het is niet zo dat computers computers kunnen volgen en analyseren. Er moet enige menselijke betrokkenheid zijn, want zo wordt machinaal leren beter.

Amazon zegt zelfs op zijn website dat het “uw verzoeken aan Alexa gebruikt om onze systemen voor spraakherkenning en het begrijpen van natuurlijke taal te trainen.”

Toegegeven, het lijkt overdreven om dagelijks “duizenden” werknemers naar “duizenden” opnames te laten luisteren, zoals Bloomberg meldde. Maar het feit dat deze medewerkers de opname transcriberen en annoteren voordat ze software gebruiken om deze te analyseren om de capaciteiten van Alexa te verbeteren, vind ik logisch. Hoe zouden ze anders hun product verbeteren?

3. Gebruikers van stemassistent-luidsprekers hebben hun privacy al ingeruild voor gemak

Mijn derde punt, en misschien wel mijn meest controversiële, is dit: als je ervoor kiest om een ​​van deze te hebben altijd luisterende apparaten in je huis, je hebt je privacy al in gevaar gebracht, of je dat nu leuk vindt of niet. Je hebt al besloten dat het de moeite waard is om je lampen met slechts een mondeling commando uit te kunnen doen als je een altijd luisterend apparaat in huis hebt.

Je bent overgestapt naar de duistere kant, want zelfs onder de beste omstandigheden kan en zal de technologie falen. En dat falen kan zich op gekke manieren manifesteren, of het nu gaat om robotgelach, willekeurige schetengeluiden, of het apparaat dat opneemt en zelfs deelt wanneer je dat niet wilt. Als je anders denkt, begrijp je niet hoe stemassistenten werken, of heb je veel te veel vertrouwen gesteld in de technologie en/of de bedrijven die de informatie verzamelen.

Als je een Alexa-luidsprekereigenaar bent en niet weet dat het apparaat altijd luistert, moet je misschien eens lezen wat er gebeurt als je zegt: 'Alexa, wat is het weer." Terwijl je toch bezig bent, doe een stapje terug en evalueer opnieuw wat je met je telefoon doet en wat je deelt op sociale media. Want of je het nu leuk vindt of niet, technologie volgt ons en verzamelt gegevens. En we hebben ze toestemming gegeven om het te doen. Heck, we geven graag persoonlijke informatie weg.

Amazon vertelde Digital Trends dat de privacy van klanten zijn grootste zorg is en dat gebruikers op elk moment opnames kunnen verwijderen (hier is ons bericht over hoe u dit kunt doen).

“We annoteren slechts een extreem klein aantal interacties van een willekeurige groep klanten om de klantervaring te verbeteren”, vertelde Amazon aan Digital Trends. “Deze informatie helpt ons bijvoorbeeld onze spraakherkenning en natuurlijke taal te trainen systemen begrijpen, zodat Alexa uw verzoeken beter kan begrijpen en ervoor kan zorgen dat de service goed werkt voor iedereen."

Of we Amazon onze persoonlijke informatie kunnen toevertrouwen, is een discussie voor een andere dag. Maar mijn punt is: als je je zorgen maakt dat Alexa je bespioneert, dan had je dat misschien niet moeten doen Alexa in jouw huis.

Zal dit de populariteit van Amazon Alexa schaden? Mijn inschatting is nee. Hoogstwaarschijnlijk zal het de haters van Alexa-apparaten waarschijnlijk nog meer haten, terwijl degenen die de luidsprekers bezitten, die die al tot de conclusie zijn gekomen dat stemassistenten de moeite waard zijn, halen hun schouders op en zeggen: “zo Wat?"

Mijn collega's en ik zullen het er gewoon over eens moeten zijn dat we het hierover niet eens zijn.

Aanbevelingen van de redactie

• Is uw Amazon Echo, Alexa of Ring vandaag niet beschikbaar? Je bent niet de enige
• 7 dingen waarvan we zouden willen dat Amazon Alexa het kon doen
• 7 dingen waarvan je niet wist dat Alexa ze kon doen op een Amazon Echo slimme luidspreker
• Vermijd deze woorden in de buurt van uw slimme luidspreker als u niet wilt dat deze luistert
• Beste Amazon-eindejaarsdeals voor Alexa-compatibele Echo- en Ring smart home-apparaten