Pracovníci Amazonu, ktorí počúvajú nahrávky Alexa, nie je veľký problém. Tu je dôvod

Podľa a Správa Bloomberg tento týždeň tisíce pracovníkov Amazonu každý deň počúvajú nahrávky používateľov Alexa na účely kontroly kvality a doladenia produktu. V niektorých prípadoch odpočúvajú počas trápnych alebo dokonca kriminálnych aktivít.

Moji technicky zdatní kolegovia, s niektorými z ktorých som v minulosti diskutoval o výhodách hlasových asistentov (som fanúšikom, nie sú), boli nahnevaní.

"Vidíš?" povedali mi potom správy zlomil. "Hlasoví asistenti nás špehujú."

Toto sú chlapci, ktorí môžu dlho hovoriť o výhodách technológie dronov, inováciách bezdrôtových slúchadiel a funkciách luxusných notebooky. Vo vrecku majú novšie modely mobilných telefónov a poznajú blockchain a bitcoin lepšie ako ktokoľvek, koho poznám. Inými slovami, sú to technicky zdatní chlapci a rešpektujem ich názory.

Možno preto zastonali a obrátili sa späť k svojim počítačom, keď som im povedal, že nevidím problém s tým, že zamestnanci Amazonu počúvajú rozhovory.

Prečo sa takto cítim? No dôvodov je veľa. A hoci nie som úplne spokojný s niektorými detailmi správy Bloomberg (napríklad záznamy o sexuálnych útokoch, ktoré zostali nenahlásené), nebudem odpájať Alexa zariadenia ešte doma.

Asi musím vysvetliť prečo.

Alexova povesť

Cítim rozhorčenie. Naozaj. Alexa nemá presne hviezdne výsledky. Bol čas, keď Alexa nahral pár, ktorý sa rozprával bez toho, aby o tom vedeli nejakým spôsobom poslal nahrávku jednému z ich kontaktov. A potom bol čas, keď Alexa začala smeje sa náhodne bez vyzvania. Sú aj iné prípady, kedy Alexa a iní hlasoví asistenti boli prichytení pri nahrávaní, keď sa to nepredpokladalo, čím sa zvýšil faktor plíživosti pre zariadenie, pred ktorým sa už mnohí ľudia obávajú.

Po rozhovore v kancelárii o dosť dôverných veciach sa Alexa len zasmiala. Mal to už niekto iný?

Nezazvonilo, ako keby sme ju náhodou spustili prebudenie. Ona sa len zasmiala. Bolo to naozaj strašidelné.

— David Woodland??? (@DavidSven) 1. marca 2018

Ale táto situácia so zamestnancami, ktorí počúvajú nahrávky, je iná, pretože nejde o žiadnu poruchu zariadenia alebo previnenie. Alexa neurobila nič zlé, ani zamestnanci, ktorí počúvajú náhodné vzorky nahrávok. Všetko a všetci robia svoju prácu, či sa nám to páči alebo nie. Tu je dôvod, prečo sa tak cítim.

1. Ľudia vedia, že Amazon zaznamenáva rozhovory medzi nimi a Alexou. A ak nie, mali by

Analyzované údaje nie sú záznamy zaznamenané bez vedomia alebo súhlasu používateľov. Získali ho, keď používatelia aktivovali zariadenie pomocou budiaceho slova „Alexa“. Nie je to teda tak, že by zamestnanci Amazonu tajne nahrávali ľudí a potom sa na tom smiali v chatovacích miestnostiach.

Amazon to potvrdil vo vyhlásení pre Digital Trends.

"V predvolenom nastavení sú zariadenia Echo navrhnuté tak, aby rozpoznali iba vami zvolené budiace slovo (Alexa, Amazon, počítač alebo Echo)," uviedol hovorca. „Zariadenie deteguje budiace slovo identifikáciou akustických vzorov, ktoré sa zhodujú s budiacim slovom. Žiadny zvuk sa neuloží ani neodošle do cloudu, pokiaľ zariadenie nezistí budiace slovo (alebo Alexa sa aktivuje stlačením tlačidla). Máme prísne technické a prevádzkové záruky a uplatňujeme politiku nulovej tolerancie pre zneužívanie nášho systému. Zamestnanci nemajú v rámci tohto pracovného postupu priamy prístup k informáciám, ktoré môžu identifikovať osobu alebo účet. Hoci sa so všetkými informáciami zaobchádza s vysokou dôvernosťou a na obmedzenie prístupu používame viacfaktorovú autentifikáciu, šifrovanie služieb, a audity nášho kontrolného prostredia na jeho ochranu môžu zákazníci kedykoľvek vymazať svoje hlasové nahrávky spojené s ich účtom čas.”

2. Je rozumné predpokladať, že ľudia počúvajú používateľské nahrávky, aby zlepšili Alexu

Je mi zrejmé, že majitelia zariadení môžu očakávať, že pracovníci Amazonu používajú údaje získané z reálnych rozhovorov s hlasovými asistentmi, aby produkt vylepšili. Ak sa nad tým zamyslíte, ako inak by mohli vylepšiť produkt? Nie je to tak, že počítače môžu sledovať a analyzovať počítače. Musí tam byť určitá ľudská účasť, pretože takto sa strojové učenie zlepšuje.

V skutočnosti Amazon na svojej webovej stránke uvádza, že používa „vaše požiadavky adresované Alexovi na trénovanie našich systémov rozpoznávania reči a prirodzeného jazyka“.

Je pravda, že mať „tisícky“ zamestnancov, ktorí denne počúvajú „tisícky“ nahrávok, ako uviedla agentúra Bloomberg, sa zdá byť prehnané. Ale skutočnosť, že títo zamestnanci prepisujú a komentujú nahrávku pred použitím softvéru na jej analýzu s cieľom zlepšiť Alexove schopnosti, mi dáva zmysel. Ako inak by zlepšili svoj produkt?

3. Používatelia reproduktorov s hlasovým asistentom už svoje súkromie vymenili za pohodlie

Môj tretí bod a možno najkontroverznejší je tento: Ak sa rozhodnete mať jeden z nich stále počúvajúce zariadenia vo vašom dome, už ste ohrozili svoje súkromie, či sa vám to páči alebo nie. Už ste sa rozhodli, že možnosť vypnúť svetlá len slovným príkazom stojí za to mať doma neustále počúvajúce zariadenie.

Prešli ste na temnú stranu, pretože aj za tých najlepších okolností môže a zlyhá technológia. A toto zlyhanie sa môže prejaviť šialenými spôsobmi, či už ide o robotický smiech, náhodné zvuky prdenia alebo nahrávanie zariadenia a dokonca zdieľanie, keď si to neželáte. Ak si myslíte opak, buď nerozumiete tomu, ako hlasoví asistenti fungujú, alebo ste príliš verili technológii a/alebo spoločnostiam, ktoré zhromažďujú informácie.

Ak ste vlastníkom reproduktora Alexa, ktorý nevie, že zariadenie vždy počúva, možno si budete musieť prečítať, čo sa stane, keď poviete: “Alexa, aké je počasie." Keď už ste pri tom, urobte krok späť a prehodnoťte, čo robíte s telefónom a čo zdieľate na sociálnych médiách. Pretože či sa vám to páči alebo nie, technológia nás sleduje a zhromažďuje údaje. A dali sme im na to povolenie. Sakra, s radosťou poskytujeme osobné informácie.

Amazon pre Digital Trends povedal, že súkromie zákazníkov je jeho hlavným záujmom a používatelia majú možnosť kedykoľvek vymazať nahrávky (tu je náš príspevok o tom, ako to urobiť).

„Anotujeme len extrémne malý počet interakcií od náhodnej skupiny zákazníkov, aby sme zlepšili zákaznícku skúsenosť,“ povedal Amazon pre Digital Trends. „Tieto informácie nám napríklad pomáhajú trénovať rozpoznávanie reči a prirodzený jazyk porozumenie systémom, takže Alexa môže lepšie pochopiť vaše požiadavky a zabezpečiť, aby služba fungovala dobre pre každého."

To, či môžeme dôverovať Amazonu s našimi osobnými údajmi, je diskusia na ďalší deň. Ale ide mi o to, že ak sa obávate, že vás Alexa špehuje, možno by ste to nemali robiť Alexa v tvojom dome.

Poškodí to popularitu Amazon Alexa? Môj odhad je nie. S najväčšou pravdepodobnosťou to spôsobí, že nenávidia zariadení Alexa ešte viac, zatiaľ čo tí, ktorí vlastnia reproduktory, ktorí už prišli na to, že hlasoví asistenti stoja za to, pokrčia plecami a povedia: „Tak čo?"

Moji kolegovia a ja sa budeme musieť len dohodnúť, že sa v tomto nezhodneme.

Odporúčania redaktorov

• Nefunguje vám dnes Amazon Echo, Alexa alebo Ring? nie ste sami
• 7 vecí, ktoré by sme chceli, aby Amazon Alexa dokázala
• 7 vecí, o ktorých ste nevedeli, že Alexa dokáže urobiť na inteligentnom reproduktore Amazon Echo
• Vyhnite sa vyslovovaniu týchto slov v blízkosti inteligentného reproduktora, ak nechcete, aby počúval
• Najlepšie koncoročné ponuky Amazonu na inteligentné domáce zariadenia Echo a Ring kompatibilné s Alexa