Slušanje Alexa snimaka za radnike Amazona nije velika stvar. Evo zašto

Prema a Bloombergovo izvješće ovog tjedna tisuće radnika Amazona svaki dan slušaju Alexa korisničke snimke u svrhu kontrole kvalitete i finog podešavanja proizvoda. U nekim slučajevima prisluškuju tijekom neugodnih ili čak kriminalnih aktivnosti.

Moji tehnički pametni kolege, s nekima od kojih sam u prošlosti raspravljao o zaslugama glasovnih pomoćnika (ja sam obožavatelj, oni nisu), bili su bijesni.

"Vidjeti?" rekli su mi poslije vijesti slomljena. "Glasovni asistenti nas špijuniraju."

Ovo su ljudi koji mogu dugo pričati o prednostima tehnologije dronova, inovacijama bežičnih slušalica i značajkama modernih prijenosna računala. Imaju novije modele mobitela u svojim džepovima i poznaju blockchain i bitcoin bolje od bilo koga koga poznajem. Drugim riječima, oni su tehnički potkovani momci i ja poštujem njihova mišljenja.

Možda su zato zastenjali i okrenuli se svojim računalima kad sam im rekao da ne vidim problem u tome što zaposlenici Amazona slušaju razgovore.

Zašto se tako osjećam? Pa, postoji mnogo razloga. I dok nisam u potpunosti zadovoljan nekim detaljima Bloombergovog izvješća (snimke seksualnih napada koji ostaju neprijavljeni, na primjer), neću isključiti svoj Alexa uređaja kod kuće još uvijek.

Vjerojatno moram objasniti zašto.

Alexina reputacija

Shvaćam bijes. Stvarno želim. Alexa baš i nema zvjezdane rezultate. Bilo je to vrijeme kada Alexa snimio par kako razgovara a da oni to ne znaju i onda nekako poslao snimku jednom od svojih kontakata. A onda je došlo vrijeme kada Alexa započeo nasumično se smijući bez poticanja. Ima i drugih slučajeva kada Alexa i drugi glasovni pomoćnici uhvaćeni su kako snimaju kad ne bi trebali, povećavajući faktor puzanja za uređaj od kojeg mnogi ljudi već zaziru.

Vodeći uredski razgovor o prilično povjerljivim stvarima i Alexa se samo nasmijala. Je li to još netko ikada imao?

Nije zvonilo kao da smo je slučajno pokrenuli da se probudi. Jednostavno se samo nasmijala. Bilo je stvarno jezivo.

— David Woodland??? (@DavidSven) 1. ožujka 2018

Ali ova situacija sa zaposlenicima koji slušaju snimke je drugačija, jer nema kvara uređaja ili pogrešnog postupanja. Alexa nije učinila ništa loše, kao ni zaposlenici koji slušaju nasumične uzorke snimaka. Sve i svatko radi svoj posao, osjećali se mi s tim ugodno ili ne. Evo zašto se tako osjećam.

1. Ljudi znaju da Amazon snima razgovore između njih i Alexe. A ako nemaju, trebali bi

Podaci koji se analiziraju nisu snimke snimljene bez znanja ili pristanka korisnika. Dobivena je kada su korisnici aktivirali uređaj pomoću riječi za buđenje "Alexa". Dakle, nije kao da su zaposlenici Amazona potajno snimali ljude i onda se tome smijali u sobama za čavrljanje.

Amazon je to potvrdio u izjavi za Digital Trends.

"Prema zadanim postavkama, Echo uređaji dizajnirani su za otkrivanje samo vaše odabrane riječi za buđenje (Alexa, Amazon, računalo ili Echo)", rekao je glasnogovornik. „Uređaj detektira riječ za buđenje identificirajući akustične uzorke koji odgovaraju riječi za buđenje. Zvuk se ne pohranjuje niti šalje u oblak osim ako uređaj ne otkrije riječ za buđenje (ili Alexa aktivira se pritiskom na tipku). Imamo stroge tehničke i operativne zaštitne mjere i politiku nulte tolerancije prema zlouporabi našeg sustava. Zaposlenici nemaju izravan pristup informacijama koje mogu identificirati osobu ili račun kao dio ovog tijeka rada. Dok se sa svim informacijama postupa visoko povjerljivo i koristimo višefaktorsku provjeru autentičnosti za ograničavanje pristupa, šifriranje usluge, i revizije našeg kontrolnog okruženja kako bismo ga zaštitili, korisnici mogu izbrisati svoje glasovne snimke povezane s njihovim računom u bilo kojem trenutku vrijeme."

2. Razumno je pretpostaviti da ljudi slušaju snimke korisnika kako bi poboljšali Alexu

Očito mi je da vlasnici uređaja mogu očekivati ​​da radnici Amazona koriste podatke prikupljene iz stvarnih razgovora s glasovnim pomoćnicima kako bi poboljšali proizvod. Mislim, ako razmislite o tome, kako bi inače mogli poboljšati proizvod? Nije kao da računala mogu pratiti i analizirati računala. Mora postojati neka ljudska uključenost, jer tako strojno učenje postaje bolje.

Zapravo, Amazon kaže na svojoj web stranici da koristi "vaše zahtjeve Alexi za treniranje naših sustava za prepoznavanje govora i razumijevanje prirodnog jezika."

Doduše, imati "tisuće" zaposlenika koji dnevno slušaju "tisuće" snimaka, kako je objavio Bloomberg, čini se pretjeranim. Ali činjenica da ti zaposlenici transkribiraju i komentiraju snimku prije nego što je koriste softverom za analizu kako bi poboljšali Alexine sposobnosti, za mene ima smisla. Kako bi inače poboljšali svoj proizvod?

3. Korisnici zvučnika glasovnog asistenta već su zamijenili svoju privatnost za praktičnost

Moja treća točka, i možda najkontroverznija, je sljedeća: Ako odlučite imati jedan od ovih uvijek prisluškujućih uređaja u vašoj kući, već ste ugrozili svoju privatnost, sviđalo se to vama ili ne. Već ste zaključili da je mogućnost gašenja svjetla samo verbalnom naredbom vrijedna kompromisa s uređajem koji uvijek sluša u vašem domu.

Prešli ste na tamnu stranu, jer čak i pod najboljim okolnostima, tehnologija može i neće uspjeti. A taj bi se kvar mogao manifestirati na lude načine, bilo da se radi o robotskom smijehu, nasumičnim zvukovima prdenja ili uređaju koji snima, pa čak i dijeli kada to ne želite. Ako vjerujete suprotno, ili ne razumijete kako glasovni asistenti rade, ili ste previše vjerovali tehnologiji i/ili tvrtkama koje prikupljaju informacije.

Ako ste vlasnik Alexa zvučnika koji nije svjestan da uređaj uvijek sluša, možda trebate pročitati što se događa kada kažete: "Alexa, kakvo je vrijeme." Kad ste već kod toga, napravite korak unatrag i ponovno procijenite što radite sa svojim telefonom i što dijelite na društvenim mrežama. Jer htjeli vi to ili ne, tehnologija nas prati i prikuplja podatke. I dali smo im dopuštenje da to učine. Dovraga, rado dajemo osobne podatke.

Amazon je rekao za Digital Trends da mu je privatnost kupaca najveća briga, a korisnici imaju mogućnost brisanja snimaka u bilo kojem trenutku (evo našeg posta o tome kako to učiniti).

"Bilježimo samo iznimno mali broj interakcija od nasumičnog skupa kupaca kako bismo poboljšali korisničko iskustvo", rekao je Amazon za Digital Trends. “Na primjer, ove informacije nam pomažu uvježbati naše prepoznavanje govora i prirodni jezik razumijevanje sustava, tako da Alexa može bolje razumjeti vaše zahtjeve i osigurati da usluga dobro radi za svakoga."

O tome možemo li Amazonu povjeriti svoje osobne podatke rasprava je za drugi dan. Ali želim reći da ako ste zabrinuti da vas Alexa špijunira, onda možda niste trebali Alexa u tvome domu.

Dakle, hoće li to naštetiti popularnosti Amazon Alexe? Moja pretpostavka je ne. Najvjerojatnije će to samo učiniti da mrzitelji Alexa uređaja još više mrze, dok oni koji posjeduju zvučnike, koji su već došli do zaključka da se glasovni pomoćnici isplati, sliježu ramenima i kažu, "pa što?"

Moji kolege i ja jednostavno ćemo se morati složiti da se ne slažemo oko ovoga.

Preporuke urednika

• Je li vaš Amazon Echo, Alexa ili Ring danas neispravan? Niste sami
• 7 stvari koje želimo da Amazon Alexa može učiniti
• 7 stvari za koje niste znali da Alexa može učiniti na pametnom zvučniku Amazon Echo
• Izbjegavajte izgovaranje ovih riječi u blizini pametnog zvučnika ako ne želite da vas sluša
• Najbolje Amazonove ponude za kraj godine za Alexa-kompatibilne Echo i Ring pametne kućne uređaje