Слушането на записи на Alexa от служители на Amazon не е голяма работа. Ето защо

Според а Доклад на Bloomberg тази седмица хиляди служители на Amazon слушат потребителски записи на Alexa всеки ден за целите на контрола на качеството и за фина настройка на продукта. В някои случаи те подслушват по време на неудобни или дори престъпни дейности.

Моите технически разбиращи колеги, с някои от които съм обсъждал в миналото предимствата на гласовите асистенти (аз съм фен, те не са), бяха бесни.

"Виждаш ли?" след това ми казаха новините счупен. „Гласовите асистенти ни шпионират.“

Това са хора, които могат да говорят надълго и нашироко за предимствата на дрон технологията, иновациите на безжичните слушалки и характеристиките на модните лаптопи. Те имат по-нови модели мобилни телефони в джобовете си и познават блокчейн и биткойн по-добре от всеки, когото познавам. С други думи, те са разбирачи в технологиите и аз уважавам мнението им.

Може би затова те изпъшкаха и се върнаха към компютрите си, когато им казах, че не виждам проблема служителите на Amazon да слушат разговори.

Защо се чувствам така? Е, има много причини. И въпреки че не съм напълно доволен от някои от подробностите на доклада на Bloomberg (записи на сексуално насилие, които остават неотчетени, например), няма да изключа моя Алекса устройства у дома все още.

Вероятно трябва да обясня защо.

Репутацията на Alexa

Разбирам възмущението. Наистина. Алекса няма точно звездни резултати. Имаше онзи момент, когато Алекса записва двойка, която говори, без те да знаят, и след това по някакъв начин е изпратил записа до един от техните контакти. И тогава имаше време, когато Алекса започна смеейки се произволно без подкана. Има и други случаи, когато Алекса и други гласови асистенти са били хванати да записват, когато не е трябвало, повишавайки коефициента на пълзене за устройство, от което много хора вече са предпазливи.

Разговор в офиса за доста поверителни неща и Алекса просто се засмя. Някой друг имал ли е това?

Не иззвъня, сякаш случайно я бяхме задействали да се събуди. Тя просто се засмя. Беше наистина страховито.

— Дейвид Уудланд??? (@DavidSven) 1 март 2018 г

Но тази ситуация със служители, които слушат записи, е различна, тъй като няма неизправност на устройството или неправомерни действия. Alexa не е направила нищо лошо, нито служителите, които слушат произволни проби от записи. Всичко и всички си вършат работата, независимо дали се чувстваме комфортно с това или не. Ето защо се чувствам така.

1. Хората знаят, че Amazon записва разговорите между тях и Alexa. И ако не го направят, трябва

Данните, които се анализират, не са записи, направени без знанието или съгласието на потребителите. Беше получено, когато потребителите активираха устройството, използвайки думата за събуждане „Alexa“. Така че не е така, сякаш служителите на Amazon тайно записват хора и след това се смеят на това в чат стаите.

Amazon потвърди това в изявление за Digital Trends.

„По подразбиране устройствата Echo са проектирани да откриват само избраната от вас дума за събуждане (Alexa, Amazon, компютър или Echo)“, каза говорителят. „Устройството открива думата за събуждане, като идентифицира акустични модели, които съответстват на думата за събуждане. Не се съхранява или изпраща аудио в облака, освен ако устройството не открие думата за събуждане (или Алекса се активира чрез натискане на бутон). Имаме строги технически и оперативни предпазни мерки и имаме политика на нулева толерантност към злоупотреба с нашата система. Служителите нямат пряк достъп до информация, която може да идентифицира лицето или акаунта като част от този работен процес. Въпреки че цялата информация се третира с висока степен на поверителност и ние използваме многофакторно удостоверяване за ограничаване на достъпа, криптирането на услугата, и одити на нашата контролна среда, за да я защитим, клиентите могат да изтрият своите гласови записи, свързани с техния акаунт по всяко време време.”

2. Разумно е да се предположи, че хората слушат потребителски записи, за да подобрят Alexa

За мен е очевидно, че собствениците на устройства могат да очакват, че служителите на Amazon използват данни, събрани от реални разговори с гласови асистенти, за да направят продукта по-добър. Искам да кажа, ако се замислите, как иначе биха могли да подобрят продукта? Не е така, сякаш компютрите могат да проследяват и анализират компютри. Трябва да има някакво човешко участие, тъй като по този начин машинното обучение става по-добро.

Всъщност Amazon казва на уебсайта си, че използва „вашите заявки към Alexa, за да обучи нашите системи за разпознаване на реч и разбиране на естествен език“.

Вярно е, че „хиляди“ служители, които слушат „хиляди“ записи всеки ден, както съобщи Bloomberg, изглежда пресилено. Но фактът, че тези служители преписват и анотират записа, преди да използват софтуер, за да го анализират, за да подобрят способностите на Alexa, има смисъл за мен. Как иначе биха подобрили продукта си?

3. Потребителите на високоговорители с гласов асистент вече са заменили поверителността си за удобство

Третата ми точка и може би най-противоречивата ми е следната: Ако решите да имате едно от тези постоянно слушащи устройства във вашия дом, вие вече сте компрометирали поверителността си, независимо дали ви харесва или не. Вече сте решили, че възможността да изключите осветлението си само с устна команда си струва компромиса да имате постоянно слушащо устройство в дома си.

Вие преминахте към тъмната страна, защото дори при най-добрите обстоятелства технологията може и ще се провали. И този провал може да се прояви по луди начини, независимо дали става дума за смях на роботи, произволни звуци от пърдене или устройството, което записва и дори споделя, когато не искате. Ако вярвате в противното, или не разбирате как работят гласовите асистенти, или сте се доверили твърде много на технологията и/или компаниите, които събират информацията.

Ако сте собственик на високоговорител Alexa, който не знае, че устройството винаги слуша, може би трябва да прочетете какво се случва, когато кажете: „Алекса, какво е времето." Докато го правите, направете крачка назад и преоценете какво правите с телефона си и какво споделяте в социалните медии. Защото независимо дали ви харесва или не, технологията ни следи и събира данни. И ние им дадохме разрешение да го направят. По дяволите, ние с радост предоставяме лична информация.

Amazon каза пред Digital Trends, че поверителността на клиентите е негова основна грижа и потребителите имат възможност да изтриват записи по всяко време (ето нашата публикация за това как да го направите).

„Ние отбелязваме само изключително малък брой взаимодействия от случаен набор от клиенти, за да подобрим клиентското изживяване“, каза Amazon пред Digital Trends. „Например, тази информация ни помага да тренираме нашето разпознаване на реч и естествен език разбиране на системи, така че Alexa да може да разбере по-добре вашите заявки и да гарантира, че услугата работи добре за всички."

Дали можем да се доверим на Amazon с нашата лична информация е дискусия за друг ден. Но искам да кажа, че ако се притеснявате, че Алекса ви шпионира, тогава може би не е трябвало Алекса във вашия дом.

И така, това ще навреди ли на популярността на Amazon Alexa? Моето предположение е не. Най-вероятно това вероятно просто ще накара мразещите устройството Alexa да мразят още повече, докато тези, които притежават високоговорителите, тези които вече са стигнали до заключението, че гласовите асистенти си заслужават, вдигат рамене и казват: „така че Какво?"

Моите колеги и аз просто ще трябва да се съгласим да не сме съгласни по този въпрос.

Препоръки на редакторите

• Вашият Amazon Echo, Alexa или Ring не работи ли днес? Вие не сте сами
• 7 неща, които бихме искали Amazon Alexa да може да прави
• 7 неща, които не знаехте, че Alexa може да прави на смарт високоговорител Amazon Echo
• Избягвайте да произнасяте тези думи в близост до вашия интелигентен високоговорител, ако не искате той да ви слуша
• Най-добрите оферти на Amazon в края на годината за Alexa-съвместими Echo и Ring умни домашни устройства