Працівники Amazon прослуховують записи Alexa не є великою проблемою. Ось чому

За словами а Звіт Bloomberg Цього тижня тисячі співробітників Amazon щодня прослуховують записи користувачів Alexa з метою контролю якості та точного налаштування продукту. У деяких випадках вони підслуховують під час незручних або навіть кримінальних дій.

Мої технічно підковані колеги, з деякими з яких я раніше дискутував про переваги голосових помічників (я фанат, вони ні), були розлючені.

"Побачити?" вони сказали мені після Новини зламався. «Голосові помічники шпигують за нами».

Це хлопці, які можуть довго розповідати про переваги технології дронів, інновації бездротових навушників і особливості модних ноутбуки. У них у кишенях мобільні телефони новіших моделей, і вони знають блокчейн і біткойни краще за всіх, кого я знаю. Іншими словами, вони технічно підковані хлопці, і я поважаю їхню думку.

Можливо, тому вони застогнали й повернулися до своїх комп’ютерів, коли я сказав їм, що не бачу проблеми в тому, що співробітники Amazon слухають розмови.

Чому я так відчуваю? Що ж, є багато причин. І хоча я не зовсім задоволений деякими деталями звіту Bloomberg (наприклад, записи сексуального насильства, про які не повідомляється), я не збираюся відключати свій Алекса пристроїв удома.

Напевно, мені потрібно пояснити чому.

Репутація Alexa

Я розумію обурення. Я справді так. Alexa не зовсім має зірковий послужний список. Був той час, коли Алекса записав пару, яка розмовляла без їхнього відома, а потім якось надіслав запис одному зі своїх контактів. А потім був час, коли Алекса почався безладно сміючись без підказки. Є й інші випадки, коли Алекса та інші голосові помічники були спіймані на записі, коли вони не повинні були це робити, підвищуючи коефіцієнт повзучості для пристрою, якого багато людей вже побоюються.

Розмовляючи в офісі про досить конфіденційні речі, Алекса просто розсміялася. У когось ще таке було?

Він не пролунав, наче ми випадково спровокували її розбудити. Вона просто сміялася. Це було справді моторошно.

— Девід Вудленд??? (@DavidSven) 1 березня 2018 року

Але ця ситуація з працівниками, які прослуховують записи, інша, оскільки не йдеться про несправність пристрою чи порушення. Alexa не зробила нічого поганого, як і співробітники, які прослуховують випадкові зразки записів. Все і всі виконують свою роботу, незалежно від того, комфортно нам це чи ні. Ось чому я так відчуваю.

1. Люди знають, що Amazon записує розмови між ними та Alexa. А якщо ні, то повинні

Дані, що аналізуються, не є записами, зробленими без відома або згоди користувачів. Його було отримано, коли користувачі активували пристрій за допомогою слова пробудження «Alexa». Отже, це не те, що співробітники Amazon таємно записували людей, а потім сміялися з цього в чатах.

Amazon підтвердив це в заяві для Digital Trends.

«За замовчуванням пристрої Echo розроблені для виявлення лише вибраного вами слова пробудження (Alexa, Amazon, комп’ютер або Echo)», — сказав речник. «Пристрій визначає слово пробудження, ідентифікуючи акустичні шаблони, які відповідають слову пробудження. Аудіо не зберігається та не надсилається в хмару, якщо пристрій не виявить слово пробудження (або Алекса активується натисканням кнопки). Ми дотримуємося суворих технічних і операційних заходів безпеки, а також дотримуємося політики нульової терпимості до зловживання нашою системою. Співробітники не мають прямого доступу до інформації, яка може ідентифікувати особу чи обліковий запис у рамках цього робочого процесу. Хоча вся інформація обробляється з високою конфіденційністю, і ми використовуємо багатофакторну автентифікацію для обмеження доступу, шифрування послуг, і перевірки нашого контрольного середовища для його захисту, клієнти можуть будь-коли видалити свої голосові записи, пов’язані з їхнім обліковим записом час».

2. Розумно припустити, що люди прослуховують записи користувачів, щоб покращити Alexa

Мені зрозуміло, що власники пристроїв можуть очікувати, що працівники Amazon використовують дані, зібрані під час реальних розмов із голосовими помічниками, щоб покращити продукт. Я маю на увазі, якщо ви подумаєте про це, як ще вони могли б покращити продукт? Це не те, що комп’ютери можуть відстежувати та аналізувати комп’ютери. Має бути певна участь людини, оскільки саме так машинне навчання стає кращим.

Насправді Amazon повідомляє на своєму веб-сайті, що використовує «ваші запити до Alexa для навчання наших систем розпізнавання мовлення та розуміння природної мови».

Слід визнати, що «тисячі» співробітників щодня прослуховують «тисячі» записів, як повідомляє Bloomberg, здається надмірним. Але той факт, що ці співробітники транскрибують і коментують запис перед використанням програмного забезпечення для його аналізу з метою покращення здібностей Alexa, для мене має сенс. Як би інакше вони покращили свій продукт?

3. Користувачі динаміків голосового помічника вже обміняли свою конфіденційність на зручність

Мій третій пункт, і, можливо, найбільш суперечливий, такий: якщо ви вирішите мати один із них постійно підслуховуючих пристроїв у вашому домі, ви вже скомпрометували свою конфіденційність, чи хочете ви цього чи ні. Ви вже вирішили, що можливість вимкнути світло за допомогою лише словесної команди вартує компромісу, пов’язаного з тим, що у вашому домі є пристрій, який постійно слухає.

Ви перейшли на темну сторону, тому що навіть за найкращих обставин технологія може вийти з ладу. І цей збій може проявлятися божевільними способами, будь то сміх робота, випадкові звуки пукання або пристрій, який записує та навіть ділиться, коли ви цього не хочете. Якщо ви вважаєте інакше, ви або не розумієте, як працюють голосові помічники, або занадто сильно довіряєте технологіям та/або компаніям, які збирають інформацію.

Якщо ви власник динаміків Alexa і не знаєте, що пристрій постійно прослуховує, можливо, вам потрібно прочитати, що відбувається, коли ви говорите: «Алекса, яка погода». Поки ви це робите, зробіть крок назад і переоцініть те, що ви робите зі своїм телефоном і чим ділитеся в соціальних мережах. Тому що подобається вам це чи ні, технологія стежить за нами та збирає дані. І ми дали їм дозвіл на це. Чорт, ми з радістю надаємо особисту інформацію.

Amazon сказав Digital Trends, що конфіденційність клієнтів є його головною турботою, і користувачі мають можливість видалити записи в будь-який час (ось наша публікація про те, як це зробити).

«Ми коментуємо лише надзвичайно невелику кількість взаємодій із випадковою групою клієнтів, щоб покращити взаємодію з клієнтами», — сказав Amazon Digital Trends. «Наприклад, ця інформація допомагає нам тренувати розпізнавання мови та природну мову розуміння систем, щоб Alexa могла краще зрозуміти ваші запити та переконатися, що служба працює належним чином для всіх."

Чи можемо ми довіряти Amazon нашу особисту інформацію, це обговорення на інший день. Але я хочу сказати, що якщо ви хвилюєтеся, що Alexa шпигує за вами, то, можливо, вам не варто було цього робити Алекса у вашому домі.

Отже, чи зашкодить це популярності Amazon Alexa? Я думаю, ні. Швидше за все, це, ймовірно, просто змусить ненависників пристроїв Alexa ще більше ненавидіти тих, хто володіє динаміками, які вже дійшли висновку, що голосові помічники того варті, знизують плечима і кажуть: «Так що?"

Мої колеги та я просто погодимося не погоджуватися з цим.

Рекомендації редакції

• Ваш Amazon Echo, Alexa або Ring сьогодні не працює? Ви не самотні
• 7 речей, які ми хочемо зробити Amazon Alexa
• 7 речей, про які ви не знали, що Alexa може робити на розумній колонці Amazon Echo
• Уникайте вимовляти ці слова біля свого розумного динаміка, якщо ви не хочете, щоб він вас слухав
• Найкращі пропозиції Amazon наприкінці року на пристрої розумного дому Echo та Ring, сумісні з Alexa