Pracownicy Amazona słuchający nagrań Alexy to nic wielkiego. Dlatego

Według Raport Bloomberga w tym tygodniu tysiące pracowników Amazona codziennie słucha nagrań użytkowników Alexy w celu kontroli jakości i udoskonalenia produktu. W niektórych przypadkach podsłuchują podczas wstydliwych, a nawet przestępczych działań.

Moi znający się na technologii koledzy, z którymi w przeszłości debatowałem na temat zalet asystentów głosowych (ja jestem ich fanem, oni nie), byli wściekli.

"Widzieć?" powiedzieli mi później wiadomości złamał. „Asystenci głosowi nas szpiegują”.

To goście, którzy potrafią długo opowiadać o zaletach technologii dronów, innowacjach bezprzewodowych słuchawek dousznych i funkcjach fantazyjnych laptopy. Mają w kieszeni nowsze modele telefonów komórkowych i znają blockchain i bitcoin lepiej niż ktokolwiek, kogo znam. Innymi słowy, to goście znający się na technologii i szanuję ich opinie.

Może dlatego jęknęli i odwrócili się do swoich komputerów, gdy powiedziałem im, że nie widzę problemu w tym, że pracownicy Amazona podsłuchują rozmowy.

Dlaczego się tak czuję? Cóż, powodów jest wiele. I chociaż nie jestem do końca zadowolony z niektórych szczegółów raportu Bloomberga (na przykład niezgłaszanie nagrań napaści na tle seksualnym), nie zamierzam odłączać mojego Aleksa urządzenia jeszcze w domu.

Chyba muszę wyjaśnić dlaczego.

Reputacja Alexy

Rozumiem oburzenie. Naprawdę. Alexa nie może pochwalić się spektakularnymi osiągnięciami. Był taki czas, kiedy Aleksa nagrał parę rozmawiającą bez ich wiedzy, a potem w jakiś sposób wysłał nagranie do jednego ze swoich kontaktów. A potem był czas, kiedy Aleksa Rozpoczęty śmiejąc się przypadkowo bez podpowiedzi. Są inne przypadki, kiedy Aleksa i inni asystenci głosowi zostali przyłapani na nagrywaniu, gdy nie powinni, co zwiększa współczynnik pełzania w przypadku urządzenia, którego wiele osób już się obawia.

Rozmawiając w biurze o dość poufnych sprawach, Alexa tylko się roześmiała. Czy ktoś jeszcze tak kiedyś miał?

Nie zadzwonił, jakbyśmy przypadkowo spowodowali jej przebudzenie. Ona po prostu się roześmiała. To było naprawdę przerażające.

— Davida Woodlanda??? (@DavidSven) 1 marca 2018 r

Jednak sytuacja, w której pracownicy słuchają nagrań, jest inna, ponieważ nie ma tu mowy o awarii urządzenia ani niewłaściwym postępowaniu. Alexa nie zrobiła nic złego, podobnie jak pracownicy słuchający przypadkowych próbek nagrań. Wszystko i wszyscy wykonują swoją pracę, niezależnie od tego, czy czujemy się z tym komfortowo, czy nie. Oto dlaczego tak się czuję.

1. Ludzie wiedzą, że Amazon nagrywa rozmowy między nimi a Alexą. A jeśli nie, powinni

Analizowane dane nie są nagraniami zarejestrowanymi bez wiedzy i zgody użytkowników. Uzyskano go, gdy użytkownicy aktywowali urządzenie za pomocą słowa aktywacji „Alexa”. To nie jest tak, że pracownicy Amazona potajemnie nagrywali ludzi, a potem śmiali się z tego na czatach.

Amazon potwierdził to w oświadczeniu dla Digital Trends.

„Domyślnie urządzenia Echo są zaprojektowane tak, aby wykrywać tylko wybrane przez Ciebie słowo aktywacji (Alexa, Amazon, komputer lub Echo)” – powiedział rzecznik. „Urządzenie wykrywa słowo budzenia, identyfikując wzorce akustyczne pasujące do słowa budzenia. Żaden dźwięk nie jest przechowywany ani wysyłany do chmury, chyba że urządzenie wykryje słowo wybudzania (lub Aleksa aktywuje się poprzez naciśnięcie przycisku). Stosujemy rygorystyczne zabezpieczenia techniczne i operacyjne oraz prowadzimy politykę zerowej tolerancji dla nadużyć w naszym systemie. W ramach tego przepływu pracy pracownicy nie mają bezpośredniego dostępu do informacji umożliwiających identyfikację osoby lub konta. Chociaż wszystkie informacje są traktowane z dużą poufnością i stosujemy uwierzytelnianie wieloskładnikowe w celu ograniczenia dostępu, szyfrowania usług, i audyty naszego środowiska kontrolnego w celu jego ochrony, klienci mogą w dowolnym momencie usunąć swoje nagrania głosowe powiązane z ich kontem czas."

2. Rozsądnie jest założyć, że ludzie słuchają nagrań użytkowników, aby ulepszyć Alexę

Jest dla mnie oczywiste, że właściciele urządzeń mogą oczekiwać, że pracownicy Amazona będą wykorzystywać dane zebrane podczas rzeczywistych rozmów z asystentami głosowymi, aby ulepszyć produkt. To znaczy, jeśli się nad tym zastanowić, jak inaczej mogliby ulepszyć produkt? To nie jest tak, że komputery mogą śledzić i analizować komputery. Konieczne jest zaangażowanie człowieka, ponieważ dzięki temu uczenie maszynowe staje się lepsze.

W rzeczywistości Amazon twierdzi na swojej stronie internetowej, że wykorzystuje „Twoje prośby kierowane do Alexy w celu szkolenia naszych systemów rozpoznawania mowy i rozumienia języka naturalnego”.

Trzeba przyznać, że „tysiące” pracowników codziennie słuchających „tysięcy” nagrań, jak podaje Bloomberg, wydaje się przesadą. Jednak fakt, że ci pracownicy dokonują transkrypcji i opatrzenia adnotacjami nagrania przed użyciem oprogramowania do jego analizy w celu ulepszenia umiejętności Alexy, ma dla mnie sens. Jak inaczej mogliby ulepszyć swój produkt?

3. Użytkownicy głośników z asystentem głosowym zamienili już swoją prywatność na wygodę

Moja trzecia kwestia, być może najbardziej kontrowersyjna, jest następująca: jeśli zdecydujesz się na jeden z nich urządzeń, które zawsze podsłuchują w Twoim domu, już naruszyłeś swoją prywatność, czy Ci się to podoba albo nie. Zdecydowałeś już, że możliwość wyłączenia światła za pomocą polecenia słownego jest warta posiadania w domu urządzenia, które zawsze podsłuchuje.

Przeszedłeś na ciemną stronę mocy, ponieważ nawet w najlepszych okolicznościach technologia może zawieść i zakończy się niepowodzeniem. A ta awaria może objawiać się w szalony sposób, niezależnie od tego, czy będzie to śmiech robota, przypadkowe odgłosy pierdzenia, czy też nagrywanie przez urządzenie, a nawet udostępnianie, gdy tego nie chcesz. Jeśli uważasz inaczej, albo nie rozumiesz, jak działają asystenci głosowi, albo pokładasz zbyt duże zaufanie w technologii i/lub firmach, które zbierają informacje.

Jeśli jesteś właścicielem głośnika Alexa i nie wiesz, że urządzenie zawsze słucha, być może powinieneś przeczytać, co się stanie, gdy powiesz: „Aleksa, jaka jest pogoda." Przy okazji cofnij się o krok i ponownie oceń, co robisz z telefonem i co udostępniasz w mediach społecznościowych. Bo czy ci się to podoba, czy nie, technologia nas śledzi i zbiera dane. I daliśmy im na to pozwolenie. Do licha, z radością udostępniamy dane osobowe.

Amazon powiedział Digital Trends, że prywatność klientów jest dla niego najważniejsza, a użytkownicy mają możliwość usunięcia nagrań w dowolnym momencie (oto nasz post, jak to zrobić).

„Anotujemy jedynie bardzo małą liczbę interakcji losowej grupy klientów, aby poprawić ich obsługę” – powiedział Amazon Digital Trends. „Te informacje pomagają nam na przykład trenować rozpoznawanie mowy i język naturalny zrozumienie systemów, dzięki czemu Alexa może lepiej zrozumieć Twoje żądania i zapewnić dobre działanie usługi dla wszystkich."

To, czy możemy powierzyć Amazonowi nasze dane osobowe, to dyskusja na inny dzień. Ale chodzi mi o to, że jeśli martwisz się, że Alexa cię szpieguje, to może nie powinieneś Aleksa w Twoim domu.

Czy więc zaszkodzi to popularności Amazon Alexa? Wydaje mi się, że nie. Najprawdopodobniej sprawi to, że hejterzy urządzeń Alexa znienawidzą jeszcze bardziej, podczas gdy ci, którzy są właścicielami głośników, również tych którzy już doszli do wniosku, że warto korzystać z asystentów głosowych, wzruszają ramionami i mówią „no cóż Co?"

Ja i moi koledzy będziemy musieli po prostu zgodzić się, że nie zgadzamy się w tej kwestii.

Zalecenia redaktorów

• Czy Twoje Amazon Echo, Alexa lub Ring nie działają dzisiaj? Nie jesteś sam
• 7 rzeczy, które chcielibyśmy, żeby Amazon Alexa mogła zrobić
• 7 rzeczy, o których nie wiedziałeś, że Alexa może zrobić na inteligentnym głośniku Amazon Echo
• Unikaj wypowiadania tych słów w pobliżu inteligentnego głośnika, jeśli nie chcesz, aby go słuchał
• Najlepsze oferty Amazon na koniec roku na inteligentne urządzenia domowe Echo i Ring zgodne z Alexą