Eksperci ostrzegają, że rozpoznawanie twarzy może wkrótce być wszędzie

Obydwa na początku tego miesiąca Amazonka I IBM-a wycofał się z kontrowersyjnej technologii rozpoznawania twarzy.

Amazon ogłosił, że nie będzie już pozwalał policji na korzystanie z technologii rozpoznawania twarzy Rekognition, a IBM obiecał, że wycofa się z dalszego rozwoju tej technologii.

Posunięcia te nastąpiły po tym, jak narzędzia te zostały skrytykowane za niedokładności i potencjalne niewłaściwe użycie jako techniki masowej inwigilacji Inteligentne miasta.

Amazon napisał w swoim oświadczeniu, że jego decyzja była bezpośrednio inspirowana naciskami aktywistów, aby zakazać policji korzystania z funkcji rozpoznawania twarzy. W Oświadczenie IBM, firma napisała, że ​​„zdecydowanie sprzeciwia się wykorzystaniu jakiejkolwiek technologii, w tym technologii rozpoznawania twarzy… do masowej inwigilacji, i nie będzie tolerować”. profilowanie rasowe, naruszenia podstawowych praw i wolności człowieka lub w jakimkolwiek celu niezgodnym z naszymi wartościami i Zasadami zaufania i Przezroczystość.

Jednak niektórym ekspertom ds. cyberbezpieczeństwa nie podoba się to, a decyzje prawdopodobnie w niewielkim stopniu spowolnią zalew technologii rozpoznawania twarzy w przyszłości.

„To po prostu otwiera całą masę pytań, na przykład, czy byli zaangażowani w masową inwigilację oprogramowanie wcześniej?” zapytał David Harding, dyrektor techniczny firmy zajmującej się cyberbezpieczeństwem ImageWare. „Dlaczego wcześniej nie naruszyło to ich zasad zaufania i przejrzystości? Wydaje się to bardzo dziwne. Jest tu wiele do rozpakowania.

George Brostoff, dyrektor generalny firmy SensibleVision zajmującej się technologią skanowania twarzy 3D, powiedział Digital Trends, że jego zdaniem decyzja mogła mieć wcześniejszy motyw.

„Podobnie jak w wielu przypadkach, ogłoszenie IBM jest prawdopodobnie bardziej złożone, niż się wydaje na pierwszy rzut oka” – stwierdził, sugerując, że jest mało prawdopodobne, aby IBM w ogóle miał duży udział w rozpoznawaniu twarzy.

IBM nie odpowiedział na prośbę o komentarz na temat tego, jak bardzo takie posunięcie wpłynie na jego wyniki finansowe ani ile zainwestował w badania i rozwój w zakresie rozpoznawania twarzy.

Zarówno Brostoff, jak i Harding zauważyli, że IBM niekoniecznie jest znanym wykonawcą rządowym w świecie nadzoru twarzy.

„Wiele firm zajmujących się [technologią rozpoznawania twarzy] na skalę rządową to robi firm, o których nikt nie słyszał” – powiedział Ben Goodman, starszy wiceprezes firmy zajmującej się cyberbezpieczeństwem ForgeRock. „Te firmy nie muszą martwić się ryzykiem utraty reputacji. Amazon i IBM to wielkie marki, są bardziej zagrożone”.

Goodman zapytał, jaki zwrot osiąga obecnie firma taka jak Amazon z rozwoju technologii rozpoznawania twarzy.

„Naprawdę muszą się zastanowić, czy warto utrudniać ludziom prywatność. Czy osiągasz z tego wystarczający zysk” – powiedział. „Spójrz na Clearview A.I. [firma FRT, która, jak się okazało, rezygnowała z mediów społecznościowych i sprzedawała oprogramowanie dla organów ścigania], którzy bezczelnie opowiadali o tym, co robią, i tak było zniszczony. Jestem pewien, że nie tylko oni to robią, ale to pokazuje, jaki jest nastroje społeczne”.

I choć nadzór twarzy został pod pręgierzem jego notoryczną nieścisłość, podobno używa się go jako narzędzie policji podczas protestów, a także potencjalnymi naruszeniami praw do prywatności, te ostatnie prawdopodobnie wkrótce zaczną pojawiać się w życiu codziennym.

Publiczna a prywatna technologia rozpoznawania twarzy

„Rząd nigdy nie powinien mieć dostępu do [technologii rozpoznawania twarzy], a ona nie jest zgodna ze społeczeństwem demokratycznym” – powiedziała Saira Hussain, prawniczka w Electronic Frontier Fundacja. „Narusza to nasze prawa wynikające z Pierwszej i Czwartej Poprawki”.

Jednak rozprzestrzenianie się technologii rozpoznawania twarzy w sferze prywatnej może być nieuniknione, ponieważ technologia ta staje się łatwiejsza w użyciu. Brostoff przewidział, że w ciągu dwóch lat korzystanie z FaceID lub jego odpowiednika stanie się standardową praktyką w codziennych zadaniach, takich jak wymeldowanie się w sklepie czy odprawa na lotnisku.

Jeśli chodzi o sferę prywatną, Hussain powiedziała Digital Trends, że obawia się, że korporacje będą rozwijać tę technologię bez uwzględnienia implikacji etycznych. Jeśli na przykład branża hotelarska zacznie wdrażać technologię rozpoznawania twarzy, musi istnieć sposób, w jaki ludzie będą mogli się na nią zgodzić, powiedziała, a nie po prostu czynić ją wszechobecną.

„Hotele zawsze powinny mieć możliwość zameldowania osoby, która nie chce przystąpić do systemu” – stwierdziła.

Harold Li, wiceprezes ExpressVPN, powiedział Digital Trends, że według niego wdrożenie będzie początkowo dostępne jako aplikacje do pracy dla pracowników, „którzy są mniej skłonni lub nie są w stanie odrzucić tej technologii, niezależnie od tego, czy chodzi o rejestrację, czy zlecanie kontrahentom weryfikacji ich tożsamości” – napisał w oświadczeniu e-mail.

Następnie wprowadzone zostaną zastosowania skierowane do konsumentów – które już istnieją w niektórych krajach.

„Już obserwujemy to w mniej dbających o prywatność częściach świata, takich jak Chiny, gdzie zarówno supermarkety, jak i stacje metra umożliwiają ludziom płacenie poprzez skanowanie twarzy” – napisał. „W Singapurze rozpoczęły się również próby osobistego meldowania się w hotelach. Choć wydaje się, że nie dotarło to jeszcze do Stanów Zjednoczonych, sklepy obciążone dużym nadzorem, takie jak Amazon Go, mogą zacząć normalizować rezygnację z prywatności na rzecz wygody”.

„To trochę jak niepowstrzymana siła spotykająca się z nieruchomym obiektem” – powiedział Goodman. „Oczywiście istnieje czynnik szpiegostwa, współczynnik pełzania i czynnik prywatności, ale jest też czynnik wygody. Oznacza to, że mogę poruszać się po lotnisku bezdotykowo. Oznacza to, że mogę wejść na pokład samolotu, nie kładąc telefonu na powierzchni, której właśnie dotknęło dziesięć innych osób”.

System etyczny

Jeśli eksperci mają rację i rozpowszechnienie technologii rozpoznawania twarzy jest nieuniknione, jak możemy się upewnić, że uda nam się to osiągnąć, nie naruszając przy tym prywatności wszystkich osób?

„Nie powinniśmy zapominać, że kusi nas, aby zrezygnować z prywatności na rzecz dostrzegalnych korzyści” – powiedziała Gabrielle Hermier, specjalistka ds. mediów w firmie Surfshark. „Kwestie prywatności, zgody użytkowników oraz uprzedzeń FRT ze względu na płeć i rasę są kluczowe w debacie i należy się nimi zająć w pierwszej kolejności. Dostawcy FRT, tacy jak Amazon czy Microsoft, oraz ich użytkownicy, w tym organy ścigania i lotniska, powinni ponosić wspólną odpowiedzialność za zapewnienie, że FRT nie będzie stronniczy”.

Kwestia stronniczości jest praktycznie powiązana z kwestią FRT. Jak zauważył Tom Chivers z brytyjskiej firmy ProPrivacy: „Potencjał nadużyć jest zdecydowanie zbyt wysoki. Badania nad rozpoznawaniem twarzy wykazały 81% współczynnika niepowodzeń w dopasowywaniu twarzy” – napisał w wiadomości do DT, nawiązując do tego, co odkryli badacze z Wielkiej Brytanii, testując rozpoznawanie twarzy przez policję metropolitalną technologia.

Badanie to wykazało, że technologia ta w astronomicznie wysokim tempie błędnie identyfikowała niewinnych ludzi, według SkyNews.

Li zgodził się, że kluczowa jest zgoda i przejrzystość. „Nie czyńcie takiej technologii obowiązkową. Pozwól użytkownikom wyrazić zgodę, a nie zrezygnować” – napisał, powtarzając obawy Hussaina. Powiedział również, że niedawna ankieta ExpressVPN wykazała, że ​​68% dorosłych w USA stwierdziło, że jest zaniepokojonych rosnącą wszechobecnością technologii rozpoznawania twarzy. Tylko na tej podstawie prawie na pewno nie da się uniknąć sprzeciwu i pytań prawnych.

„Z punktu widzenia prawa z pewnością jeszcze nie osiągnęliśmy celu” – powiedział Goodman. „Niestety, nasze ramy prawne wydają się być opóźnionym wskaźnikiem ludzkich emocji w tej kwestii. Prawdopodobnie będziesz potrzebował jakiegoś istotnego wydarzenia w okolicach FRT, zanim ktokolwiek zwróci na to uwagę.

Ostatecznie mówimy o Twojej twarzy – a ludzie będą musieli mieć możliwość kontrolowania dostępu do swoich twarzy, twierdzą zwolennicy.

„Jeśli nie ma znaczącego procesu, dzięki któremu ludzie mogliby wyrazić zgodę i sami podjąć tę decyzję, nie jest to etyczne” – stwierdził Hussain. „Kiedy mówisz o danych biometrycznych tak prywatnych jak Twoja twarz i czy nie można tego ukryć w miejscach publicznych w taki sam sposób, jak możesz to zrobić z rękami, jest to naruszenie prywatności”.

Zalecenia redaktorów

• Microsoft nie będzie już inwestował w technologie rozpoznawania twarzy