Распознавание лиц скоро может быть повсюду, предупреждают эксперты

Ранее в этом месяце оба Амазонка и ИБМ отказались от спорной технологии распознавания лиц.

Amazon объявила, что больше не позволит полиции использовать свою технологию распознавания лиц Rekognition, а IBM пообещала отказаться от дальнейшего развития этой технологии.

Эти шаги были предприняты после того, как инструменты подверглись критике за неточности и потенциальное неправильное использование в качестве метода массовой слежки за умные города.

Amazon написала в своем заявлении, что ее решение было напрямую вдохновлено стремлением активистов запретить полиции использовать систему распознавания лиц. В Заявление IBMКомпания написала, что «решительно выступает против и не будет мириться с использованием каких-либо технологий, включая технологию распознавания лиц… для массовой слежки». расовое профилирование, нарушения основных прав и свобод человека или любые цели, которые не соответствуют нашим ценностям и принципам доверия и Прозрачность.

Но некоторые эксперты по кибербезопасности не проданы — и эти решения, скорее всего, мало что сделают, чтобы замедлить поток технологий распознавания лиц в будущем.

«Это просто открывает целый ряд вопросов, например, участвовали ли они в массовой слежке. программное обеспечение раньше? — спросил Дэвид Хардинг, технический директор компании по кибербезопасности. ImageWare. «Почему до этого это не нарушило их принципы доверия и прозрачности? Кажется, это очень странно. Здесь есть что раскрыть».

Джордж Бростофф, генеральный директор компании SensibleVision, занимающейся технологиями 3D-сканирования лиц, рассказал Digital Trends, что, по его мнению, у этих решений, возможно, были предшествующие мотивы.

«Как и во многих других вещах, анонс IBM, вероятно, более сложен, чем кажется на первый взгляд», — сказал он, предполагая, что маловероятно, что IBM вообще была заинтересована в распознавании лиц.

IBM не ответила на запрос о комментариях относительно того, насколько такой шаг повлияет на их прибыль или сколько они инвестируют в исследования и разработки в области распознавания лиц.

И Бростофф, и Хардинг отметили, что IBM не обязательно является известным государственным подрядчиком в мире слежки за лицами.

«Многие компании, которые внедряют [технологию распознавания лиц] в государственном масштабе, компании, о которых никто не слышал», — сказал Бен Гудман, старший вице-президент фирмы по кибербезопасности. ФорджРок. «Этим компаниям не нужно беспокоиться о репутационном риске. Amazon и IBM — громкие имена, они подвергаются большему риску».

Гудман задался вопросом, какую отдачу сейчас получает такая компания, как Amazon, от разработки технологии распознавания лиц.

«Им действительно нужно подумать, стоит ли препятствовать частной жизни людей. Получаете ли вы от этого достаточную отдачу», — сказал он. «Посмотрите на Clearview A.I. [компания FRT, которая, как выяснилось, сканирует социальные сети и продает программное обеспечение для правоохранительных органов], которые нагло говорили о том, что они делают, и их уничтожен. Я уверен, что они не единственные, кто это делает, но это показывает, каково настроение публики».

И хотя слежку за лицами осуждают за его пресловутая неточность, по слухам, используется в качестве полицейский инструмент во время протестови потенциальных нарушений прав на неприкосновенность частной жизни, последнее, скорее всего, очень скоро станет частью повседневной жизни.

Публичная и частная технология распознавания лиц

«Правительство никогда не должно иметь доступа к [технологии распознавания лиц], и она несовместима с демократическим обществом», — сказала Сайра Хусейн, штатный юрист Electronic Frontier. Фундамент. «Это нарушает наши права, предусмотренные Первой и Четвертой поправками».

Но распространение технологии распознавания лиц в частной сфере может быть неизбежным, поскольку технология становится проще в использовании. Бростофф предсказал, что через два года использование FaceID или его эквивалента станет стандартной практикой для повседневных задач, таких как оформление покупок в магазине или регистрация в аэропорту.

Что касается частной сферы, Хусейн рассказала Digital Trends, что она опасается, что корпорации будут развивать эту технологию, не принимая во внимание этические последствия. Если, например, гостиничная индустрия начнет внедрять технологию распознавания лиц, у людей должен быть способ дать свое согласие, говорит она, а не просто делать ее повсеместной.

«У отелей всегда должна быть возможность зарегистрировать тех, кто не хочет участвовать в системе», — сказала она.

Гарольд Ли, вице-президент ExpressVPN, рассказал Digital Trends, что он предполагает, что внедрение сначала будет доступно в качестве рабочих приложений для сотрудников. «Кто менее склонен или способен отвергнуть эту технологию, будь то ради регистрации или проверки личности подрядчиками», — написал он в сообщении. электронная почта.

За этим последуют приложения, ориентированные на потребителя, которые уже существуют в некоторых странах.

«Мы уже наблюдаем это в менее заботящихся о конфиденциальности частях мира, таких как Китай, где супермаркеты и станции метро позволяют людям платить, сканируя свое лицо», — написал он. «В Сингапуре также начались испытания по очной регистрации в отеле. Хотя это, похоже, еще не добралось до США, магазины с усиленным наблюдением, такие как Amazon Go, могут начать нормализовать обмен конфиденциальности ради удобства».

«Это похоже на столкновение непреодолимой силы с неподвижным объектом», — сказал Гудман. «Очевидно, что существует шпионский фактор, фактор ползучести и фактор конфиденциальности, но есть также фактор удобства. Это значит, что я могу бесконтактно работать в аэропорту. Это означает, что я могу сесть в самолет, не кладя свой телефон на поверхность, к которой только что прикоснулись десять других людей».

Этическая система

Если эксперты правы и распространение технологии распознавания лиц неизбежно, как нам добиться этого, не нарушая при этом конфиденциальность каждого?

«Мы не должны забывать, что у нас возникает искушение отказаться от конфиденциальности ради предполагаемых выгод», — сказала Габриэль Эрмье, сотрудник по связям с общественностью компании. Серфшарк. «Вопросы конфиденциальности пользователей, их согласия, а также гендерной и расовой предвзятости FRT занимают центральное место в дебатах и ​​должны быть решены в первую очередь. Поставщики FRT, такие как Amazon или Microsoft, и их пользователи, включая правоохранительные органы и аэропорты, должны разделить ответственность за то, чтобы FRT не был предвзятым».

Вопрос предвзятости практически неразрывно связан с вопросом FRT. Как отметил Том Чиверс из британской компании ProPrivacy: «Возможность злоупотреблений слишком высока. Исследования по распознаванию лиц показали 81% неудачных попыток сопоставления лиц», — написал он в сообщении DT. ссылаясь на то, что обнаружили исследователи в Великобритании, когда они тестировали систему распознавания лиц столичной полиции. технологии.

Это исследование показало, что технология неправильно идентифицирует невиновных людей с астрономически высокой частотой. по данным SkyNews.

Ли согласился, что согласие и прозрачность являются ключевыми факторами. «Не делайте такую ​​технологию обязательной. Пусть пользователи соглашаются, а не отказываются», — написал он, повторяя опасения Хусейна. Он также сообщил, что недавно опрос ExpressVPN показал, что 68% взрослого населения США выразили обеспокоенность растущим распространением технологии распознавания лиц. Исходя из этого, сопротивление и юридические вопросы также почти наверняка неизбежны.

«Мы, конечно, еще не достигли этой точки с точки зрения закона», — сказал Гудман. «К сожалению, наша правовая база, похоже, является запаздывающим индикатором эмоций людей по этому поводу. Вероятно, вам понадобится какое-то важное событие, произошедшее вокруг FRT, прежде чем кто-нибудь обратит на него внимание».

В конце концов, мы говорим о вашем лице, и люди должны будут иметь возможность контролировать доступ к своим лицам, говорят защитники.

«Если не существует значимого процесса, с помощью которого люди могли бы согласиться и иметь возможность принять это решение самостоятельно, то это неэтично», — сказал Хусейн. «Когда вы говорите о биометрии, такой же частной, как ваше лицо, и вы не можете скрыть ее на публике так же, как вы можете скрыть свои руки, это подрывает конфиденциальность».

Рекомендации редакции

• Microsoft больше не будет инвестировать в технологии распознавания лиц