Експерти попереджають, що розпізнавання облич скоро буде повсюди

На початку цього місяця обидва Amazon і IBM відмовився від суперечливої ​​технології розпізнавання обличчя.

Amazon оголосив, що більше не дозволить поліції використовувати свою технологію розпізнавання обличчя Rekognition, а IBM пообіцяла відмовитися від подальшого розвитку цієї технології.

Ці кроки відбулися, оскільки інструменти критикували за неточності та потенційне зловживання як технікою масового спостереження за розумні міста.

Amazon написав у своєму повідомленні, що його рішення було безпосередньо навіяно наполяганням активістів заборонити поліції використовувати розпізнавання облич. в Заява IBM, компанія написала, що «рішуче виступає проти використання будь-якої технології, включаючи технологію розпізнавання обличчя, для масового спостереження, расового профілювання, порушення основних прав і свобод людини або будь-якої мети, яка не відповідає нашим цінностям і Принципам довіри та Прозорість.

Але деякі експерти з кібербезпеки не продаються — і ці рішення, ймовірно, мало допоможуть уповільнити потік технологій розпізнавання облич у майбутньому.

«Це просто відкриває цілу купу питань, наприклад, чи були вони залучені до масового стеження раніше?» — запитав Девід Гардінг, головний технічний директор компанії з кібербезпеки ImageWare. «Чому це не порушило їхні принципи довіри та прозорості до цього? Здається, це дуже дивно. Тут є що розпакувати».

Джордж Бростофф, генеральний директор компанії SensibleVision, яка займається 3D-скануванням обличчя, сказав Digital Trends, що, на його думку, ці рішення могли мати попередні мотиви.

«Як і в багатьох інших речах, заява IBM, імовірно, складніша, ніж здається на перший погляд», — сказав він, припустивши, що навряд чи IBM була дуже зацікавлена ​​в розпізнаванні облич.

IBM не відповіла на прохання прокоментувати, наскільки такий крок вплине на їхні прибутки або скільки вони інвестували в дослідження та розробку розпізнавання облич.

І Бростофф, і Гардінг відзначили, що IBM не обов’язково є відомим державним підрядником у світі спостереження за обличчям.

«Багато компаній, які розробляють [технологію розпізнавання облич] на державному рівні, є компаній, про які ніхто не чув», – сказав Бен Гудман, старший віце-президент компанії з кібербезпеки. ForgeRock. «Цим компаніям не потрібно турбуватися про репутаційний ризик. Amazon і IBM — гучні імена, вони більше ризикують».

Гудмен запитав, яку віддачу компанія, як Amazon, зараз отримує від розробки технології розпізнавання обличчя.

«Їм справді потрібно подумати, чи варто порушувати приватне життя людей. Чи отримуєте ви від цього достатню віддачу?», – сказав він. «Подивіться на Clearview A.I. [компанія FRT, яка, як виявилося, збирає соціальні мережі та продає програмне забезпечення для правоохоронних органів], які нахабно розповідали про те, що вони роблять, і вони були зруйновано. Я впевнений, що вони не єдині, хто це робить, але це свідчить про настрої громадськості».

І хоча спостереження за обличчям було припинено його горезвісна неточність, за чутками, використання як a інструмент поліції під час протестів, і потенційні порушення прав на конфіденційність, останнє, швидше за все, незабаром почне з’являтися як частина повсякденного життя.

Публічна проти приватної технології розпізнавання обличчя

«Уряд ніколи не повинен мати доступу до [технології розпізнавання обличчя], і вона несумісна з демократичним суспільством», – сказала Сайра Хусейн, штатний юрист Electronic Frontier фундамент. «Це порушує наші права за першою та четвертою поправками».

Але поширення технології розпізнавання облич у приватній сфері може бути неминучим, оскільки технологія стає легшою у використанні. Бростофф передбачив, що протягом двох років використання FaceID або його еквівалента стане стандартною практикою для повсякденних завдань, таких як перевірка в магазині або реєстрація в аеропорту.

Коли мова йде про приватну сферу, Хусейн сказала Digital Trends, що вона боїться, що корпорації розроблятимуть цю технологію, не враховуючи етичні наслідки. Якщо, наприклад, готельна індустрія почне впроваджувати технологію розпізнавання облич, для людей має бути спосіб її підключення, а не просто робити її всюдисущою.

«У готелі завжди повинен бути спосіб зареєструвати когось, хто не хоче підключатися до системи», — сказала вона.

Гарольд Лі, віце-президент ExpressVPN, сказав Digital Trends, що він передбачає, що розгортання вперше буде доступним як робочі програми для співробітників, «хто менш схильний або здатний відкинути цю технологію, чи то для того, щоб перевірити їхню особу, чи для підрядників», — написав він у електронною поштою.

Після цього з’являться додатки для споживачів, які вже існують у деяких країнах.

«Ми вже бачимо це в менш обережних частинах світу, таких як Китай, де супермаркети та станції метро дозволяють людям розраховуватися за допомогою сканування свого обличчя», — написав він. «У Сінгапурі також почалися деякі випробування реєстрації в готелях за обличчям. Хоча це, схоже, ще не дійшло до США, магазини з інтенсивним спостереженням, такі як Amazon Go, можуть почати нормалізувати обмін конфіденційністю на зручність».

«Це схоже на те, як нестримна сила зустрічається з нерухомим об’єктом», — сказав Гудман. «Очевидно, що є фактор шпигунства, фактор повзучості та фактор конфіденційності, але є також фактор зручності. Це означає, що я можу безконтактно ходити в аеропорту. Це означає, що я можу сісти в літак, не кладучи свій телефон на поверхню, якої щойно торкалися десять інших людей».

Етична система

Якщо експерти мають рацію, а поширення технології розпізнавання облич неминуче, як ми переконаємося, що досягнемо результату, не порушуючи при цьому конфіденційність кожного?

«Ми не повинні забувати, що ми відчуваємо спокусу відмовитися від конфіденційності заради передбачуваної вигоди», — сказала Габріель Герм’є, медіа-офіцер компанії Surfshark. «Питання конфіденційності користувачів, їх згоди та гендерних і расових упереджень FRT є центральними для дебатів і повинні бути розглянуті в першу чергу. Постачальники FRT, такі як Amazon або Microsoft, і їхні користувачі, включаючи правоохоронні органи та аеропорти, повинні розділити відповідальність за те, щоб FRT не було упереджено».

Питання упередженості практично пов’язане з питанням FRT. Як зазначив Том Чіверс з британської компанії ProPrivacy, «потенціал для зловживань надто високий. Дослідження з розпізнавання облич показали 81% відсотка невдач для зіставлення облич», – написав він у повідомленні DT, посилаючись на те, що дослідники з Великобританії знайшли, коли вони перевіряли розпізнавання обличчя столичної поліції технології.

Це дослідження показало, що технологія неправильно ідентифікувала невинних людей з астрономічно високою швидкістю, за матеріалами SkyNews.

Лі погодився, що згода та прозорість є ключовими. «Не робіть таку технологію обов’язковою. Нехай користувачі підключаються, а не відмовляються», – написав він, повторюючи занепокоєння Хуссейна. Він також сказав, що нещодавно проведене опитування ExpressVPN показало, що 68% дорослих американців висловили занепокоєння через повсюдне поширення технології розпізнавання облич. Виходячи лише з цього, відмова та юридичні питання також майже напевно неминучі.

«З точки зору закону ми, звичайно, ще не досягли цього», — сказав Гудман. «На жаль, наша правова база, здається, є запізнілим індикатором емоцій людей щодо цього. Ймовірно, вам знадобиться якась переконлива подія, щоб відбутися навколо FRT, перш ніж хтось зверне на це увагу».

Зрештою, це ваше обличчя, про яке ми говоримо, і люди повинні мати можливість контролювати доступ до своїх власних облич, кажуть прихильники.

«Якщо немає значущого процесу, за допомогою якого люди могли б погодитись і мати можливість самостійно прийняти таке рішення, то це неетично», — сказав Хусейн. «Коли ви говорите про біометричні дані, такі ж приватні, як ваше обличчя, і чи не можете це приховати на публіці так само, як ви можете приховати свої руки, це є розмиванням конфіденційності».

Рекомендації редакції

• Microsoft більше не буде інвестувати в технології розпізнавання облич