Стручњаци упозоравају да ће препознавање лица ускоро бити свуда

Раније овог месеца, обоје Амазон и ИБМ повукао се од контроверзне технологије препознавања лица.

Амазон је најавио да више неће дозволити полицији да користи своју Рекогнитион технологију за препознавање лица, а ИБМ је обећао да ће одустати од даљег развоја технологије.

Ови потези су уследили пошто су алати критиковани због нетачности и потенцијалне злоупотребе као технике масовног надзора за паметни градови.

Амазон је у свом саопштењу написао да је његова одлука директно инспирисана настојањем активиста да забрани полицији да користи препознавање лица. Ин ИБМ-ова изјава, компанија је написала да се „чврсто противи и неће толерисати употребу било које технологије, укључујући технологију препознавања лица … за масовни надзор, расно профилисање, кршење основних људских права и слобода, или било коју сврху која није у складу са нашим вредностима и принципима поверења и Транспарентност.

Али неки стручњаци за сајбер безбедност нису продати - и одлуке ће вероватно мало допринети успоравању поплаве технологије за препознавање лица у будућности.

„Ово само отвара гомилу питања, на пример, да ли су били укључени у масовни надзор софтвер пре?” питао је Давид Хардинг, главни технички директор компаније за сајбер безбедност ИмагеВаре. „Зашто то није нарушило њихово поверење и принципе транспарентности пре овога? Изгледа да је веома чудно. Овде има много тога за распаковати.”

Џорџ Бростоф, извршни директор компаније за технологију 3Д скенирања лица СенсиблеВисион, рекао је за Дигитал Трендс да верује да је можда постојао претходни мотив одлука.

„Као и у многим стварима, најава ИБМ-а је вероватно сложенија него што се чини на површини“, рекао је он, сугеришући да је мало вероватно да је ИБМ уопште имао много удела у препознавању лица.

ИБМ није одговорио на захтев за коментар колико би такав потез утицао на њихов резултат, или колико су улагали у истраживање и развој препознавања лица.

И Бростоф и Хардинг су приметили да ИБМ није нужно истакнути државни уговарач у свету надзора лица.

„Многе компаније које раде [технологију препознавања лица] на нивоу владе су компаније за које нико није чуо“, рекао је Бен Гудман, виши потпредседник фирме за сајбер безбедност ФоргеРоцк. „Ове компаније не морају да брину о репутационом ризику. Амазон и ИБМ су велика имена, они су више у опасности.

Гудман је довео у питање какву врсту поврата компанија као што је Амазон тренутно добија на развоју технологије за препознавање лица.

„Они заиста морају да размисле о томе да ли је вредно труда да ометају приватност људи. Да ли добијате довољно поврата на то“, рекао је он. „Погледајте Цлеарвиев А.И. [компанија ФРТ за коју је откривено да скреће друштвене медије и продаје софтвер органима за спровођење закона], који су дрско говорили о томе шта су радили, а они су били уништена. Сигуран сам да они нису једини који то раде, али то показује какво је расположење јавности.”

И док је надзор лица стављен на стубове своју ноторну нетачност, гласине користе као а полицијски алат током протеста, и потенцијална кршења права на приватност, ово друго ће вероватно почети да се појављује као део свакодневног живота врло брзо.

Јавна и приватна технологија за препознавање лица

„Влада никада не би требало да има приступ [технологији за препознавање лица] и није компатибилна са демократским друштвом“, рекла је Саира Хусеин, адвокат у компанији Елецтрониц Фронтиер Фондација. „То крши наша права из Првог и Четвртог амандмана.

Али ширење технологије за препознавање лица у приватној сфери могло би бити неизбежно јер технологија постаје лакша за коришћење. Бростофф је предвидео да ће у року од две године коришћење ФацеИД-а или његовог еквивалента постати стандардна пракса за свакодневне задатке као што су одјављивање у продавници или пријављивање на аеродрому.

Када је у питању приватна сфера, Хуссаин је рекла за Дигитал Трендс да се плаши да ће корпорације развити ову технологију без разматрања етичких импликација. Ако, на пример, хотелска индустрија почне да усваја технологију препознавања лица, мора постојати начин да се људи одаберу, рекла је она, уместо да је једноставно учини свеприсутном.

„Увек треба да постоји начин да хотели пријаве некога ко не жели да се укључи у систем“, рекла је она.

Харолд Ли, потпредседник ЕкпрессВПН-а, рекао је за Дигитал Трендс да је замислио да ће увођење бити прво доступно као радне апликације за запослене, „који су мање склони или су у стању да одбију ову технологију, било да се ради о укључивању, или да извођачи верификују своје идентитете“, написао је он у емаил.

Након тога би уследиле апликације усмерене на потрошаче — које већ постоје у неким земљама.

„Ово већ видимо у деловима света који мање воде рачуна о приватности, као што је Кина, где и супермаркети и станице метроа омогућавају људима да плаћају скенирањем лица“, написао је он. „У Сингапуру су такође почела нека испитивања за пријављивање у хотел лицем. Иако се чини да ово још није стигло до САД, продавнице које су тешке за надзор попут Амазон Го могу почети да нормализују размену приватности ради погодности.

„То је као да се незаустављива сила сусреће са непокретним објектом“, рекао је Гудман. „Очигледно је да постоје шпијунски фактор и фактор пузања и фактор приватности, али постоји и фактор погодности. То значи да могу да идем без додира на аеродрому. То значи да могу да се укрцам у авион без стављања телефона на површину коју је десет других људи управо додирнуло.

Етички систем

Ако су стручњаци у праву и ширење технологије препознавања лица је неизбежно, како да будемо сигурни да стигнемо тамо, а да успут не нарушимо свачију приватност?

„Не треба да заборавимо да смо у искушењу да се одрекнемо приватности ради уочених користи“, рекла је Габриелле Хермиер, службеница за медије у Сурфсхарк. „Питања приватности, сагласности корисника и родне и расне пристрасности ФРТ-а су централна у дебати и требало би их прво решити. Продавци ФРТ-а као што су Амазон или Мицрософт и његови корисници, укључујући агенције за спровођење закона и аеродроме, треба да деле одговорност да осигурају да ФРТ није пристрасан.

Питање пристрасности је практично повезано са питањем ФРТ. Као што је Том Цхиверс из британске компаније ПроПриваци истакао, „Потенцијал за злоупотребу је превелик. Студије о препознавању лица показале су стопу неуспеха од 81% за упаривање лица“, написао је он у поруци за ДТ, позивајући се на оно што су истраживачи у Великој Британији пронашли када су тестирали препознавање лица Метрополитенске полиције технологије.

Та студија је открила да је технологија погрешно идентификовала невине људе астрономски високом стопом, према СкиНевс-у.

Лијева сагласност и транспарентност су кључни. „Не чините такву технологију обавезном. Дозволите корисницима да се укључе радије него да се одустану“, написао је он, понављајући Хусеинову забринутост. Он је такође рекао да је анкета ЕкпрессВПН-а недавно показала да је 68% одраслих у САД рекло да је забринуто због растуће свеприсутности технологије препознавања лица. Само на основу овога, одбијање и правна питања су такође готово сигурно неизбежни.

„Сигурно још нисмо тамо у закону“, рекао је Гудман. „Нажалост, чини се да су наши правни оквири заостали показатељ емоција људи у вези са овим. Вероватно ће вам требати неки упечатљив догађај око ФРТ-а пре него што неко обрати пажњу на њега.

На крају крајева, ово је ваше лице о коме говоримо - и људи ће морати да буду у могућности да контролишу приступ сопственим лицима, рекли су заговорници.

„Ако не постоји смислен процес којим се људи могу укључити и имати могућност да сами донесу ту одлуку, онда то није етично“, рекао је Хусеин. „Када говорите о биометрији која је тако приватна као што је ваше лице, и зар то не можете да покријете у јавности на исти начин као што можете својим рукама, то је ерозија приватности.

Препоруке уредника

• Мицрософт више неће улагати у технологије за препознавање лица