Апликација Цлеарвиев АИ за препознавање лица је ноћна мора за жртве ухођења

Најновији пример охолости Силицијумске долине је апликација за препознавање лица Цлеарвиев АИ. Мала стартуп апликација је толико моћна да би неко могао да приђе до вас на улици, сними вашу фотографију и брзо сазна ваше име, адресу и број телефона, према извештај у Њујорк тајмсу.

Ова технологија вероватно звучи као одлична идеја за две врсте људи: Спровођење закона и језе. Заговорници се брину да би ова врста технологије за препознавање лица могла бити благодат за уходе, људе са историју породичног злостављања, и било кога другог ко би желео да сазна све о вама за подлог сврха.

„Док су се вести о овој апликацији шириле, жене су свуда уздисале“, рекла је Јо О’Реилли, заговорница приватности при ПроПриваци-у са седиштем у Великој Британији, у изјави за Дигитал Трендс. „Још једном, безбедност жена и на мрежи и у стварном животу дошла је на друго место у односу на жељу технолошких стартапа да створе – и уновче – све инвазивнију технологију.

Цлеарвиев делимично функционише тако што извлачи јавно доступне податке са популарних сајтова друштвених медија као што су Фејсбук, Твиттер, ИоуТубе и Венмо, између осталих. Портпарол компаније Фацебоок рекао је за Дигитал Трендс да је „стругање Фејсбук информације или њихово додавање у директоријум су забрањени нашим смерницама, па прегледавамо тврдње о овој компанији и предузећемо одговарајуће мере ако утврдимо да крше наша правила.” Твиттер такође каже да забрањује ово коришћење његових података.

Ново средство за злостављаче

Ухођење је дуго било проблем за жене на мрежи, а то је без алата који може пронаћи некога само на основу њиховог лица. За сада, Цлеарвиев тврди да своје услуге продаје само органима за спровођење закона, који су дали заиста сјајне критике технологије. „Међутим, чудно ћуте о чињеници да би овај софтвер у погрешним рукама могао да се искористи за узнемиравање и ухођење скоро свакога“, рекао је О’Рајли. „Ово би било немогуће спречити ако би софтвер био доступан јавности – сценарио за који су инвеститори Цлеарвиева признали да је могућ.

„Сваку технологију коју развијете и коју ће људи користити, морате размишљати о недостацима“, рекао је Цристал Јустице, директор маркетинга и развоја за Национална телефонска линија за борбу против насиља у породици . „Злостављачи увек траже следећи алат у својој кутији са алаткама.

Врућа линија је почела да извештава о дигиталној злоупотреби као сопственој специфичној категорији 2015. године и од тада је забележила значајан пораст броја, посебно међу младим људима. Јустице је за Дигитал Трендс рекао да је телефонска линија примила 371.000 контаката у 2018. години, а 15 одсто од тога су биле жалбе на дигиталну злоупотребу. У просеку на националном нивоу, једна од четири жене и један од седам мушкараца су преживели насиље у породици, према бројевима дежурне линије.

„Преживјели чине тако велики дио наше популације“, рекао је Јустице. „Технолошке компаније морају узети у обзир искуство преживелих када дизајнирају своје апликације.

Стални проблем

Ово је упоран образац са много дисруптивне технологије у данашње време. Када је Убер лансиран 2009. године, чинило се да је технологија превише кул да би била истинита. Нисмо више били робови такси индустрије или некомпетентног јавног превоза у нашим градовима.

Наравно, Уберов модел се такође директно суочио са конвенционалном мудрошћу коју смо учили као деца: Не улазите у аутомобиле са странцима. Десет година и неколико хиљада тужбипреко сексуалног напада касније би се чинило да је постојао разлог што је била конвенционална мудрост. За многе људе, улазак у аутомобил странца није безбедно, чак и када плаћате да будете тамо.

Али овај елемент размишљања о безбедности, или да морате да се крећете светом, непрестано бринете за своју физичку безбедност, жене и људи мањинског пола морају, чини се, нису били на уму (углавном белаца) мушкараца који су основали технолошке компаније попут Убера, као Твиттер, као и многи други. Само су желели да направе нешто кул што ће променити свет. Идеја да ће се користити у зле сврхе није им пала на памет све док није било прекасно.

Приватност и безбедност морају бити уграђени у апликацију од самог почетка, рекла је Рејчел Гибсон, виши стручњак за безбедност технологије за Националну мрежу за окончање насиља у породици. „Једна је ствар да се нешто гради са добром намером, али знамо да се технологија може злоупотребити“, рекао је Гибсон за Дигитал Трендс. „Ми о томе размишљамо као о новој технологији, старом понашању. Људи су и даље били силовани у таксијима [пре Убера], али морамо размислити о томе како технологија ових дана може олакшати стара понашања попут ухођења и напада.”

Нешто попут Цлеарвиева, рекао је Гибсон, иако има своје користи за спровођење закона, свакако поставља питања како и зашто би то било корисно широј јавности. „Прављење ових ствари за јавну потрошњу доводи преживеле у опасност и морамо да размислимо о нежељеним последицама“, рекла је она.

Јустице је рекла да види да се разговор о улози технологије у јавној безбедности мења. „Дискурс се променио од МеТоо-а“, рекла је она. „А било је и време. Ово није ново питање. Не видимо нужно повећање насиља у породици, видимо да се о томе коначно разговара. И сада можемо да укључимо у сложене елементе како је технологија део тога."

Гибсон је такође рекла да је имала разговоре са неколико „великих технолошких компанија“ (иако не би наведите који), и рекли су да сада „покушавају да воде рачуна о изградњи приватности и безбедност.

Цлеарвиев је дао кратку изјаву за Дигитал Трендс, рекавши да „ове забринутости схватају озбиљно и да немају планове за комерцијално издавање“. Ин пост на блогу, компанија је нагласила да њихов производ није доступан јавности и да ће бити доступан „само агенцијама за спровођење закона и одабраним професионалцима за безбедност“.

Ако верујете да ви или неко кога познајете патите од злостављања интимног партнера, контактирајте Националну телефонску линију за насиље у породици 24/7 на 1−800−799−7233.

Препоруке уредника

• Коментар који покреће вештачка интелигенција стиже на Вимблдон следећег месеца
• Елон Муск поставља генеративни АИ пројекат на Твитеру, тврди извештај
• Гоогле Смарт Цанвас добија дубљу интеграцију између апликација
• Нвидиа изнајмљује своју АИ Суперпод платформу за 90 хиљада долара месечно
• Портланд забрањује приватну и јавну употребу технологије за препознавање лица