Odborníci varujú, že rozpoznávanie tváre môže byť čoskoro všade

Začiatkom tohto mesiaca obe Amazon a IBM ustúpil od kontroverznej technológie rozpoznávania tváre.

Amazon oznámil, že už nedovolí polícii používať svoju technológiu rozpoznávania tváre Rekognition a IBM sa zaviazalo, že ustúpi od ďalšieho vývoja tejto technológie.

Tieto kroky prišli, keď boli nástroje kritizované za nepresnosti a potenciálne zneužitie ako technika hromadného sledovania inteligentné mestá.

Amazon vo svojom oznámení napísal, že jeho rozhodnutie bolo priamo inšpirované snahou aktivistov zakázať polícii používať rozpoznávanie tváre. In vyhlásenie IBM, spoločnosť napísala, že „rozhodne odmieta a nebude tolerovať používanie akejkoľvek technológie vrátane technológie rozpoznávania tváre... na hromadné sledovanie, rasové profilovanie, porušovanie základných ľudských práv a slobôd alebo akýkoľvek účel, ktorý nie je v súlade s našimi hodnotami a zásadami dôvery a Transparentnosť.

Niektorí odborníci na kybernetickú bezpečnosť sa však nepredávajú – a rozhodnutia pravdepodobne len málo spomalia záplavu technológie rozpoznávania tváre v budúcnosti.

„To len otvára množstvo otázok, napríklad, či boli zapojení do hromadného sledovania softvér predtým?" spýtal sa David Harding, hlavný technický riaditeľ spoločnosti zaoberajúcej sa kybernetickou bezpečnosťou ImageWare. „Prečo predtým neporušila ich zásady dôvery a transparentnosti? Zdá sa to byť veľmi zvláštne. Je tu toho veľa, čo treba rozbaliť."

George Brostoff, generálny riaditeľ technologickej firmy SensibleVision na 3D skenovanie tváre, pre Digital Trends povedal, že je presvedčený, že tieto rozhodnutia mohli mať predný motív.

"Ako v mnohých veciach, oznámenie IBM je pravdepodobne zložitejšie, ako sa na prvý pohľad zdá," povedal a naznačil, že je nepravdepodobné, že by IBM mala v prvom rade veľký záujem na rozpoznávaní tváre.

IBM nereagovala na žiadosť o komentár, ako veľmi by takýto krok ovplyvnil ich zisk, ani koľko investovali do výskumu a vývoja rozpoznávania tváre.

Brostoff aj Harding poznamenali, že IBM nie je nevyhnutne známym vládnym dodávateľom vo svete sledovania tváre.

„Veľa spoločností, ktoré robia [technológiu rozpoznávania tváre] vo vládnom meradle, sú spoločnosti, o ktorých nikto nepočul,“ povedal Ben Goodman, senior viceprezident spoločnosti zaoberajúcej sa kybernetickou bezpečnosťou ForgeRock. „Tieto spoločnosti sa nemusia obávať reputačného rizika. Amazon a IBM sú veľké mená, majú väčšie riziko.“

Goodman spochybnil, aký druh návratnosti spoločnosti, ako je Amazon, práve teraz dosahuje vývoj technológie rozpoznávania tváre.

„Naozaj sa musia zamyslieť nad tým, či stojí za to brániť súkromiu ľudí. Dostávate z toho dostatočnú návratnosť,“ povedal. „Pozrite sa na Clearview A.I. [spoločnosť FRT, o ktorej sa ukázalo, že sťahuje sociálne médiá a predáva softvér pre orgány činné v trestnom konaní], ktorí drzo hovorili o tom, čo robili, a boli zničené. Som si istý, že nie sú jediní, ktorí to robia, ale to ukazuje, aká je nálada verejnosti."

A zatiaľ čo sledovanie tváre bolo pranierované jeho notoricky známa nepresnosť, hovorí sa o použití ako a policajný nástroj počas protestova potenciálne porušovanie práv na súkromie sa pravdepodobne veľmi skoro začne objavovať ako súčasť každodenného života.

Verejná verzus súkromná technológia rozpoznávania tváre

„Vláda by nikdy nemala mať prístup k [technológii rozpoznávania tváre] a nie je kompatibilná s demokratickou spoločnosťou,“ povedala Saira Hussain, zástupkyňa právnej zástupkyne v Electronic Frontier Nadácia. "Porušuje to naše práva prvého a štvrtého dodatku."

Rozšírenie technológie rozpoznávania tváre v súkromnej sfére však môže byť nevyhnutné, pretože sa technológia stáva jednoduchším. Brostoff predpovedal, že do dvoch rokov sa používanie FaceID alebo jeho ekvivalentu stane štandardnou praxou pri každodenných úlohách, ako je odhlásenie v obchode alebo odbavenie na letisku.

Pokiaľ ide o súkromnú sféru, Hussain pre Digital Trends povedala, že sa obáva, že korporácie vyvinú túto technológiu bez toho, aby zvážili etické dôsledky. Ak napríklad hotelový priemysel začne používať technológiu rozpoznávania tváre, musí existovať spôsob, ako sa ľudia môžu prihlásiť, povedala, namiesto toho, aby bola jednoducho všadeprítomná.

"Vždy by mal existovať spôsob, ako hotely prihlásiť niekoho, kto sa nechce prihlásiť do systému," povedala.

Harold Li, viceprezident ExpressVPN, povedal pre Digital Trends, že si predstavoval zavedenie ako prvé dostupné ako pracovné aplikácie pre zamestnancov, „ktorí sú menej naklonení alebo schopní odmietnuť túto technológiu, či už je to na sledovanie, alebo na to, aby si dodávatelia overili ich identitu,“ napísal v správe. email.

Potom by nasledovali aplikácie zamerané na spotrebiteľov, ktoré sú už v niektorých krajinách zavedené.

„Už to vidíme v častiach sveta, ktoré si menej uvedomujú súkromie, ako je Čína, kde supermarkety a stanice metra umožňujú ľuďom platiť skenovaním tváre,“ napísal. „V Singapure sa tiež začalo niekoľko pokusov o prihlásenie do hotela. Aj keď sa zdá, že sa to ešte nedostalo do USA, obchody náročné na dohľad, ako je Amazon Go, môžu začať normalizovať obchodovanie so súkromím pre pohodlie.

"Je to niečo ako nezastaviteľná sila, ktorá sa stretáva s nehybným objektom," povedal Goodman. „Samozrejme, že existuje špionážny faktor a faktor plíživosti a faktor ochrany osobných údajov, ale je tu aj faktor pohodlia. Znamená to, že môžem byť na letisku bezdotykový. Znamená to, že môžem nastúpiť do lietadla bez toho, aby som položil telefón na povrch, ktorého sa práve dotklo desať ďalších ľudí.“

Etický systém

Ak majú odborníci pravdu a šírenie technológie rozpoznávania tvárí je nevyhnutné, ako zabezpečíme, že sa tam dostaneme bez toho, aby sme narušili súkromie všetkých?

„Nemali by sme zabúdať, že sme v pokušení vzdať sa súkromia kvôli vnímaným výhodám,“ povedala Gabrielle Hermier, mediálna zástupkyňa Surfshark. „Otázky súkromia používateľov, súhlasu a rodovej a rasovej zaujatosti FRT sú ústredné v diskusii a mali by sa riešiť ako prvé. Predajcovia FRT ako Amazon alebo Microsoft a ich používatelia, vrátane orgánov činných v trestnom konaní a letísk, by mali zdieľať zodpovednosť za to, že FRT nebude zaujatá.“

Otázka zaujatosti je prakticky spojená s otázkou FRT. Ako zdôraznil Tom Chivers z ProPrivacy so sídlom v Spojenom kráľovstve: „Potenciál zneužitia je príliš vysoký. Štúdie rozoznávania tváre preukázali 81% mieru zlyhania pri priraďovaní tváre,“ napísal v správe pre DT, odvolávajúc sa na to, čo zistili vedci v Spojenom kráľovstve, keď testovali rozpoznávanie tváre Metropolitnou políciou technológie.

Táto štúdia zistila, že technológia nesprávne identifikovala nevinných ľudí v astronomicky vysokej miere, podľa SkyNews.

Súhlas a transparentnosť sú kľúčové. „Nerobte z takejto technológie povinnosť. Nechajte používateľov radšej sa prihlásiť ako odhlásiť,“ napísal a zopakoval Hussainove obavy. Povedal tiež, že prieskum ExpressVPN nedávno zistil, že 68 % dospelých v USA uviedlo, že ich znepokojuje rastúca všadeprítomnosť technológie rozpoznávania tváre. Už len na základe toho sú takmer určite nevyhnutné odmietnutie a právne otázky.

"Určite tam ešte nie sme z hľadiska zákona," povedal Goodman. „Bohužiaľ, zdá sa, že naše právne rámce sú zaostávajúcim ukazovateľom emócií ľudí v tejto veci. Pravdepodobne budete potrebovať, aby sa okolo FRT odohrala nejaká presvedčivá udalosť, kým jej niekto začne venovať pozornosť."

Na konci dňa, toto je vaša tvár, o ktorej hovoríme – a ľudia budú musieť mať možnosť kontrolovať prístup k svojim vlastným tváram, uviedli obhajcovia.

„Ak neexistuje zmysluplný proces, pomocou ktorého by sa ľudia mohli prihlásiť a mať možnosť urobiť toto rozhodnutie sami, potom to nie je etické,“ povedal Hussain. „Keď hovoríte o biometrii, ktorá je taká súkromná ako vaša tvár, a nemôžete ju na verejnosti zakryť tak, ako to dokážete o svojich rukách, je to narúšanie súkromia.“

Odporúčania redaktorov

• Microsoft už nebude investovať do technológií na rozpoznávanie tváre