Prepoznavanje obrazov bo morda kmalu povsod, opozarjajo strokovnjaki

V začetku tega meseca oboje Amazon in IBM se je umaknil od kontroverzne tehnologije prepoznavanja obraza.

Amazon je napovedal, da policiji ne bo več dovolil uporabe njegove tehnologije za prepoznavanje obraza Rekognition, IBM pa je obljubil, da se bo odpovedal nadaljnjemu razvoju tehnologije.

Do teh potez je prišlo, ko so orodja kritizirali zaradi netočnosti in morebitne zlorabe kot tehnike množičnega nadzora za pametna mesta.

Amazon je v svoji objavi zapisal, da je njegovo odločitev neposredno navdihnilo prizadevanje aktivistov, da bi policiji prepovedali uporabo prepoznavanja obraza. notri IBM-ova izjava, je družba zapisala, da »odločno nasprotuje in ne bo odobrila uporabe nobene tehnologije, vključno s tehnologijo za prepoznavanje obraza … za množični nadzor, rasno profiliranje, kršitve osnovnih človekovih pravic in svoboščin ali kateri koli namen, ki ni v skladu z našimi vrednotami in načeli zaupanja in Preglednost.

Toda nekateri strokovnjaki za kibernetsko varnost se ne prodajajo - in odločitve verjetno ne bodo pripomogle k upočasnitvi poplave tehnologije za prepoznavanje obrazov v prihodnosti.

»To samo odpira cel kup vprašanj, na primer, ali so bili vpleteni v množični nadzor prej?« je vprašal David Harding, glavni tehnični direktor podjetja za kibernetsko varnost ImageWare. »Zakaj pred tem ni kršil njihovih načel zaupanja in preglednosti? Zdi se zelo nenavadno. Tukaj je veliko za razpakirati.«

George Brostoff, izvršni direktor tehnološkega podjetja za 3D skeniranje obraza SensibleVision, je za Digital Trends povedal, da verjame, da je morda obstajal predhodni motiv za odločitve.

"Tako kot v mnogih stvareh je tudi objava IBM-a verjetno bolj zapletena, kot se zdi na prvi pogled," je dejal in namigoval, da je malo verjetno, da je IBM že imel velik delež v prepoznavanju obraza.

IBM se ni odzval na prošnjo za komentar o tem, koliko bi takšna poteza vplivala na njihov rezultat ali koliko so vlagali v raziskave in razvoj prepoznavanja obrazov.

Tako Brostoff kot Harding sta opozorila, da IBM ni nujno znan vladni izvajalec v svetu nadzora obrazov.

»Veliko podjetij, ki izvajajo [tehnologijo za prepoznavanje obrazov] na vladnem nivoju, je podjetja, za katera še nihče ni slišal,« je dejal Ben Goodman, višji podpredsednik podjetja za kibernetsko varnost. ForgeRock. »Tem podjetjem ni treba skrbeti za tveganje ugleda. Amazon in IBM sta veliki imeni, bolj sta ogrožena.«

Goodman se je spraševal, kakšen donos ima podjetje, kot je Amazon, trenutno pri razvoju tehnologije prepoznavanja obraza.

»Resnično morajo razmisliti, ali se splača posegati v zasebnost ljudi. Se vam to dovolj povrne,« je dejal. »Poglejte Clearview A.I. [podjetje FRT, za katerega je bilo razkrito, da črpa družbene medije in prodaja programske opreme za organe pregona], ki je nesramno govoril o tem, kaj počnejo, in so bili uničeno. Prepričan sem, da niso edini, ki to počnejo, a to kaže, kakšno je razpoloženje javnosti.”

In medtem ko je bil nadzor obraza ogrožen njegova notorična netočnost, po govoricah se uporablja kot a policijsko orodje med protesti, in morebitne kršitve pravic do zasebnosti, se bo slednje verjetno zelo kmalu začelo pojavljati kot del vsakdana.

Javna proti zasebni tehnologiji prepoznavanja obraza

»Vlada nikoli ne bi smela imeti dostopa do [tehnologije za prepoznavanje obrazov] in ta ni združljiva z demokratično družbo,« je povedala Saira Hussain, odvetnica pri Electronic Frontier Fundacija. "Krši naše pravice iz prvega in četrtega amandmaja."

Toda širjenje tehnologije za prepoznavanje obrazov v zasebni sferi bi lahko bilo neizogibno, saj bo tehnologija postala enostavnejša za uporabo. Brostoff je napovedal, da bo v dveh letih uporaba FaceID-ja ali njegovega enakovrednega postala običajna praksa za vsakdanja opravila, kot sta odjava v trgovini ali prijava na letališču.

Ko gre za zasebno sfero, je Hussain za Digital Trends povedala, da se boji, da bodo korporacije razvile to tehnologijo brez upoštevanja etičnih posledic. Če na primer hotelska industrija začne sprejemati tehnologijo za prepoznavanje obrazov, mora obstajati način, da se ljudje za to odločijo, je dejala, namesto da bi bila preprosto vseprisotna.

"Vedno mora obstajati način, da hoteli prijavijo nekoga, ki se ne želi odločiti za sistem," je dejala.

Harold Li, podpredsednik ExpressVPN, je za Digital Trends povedal, da si je zamislil, da bo uvedba najprej na voljo kot delovna aplikacija za zaposlene, "ki so manj nagnjeni ali zmožni zavrniti to tehnologijo, ne glede na to, ali gre za vklop ali za to, da izvajalci preverijo njihovo identiteto," je zapisal v E-naslov.

Temu bi sledile aplikacije, namenjene potrošnikom, ki so v nekaterih državah že vzpostavljene.

"To že opažamo v delih sveta, ki se manj zavedajo zasebnosti, kot je Kitajska, kjer supermarketi in postaje podzemne železnice ljudem omogočajo plačevanje s skeniranjem obraza," je zapisal. »V Singapurju so se začeli tudi nekateri poskusi osebne prijave v hotel. Čeprav se zdi, da se to še ni prebilo v ZDA, bodo trgovine z veliko nadzora, kot je Amazon Go, morda začele normalizirati trgovanje z zasebnostjo za udobje.«

"To je nekako kot neustavljiva sila, ki se sreča z nepremičnim predmetom," je dejal Goodman. »Očitno je prisoten dejavnik vohunjenja, dejavnik lezenja in faktor zasebnosti, vendar obstaja tudi faktor priročnosti. To pomeni, da sem lahko brez dotika na letališču. To pomeni, da se lahko vkrcam na letalo, ne da bi telefon položil na površino, ki se je je pravkar dotaknilo deset drugih ljudi.«

Etični sistem

Če imajo strokovnjaki prav in je širjenje tehnologije prepoznavanja obrazov neizogibno, kako zagotoviti, da pridemo tja, ne da bi na poti posegli v zasebnost vseh?

"Ne smemo pozabiti, da smo v skušnjavi, da bi se odrekli zasebnosti zaradi domnevnih koristi," je dejala Gabrielle Hermier, predstavnica za medije pri Surfshark. »Vprašanja o zasebnosti uporabnikov, soglasju ter pristranskosti glede spola in rase FRT so osrednjega pomena za razpravo in jih je treba obravnavati najprej. Prodajalci FRT, kot sta Amazon ali Microsoft, in njegovi uporabniki, vključno z organi kazenskega pregona in letališči, bi morali deliti odgovornost za zagotovitev, da FRT ni pristranski.«

Vprašanje pristranskosti je praktično povezano z vprašanjem FRT. Kot je poudaril Tom Chivers iz ProPrivacy s sedežem v Združenem kraljestvu, je »možnost zlorabe veliko previsoka. Študije o prepoznavanju obrazov so pokazale 81-odstotno stopnjo neuspeha pri ujemanju obrazov,« je zapisal v sporočilu za DT, nanašajoč se na to, kar so ugotovili raziskovalci v Združenem kraljestvu, ko so testirali prepoznavanje obraza metropolitanske policije tehnologija.

Ta študija je pokazala, da tehnologija nepravilno identificira nedolžne ljudi z astronomsko visoko stopnjo, po poročanju SkyNews.

Li se je strinjal, da sta soglasje in preglednost ključnega pomena. »Ne naredite takšne tehnologije obvezne. Pustite uporabnikom, da se vključijo, namesto da se odjavi,« je zapisal in ponovil Hussainove pomisleke. Povedal je tudi, da je anketa ExpressVPN nedavno pokazala, da je 68 % odraslih v ZDA izjavilo, da jih skrbi vse večja vseprisotnost tehnologije prepoznavanja obrazov. Samo na podlagi tega so povratna in pravna vprašanja prav tako skoraj zagotovo neizogibna.

"Zagotovo še nismo tam, kar zadeva zakon," je dejal Goodman. »Na žalost se zdi, da so naši pravni okviri zaostajajoč pokazatelj čustev ljudi glede tega. Verjetno boste potrebovali nekaj prepričljivega dogodka okoli FRT, preden bo kdo pozoren na to.«

Na koncu dneva govorimo o vašem obrazu - in ljudje bodo morali imeti možnost nadzorovati dostop do svojih obrazov, pravijo zagovorniki.

"Če ni smiselnega postopka, s katerim bi se ljudje lahko odločili in imeli možnost, da sami sprejmejo to odločitev, potem to ni etično," je dejal Hussain. "Ko govorite o biometriji, ki je tako zasebna kot vaš obraz, in tega ne morete prikriti v javnosti na enak način kot svoje roke, je to erozija zasebnosti."

Priporočila urednikov

• Microsoft ne bo več vlagal v tehnologije za prepoznavanje obraza