Eksperdid hoiatavad, et näotuvastus võib varsti olla kõikjal

Selle kuu alguses mõlemad Amazon ja IBM taganes vastuolulisest näotuvastustehnoloogiast.

Amazon teatas, et ei luba enam politseil kasutada oma näotuvastustehnoloogiat Rekognition ja IBM lubas, et loobub tehnoloogia edasisest arendamisest.

Need sammud tulid siis, kui tööriistu on kritiseeritud ebatäpsuste ja võimaliku väärkasutuse pärast massilise jälgimistehnikana. targad linnad.

Amazon kirjutas oma teadaandes, et tema otsus oli otseselt inspireeritud aktivistide tõukest keelata politseil näotuvastuse kasutamine. sisse IBMi avaldus, kirjutas ettevõte, et "on kindlalt vastu ega kiida heaks ühegi tehnoloogia, sealhulgas näotuvastustehnoloogia … kasutamist massilise jälgimise eesmärgil, rassiline profiilide koostamine, põhiliste inimõiguste ja -vabaduste rikkumine või mis tahes eesmärk, mis ei ole kooskõlas meie väärtuste ja usalduspõhimõtetega ning Läbipaistvus.

Kuid mõnda küberturbeeksperti ei müüda – ja tõenäoliselt ei aita need otsused tulevikus näotuvastustehnoloogia tulva pidurdada.

"See lihtsalt avab terve hulga küsimusi, näiteks, kas nad on olnud seotud massilise jälgimisega tarkvara enne?” küsis küberturvalisuse ettevõtte tehniline juht David Harding ImageWare. „Miks see ei rikkunud nende usalduse ja läbipaistvuse põhimõtteid enne seda? Tundub väga veider olevat. Siin on palju lahti pakkimist."

3D-näoskaneerimise tehnoloogiafirma SensibleVision tegevjuht George Brostoff ütles väljaandele Digital Trends, et tema arvates võis otsustel olla ka eelmine motiiv.

"Nagu paljude asjade puhul, on IBMi teadaanne tõenäoliselt keerulisem, kui pealtnäha paistab," ütles ta, viidates sellele, et on ebatõenäoline, et IBMil on näotuvastuses suur osakaal.

IBM ei vastanud kommentaaritaotlusele selle kohta, kui palju selline samm nende lõpptulemust mõjutab või kui palju nad on investeerinud näotuvastuse uurimis- ja arendustegevusse.

Nii Brostoff kui ka Harding märkisid, et IBM ei pruugi näoseire maailmas olla tunnustatud valitsuse töövõtja.

"Paljud ettevõtted, kes tegelevad [näotuvastustehnoloogiaga] valitsuse tasandil, on sellised ettevõtted, millest keegi pole kuulnud,” ütles küberturvalisuse ettevõtte vanem asepresident Ben Goodman ForgeRock. "Need ettevõtted ei pea muretsema maineriski pärast. Amazon ja IBM on suured nimed, neil on suurem oht.

Goodman kahtles, millist tulu saab selline ettevõte nagu Amazon praegu näotuvastustehnoloogia arendamisel.

"Nad peavad tõesti mõtlema, kas tasub inimeste privaatsust takistada. Kas saate sellest piisavalt tulu," ütles ta. „Vaadake Clearview A.I. [FRT-ettevõte, mille kohta selgus, et ta kraapib sotsiaalmeediat ja müüb tarkvara õiguskaitseorganitele], mis rääkis jultunult, mida nad teevad, ja nad olid seda hävitatud. Olen kindel, et nad pole ainsad, kes seda teevad, kuid see näitab, milline on avalikkuse meeleolu.

Ja kuigi näojälgimist on kasutatud selle kurikuulus ebatäpsus, kuuldavasti kasutada kui a politsei tööriist protestide ajal, ja võimalikud privaatsusõiguste rikkumised, hakkavad viimased tõenäoliselt peagi igapäevaelu osana esile kerkima.

Avalik versus privaatne näotuvastustehnoloogia

"Valitsusel ei tohiks kunagi olla juurdepääsu [näotuvastustehnoloogiale] ja see ei ühildu demokraatliku ühiskonnaga,” ütles Electronic Frontieri personaliadvokaat Saira Hussain Sihtasutus. "See rikub meie esimese ja neljanda muudatuse õigusi."

Kuid näotuvastustehnoloogia levik erasfääris võib olla vältimatu, kuna tehnoloogiat muutub lihtsamaks kasutada. Brostoff ennustas, et kahe aasta jooksul muutub FaceID või selle ekvivalendi kasutamine tavapärasteks igapäevatoiminguteks, nagu poes või lennujaamas registreerimine.

Mis puutub erasfääri, siis Hussain ütles Digital Trendsile, et ta kardab, et ettevõtted arendavad seda tehnoloogiat eetilisi tagajärgi arvesse võtmata. Kui näiteks hotellitööstus hakkab näotuvastustehnoloogiat kasutusele võtma, peab inimestel olema võimalus seda kasutada, selle asemel, et seda lihtsalt üldlevinud teha, ütles ta.

"Alati peaks hotellidel olema võimalus registreerida keegi, kes ei soovi süsteemiga liituda," ütles ta.

ExpressVPN-i asepresident Harold Li ütles väljaandele Digital Trends, et ta nägi kasutuselevõttu esmakordselt kättesaadavana töötajate töörakendustena. "kes on vähem valmis või suudavad seda tehnoloogiat tagasi lükata, olgu see siis sisselülitamiseks või töövõtjate identiteedi kontrollimiseks," kirjutas ta email.

Sellele järgneksid tarbijatele suunatud rakendused, mis on mõnes riigis juba kasutusel.

"Me näeme seda juba vähem privaatsust arvestavates maailma osades, näiteks Hiinas, kus nii supermarketid kui ka metroojaamad võimaldavad inimestel maksta oma nägu skaneerides," kirjutas ta. „Singapuris on alanud ka mõned katsed näo järgi hotelli registreerimiseks. Kuigi tundub, et see ei ole veel USA-sse jõudnud, võivad suure järelevalvega poed, nagu Amazon Go, hakata mugavuse huvides privaatsusega kauplemist normaliseerima.

"See on nagu pidurdamatu jõud, mis kohtub liikumatu objektiga," ütles Goodman. "Ilmselt on olemas spioonitegur ja hiilimistegur ja privaatsustegur, kuid seal on ka mugavustegur. See tähendab, et võin lennujaamas olla kontaktivabalt. See tähendab, et saan lennukisse astuda, asetamata oma telefoni pinnale, mida kümme inimest just puudutas.

Eetiline süsteem

Kui ekspertidel on õigus ja näotuvastustehnoloogia levik on vältimatu, kuidas siis tagada, et jõuame selleni, ilma et see tee jooksul läbi rebiks kõigi privaatsust?

"Me ei tohiks unustada, et meil on kiusatus loobuda privaatsusest tajutavate eeliste nimel," ütles meediaametnik Gabrielle Hermier. Surfhai. "Kasutajate privaatsuse, nõusoleku ja FRT soolise ja rassi eelarvamuste küsimused on arutelu kesksed ja neid tuleks kõigepealt käsitleda. FRT-müüjad, nagu Amazon või Microsoft, ja selle kasutajad, sealhulgas õiguskaitseasutused ja lennujaamad, peaksid jagama vastutust selle eest, et FRT-d ei oleks kallutatud.

Kallutatuse küsimus on praktiliselt abielus FRT küsimusega. Nagu Tom Chivers Ühendkuningriigis asuvast ProPrivacyst märkis, on kuritarvitamise võimalus liiga suur. Näotuvastuse uuringud on näidanud, et näo sobitamise ebaõnnestumise protsent on 81%,“ kirjutas ta DT-le saadetud sõnumis. viidates sellele, mida Ühendkuningriigi teadlased Metropolitani politsei näotuvastust testides leidsid tehnoloogia.

Selles uuringus leiti, et tehnoloogia tuvastas süütuid inimesi astronoomiliselt kiiresti, SkyNewsi andmetel.

Li kokkulepitud nõusolek ja läbipaistvus on võtmetähtsusega. «Ärge tehke sellist tehnoloogiat kohustuslikuks. Laske kasutajatel pigem lubada kui loobuda," kirjutas ta Hussaini muret korrates. Ta ütles ka, et ExpressVPN-i küsitlus näitas hiljuti, et 68% USA täiskasvanutest ütlesid, et nad on mures näotuvastustehnoloogia üha laialdasema leviku pärast. Ainuüksi selle põhjal on ka tagasilükkamine ja juriidilised küsimused peaaegu kindlasti vältimatud.

"Me ei ole kindlasti veel seaduste järgi," ütles Goodman. „Kahjuks näib meie õigusraamistik olevat inimeste emotsioonide mahajäänud näitaja. Tõenäoliselt vajate FRT-ga seotud mõjuvat sündmust, enne kui keegi sellele tähelepanu pöörab.

Lõppude lõpuks on see teie nägu, millest me räägime – ja inimestel peab olema võimalik kontrollida juurdepääsu oma nägudele, ütlesid advokaadid.

"Kui pole mõtet protsessi, mille kaudu inimesed saaksid osaleda ja oma otsuse ise teha, pole see eetiline," ütles Hussain. "Kui räägite biomeetriast, mis on sama privaatne kui teie nägu, ja see ei saa avalikult varjata samamoodi nagu oma käsi, on see privaatsuse erosioon."

Toimetajate soovitused

• Microsoft ei investeeri enam näotuvastustehnoloogiatesse