Ranije ovog mjeseca, oboje Amazon i IBM odustao od kontroverzne tehnologije prepoznavanja lica.
Sadržaj
- Javna naspram privatne tehnologije prepoznavanja lica
- Etički sustav
Amazon je objavio da više neće dopustiti policiji korištenje njegove tehnologije prepoznavanja lica Rekognition, a IBM je obećao da će odustati od daljnjeg razvoja tehnologije.
Preporučeni videozapisi
Ovi su potezi uslijedili jer su alati kritizirani zbog netočnosti i potencijalne zlouporabe kao tehnika masovnog nadzora za pametne gradove.
Povezano
- Kanadske vlasti pokrenule su istragu o Clearview aplikaciji za prepoznavanje lica
Amazon je u svojoj objavi napisao da je njegova odluka izravno inspirirana nastojanjem aktivista da zabrane policiji korištenje prepoznavanja lica. U Izjava IBM-a, tvrtka je napisala da se "odlučno protivi i neće odobriti upotrebu bilo koje tehnologije, uključujući tehnologiju prepoznavanja lica... za masovni nadzor, rasno profiliranje, kršenje osnovnih ljudskih prava i sloboda ili bilo koja svrha koja nije u skladu s našim vrijednostima i načelima povjerenja i Transparentnost.
Ali neki stručnjaci za kibernetičku sigurnost nisu prodani - i odluke će vjerojatno malo pomoći u usporavanju bujice tehnologije prepoznavanja lica u budućnosti.
“Ovo samo otvara hrpu pitanja, poput toga jesu li bili uključeni u masovni nadzor softver prije?" upitao je David Harding, glavni tehnički direktor tvrtke za kibernetičku sigurnost ImageWare. “Zašto to prije ovoga nije prekršilo njihova načela povjerenja i transparentnosti? Čini se da je vrlo čudno. Ovdje ima mnogo toga za raspakirati.”
George Brostoff, izvršni direktor tvrtke SensibleVision za tehnologiju 3D skeniranja lica, rekao je za Digital Trends kako vjeruje da je možda postojao prethodni motiv za odluke.
"Kao i u mnogim drugim stvarima, najava IBM-a vjerojatno je složenija nego što se čini na površini", rekao je, sugerirajući da je malo vjerojatno da je IBM uopće imao veliki udio u prepoznavanju lica.
IBM nije odgovorio na zahtjev za komentar o tome koliko bi takav potez utjecao na njihovu dobit ili koliko su uložili u istraživanje i razvoj prepoznavanja lica.
I Brostoff i Harding primijetili su da IBM nije nužno poznati vladin izvođač u svijetu nadzora lica.
“Mnoge tvrtke koje rade [tehnologiju prepoznavanja lica] na državnoj razini to rade tvrtke za koje nitko nije čuo", rekao je Ben Goodman, viši potpredsjednik tvrtke za kibernetičku sigurnost ForgeRock. “Ove tvrtke ne moraju brinuti o reputacijskom riziku. Amazon i IBM su velika imena, oni su više izloženi riziku.”
Goodman je postavio pitanje kakav povrat tvrtka kao što je Amazon trenutno dobiva na razvoju tehnologije prepoznavanja lica.
“Oni stvarno moraju razmisliti o tome isplati li se ugrožavati privatnost ljudi. Dobivate li dovoljno povrata na to”, rekao je. “Pogledajte Clearview A.I. [tvrtka FRT za koju je otkriveno da krade društvene medije i prodaje softver za provedbu zakona], koji su drsko govorili o tome što rade, a jesu uništeno. Siguran sam da nisu jedini koji to rade, ali to pokazuje kakvo je raspoloženje javnosti.”
I dok je nadzor lica stavljen na stup njegovu notornu netočnost, za koje se priča da se koristi kao a policijski alat tijekom prosvjeda, te potencijalnim kršenjima prava na privatnost, potonje će se vjerojatno vrlo brzo početi pojavljivati kao dio svakodnevnog života.
Javna naspram privatne tehnologije prepoznavanja lica
“Vlada nikada ne bi trebala imati pristup [tehnologiji za prepoznavanje lica] i ona nije kompatibilna s demokratskim društvom,” rekla je Saira Hussain, odvjetnica u Electronic Frontieru Temelj. "To krši naša prava iz Prvog i Četvrtog amandmana."
Ali proliferacija tehnologije prepoznavanja lica u privatnoj sferi mogla bi biti neizbježna kako tehnologija postaje lakša za korištenje. Brostoff je predvidio da će u roku od dvije godine korištenje FaceID-a ili njegovog ekvivalenta postati standardna praksa za svakodnevne zadatke poput odjave u trgovini ili prijave u zračnoj luci.
Kad je riječ o privatnoj sferi, Hussain je za Digital Trends rekla kako se boji da će korporacije razvijati ovu tehnologiju bez razmatranja etičkih implikacija. Ako, na primjer, hotelska industrija počne usvajati tehnologiju prepoznavanja lica, mora postojati način na koji će se ljudi uključiti, rekla je, umjesto da je jednostavno učini sveprisutnom.
"Uvijek bi trebao postojati način da hoteli prijave nekoga tko se ne želi uključiti u sustav", rekla je.
Harold Li, potpredsjednik ExpressVPN-a, rekao je za Digital Trends da je zamislio da će uvođenje prvo biti dostupno kao radna aplikacija za zaposlenike, "koji su manje skloni ili su manje sposobni odbaciti ovu tehnologiju, bilo da se radi o primjeni ili da izvođači provjere njihov identitet", napisao je u elektronička pošta.
Nakon toga bi uslijedile aplikacije namijenjene potrošačima — koje su već prisutne u nekim zemljama.
"To već vidimo u dijelovima svijeta koji manje brinu o privatnosti, kao što je Kina, gdje supermarketi i stanice podzemne željeznice omogućuju ljudima da plaćaju skeniranjem svog lica", napisao je. “U Singapuru su također počela neka ispitivanja za hotelsku prijavu licem. Iako se čini da ovo još nije stiglo do SAD-a, trgovine s velikim nadzorom kao što je Amazon Go mogle bi početi normalizirati razmjenu privatnosti radi praktičnosti.”
"To je nešto poput nezaustavljive sile koja se susreće s nepokretnim objektom", rekao je Goodman. “Očito postoji faktor špijuniranja i faktor puzanja i faktor privatnosti, ali postoji i faktor pogodnosti. To znači da mogu bez dodira u zračnoj luci. To znači da se mogu ukrcati na avion, a da ne stavim telefon na površinu koju je deset drugih ljudi upravo dodirnulo.”
Etički sustav
Ako su stručnjaci u pravu i ako je širenje tehnologije prepoznavanja lica neizbježno, kako ćemo biti sigurni da ćemo stići tamo, a da usput ne narušimo svačiju privatnost?
"Ne bismo trebali zaboraviti da smo u iskušenju da se odreknemo privatnosti zbog uočenih koristi", rekla je Gabrielle Hermier, službenica za medije u Surfshark. “Pitanja privatnosti korisnika, pristanka i FRT pristranosti prema spolu i rasi središnja su rasprava i njima bi se prvo trebalo pozabaviti. Dobavljači FRT-a poput Amazona ili Microsofta i njegovi korisnici, uključujući agencije za provođenje zakona i zračne luke, trebali bi podijeliti odgovornost kako bi osigurali da FRT nije pristran.”
Pitanje pristranosti praktički je povezano s pitanjem FRT-a. Kao što je Tom Chivers iz ProPrivacyja sa sjedištem u Ujedinjenom Kraljevstvu istaknuo: “Potencijal za zlouporabu je prevelik. Studije o prepoznavanju lica pokazale su stopu neuspjeha od 81% za podudaranje lica”, napisao je u poruci za DT, pozivajući se na ono što su otkrili istraživači u UK-u kada su testirali prepoznavanje lica metropolitanske policije tehnologija.
Ta je studija otkrila da je tehnologija netočno identificirala nevine ljude astronomski visokom stopom, prema SkyNewsu.
Li se složio da su pristanak i transparentnost ključni. “Nemojte učiniti takvu tehnologiju obveznom. Dopustite korisnicima da se uključe, a ne da odustanu", napisao je, ponavljajući Hussainovu zabrinutost. Također je rekao da je anketa ExpressVPN-a nedavno pokazala da je 68% odraslih Amerikanaca zabrinuto zbog rastuće sveprisutnosti tehnologije prepoznavanja lica. Samo na temelju toga, povratna i pravna pitanja također su gotovo sigurno neizbježna.
"Sigurno još nismo tamo što se tiče zakona", rekao je Goodman. “Nažalost, čini se da su naši pravni okviri zaostali pokazatelj emocija ljudi o tome. Vjerojatno će vam trebati neki uvjerljivi događaj da se dogodi oko FRT-a prije nego što netko obrati pozornost na njega."
Na kraju dana, ovo je vaše lice o kojem govorimo - i ljudi će morati moći kontrolirati pristup svojim licima, rekli su zagovornici.
"Ako ne postoji smislen proces kojim se ljudi mogu uključiti i imati mogućnost da sami donesu tu odluku, onda to nije etično", rekao je Hussain. "Kada govorite o biometrijskim podacima koji su tako privatni kao što je vaše lice, i ne možete li to prikriti u javnosti na isti način kao što možete prikriti svoje ruke, to je erozija privatnosti."
Preporuke urednika
- Microsoft više neće ulagati u tehnologije prepoznavanja lica
