Sejas atpazīšana drīzumā var būt visur, brīdina eksperti

Šā mēneša sākumā abi Amazon un IBM atkāpās no pretrunīgi vērtētās sejas atpazīšanas tehnoloģijas.

Amazon paziņoja, ka vairs neļaus policijai izmantot savu Rekognition sejas atpazīšanas tehnoloģiju, un IBM solīja, ka tā atteiksies no turpmākas tehnoloģijas izstrādes.

Šie rīki tika kritizēti par neprecizitātēm un iespējamu ļaunprātīgu izmantošanu kā masveida novērošanas paņēmienu. viedās pilsētas.

Amazon savā paziņojumā rakstīja, ka tās lēmumu tieši iedvesmoja aktīvistu centieni aizliegt policijai izmantot sejas atpazīšanu. In IBM paziņojums, uzņēmums rakstīja, ka “stingri iebilst pret un nepiedos nevienas tehnoloģijas, tostarp sejas atpazīšanas tehnoloģijas izmantošanu … masveida uzraudzībai, rasu profilēšana, cilvēktiesību un pamatbrīvību pārkāpumi vai jebkurš mērķis, kas neatbilst mūsu vērtībām un uzticības principiem un Pārredzamība.

Taču daži kiberdrošības eksperti netiek pārdoti, un šie lēmumi, visticamāk, maz palēninās sejas atpazīšanas tehnoloģiju plūdus nākotnē.

"Tas tikai paver veselu virkni jautājumu, piemēram, vai viņi ir bijuši iesaistīti masveida novērošanā programmatūru iepriekš?” vaicāja Deivids Hārdings, kiberdrošības uzņēmuma galvenais tehniskais darbinieks ImageWare. "Kāpēc tas nepārkāpa viņu uzticības un pārredzamības principus pirms tam? Šķiet, ka tas ir ļoti dīvaini. Šeit ir daudz ko izpakot. ”

3D sejas skenēšanas tehnoloģiju uzņēmuma SensibleVision izpilddirektors Džordžs Brostofs izdevumam Digital Trends sacīja, ka, viņaprāt, lēmumu pieņemšanai varētu būt bijis iepriekšējs motīvs.

"Tāpat kā daudzās citās lietās, IBM paziņojums, iespējams, ir sarežģītāks, nekā šķiet virspusēji," viņš teica, liekot domāt, ka ir maz ticams, ka IBM būtu liela nozīme sejas atpazīšanā.

IBM neatbildēja uz lūgumu komentēt, cik lielā mērā šāds solis ietekmētu uzņēmuma rezultātu vai cik daudz viņi ir ieguldījuši sejas atpazīšanas pētniecībā un attīstībā.

Gan Brostoff, gan Hārdings atzīmēja, ka IBM ne vienmēr ir ievērojams valdības darbuzņēmējs sejas novērošanas pasaulē.

"Daudzi uzņēmumi, kas nodarbojas ar [sejas atpazīšanas tehnoloģiju] valdības mērogā, ir uzņēmumiem, par kuriem neviens nav dzirdējis,” sacīja Bens Gudmens, kiberdrošības uzņēmuma vecākais viceprezidents ForgeRock. "Šiem uzņēmumiem nav jāuztraucas par reputācijas risku. Amazon un IBM ir lieli vārdi, tiem ir lielāks risks.

Gudmens apšaubīja, kādu atdevi tāds uzņēmums kā Amazon šobrīd gūst no sejas atpazīšanas tehnoloģijas izstrādes.

"Viņiem patiešām ir jādomā, vai ir vērts traucēt cilvēku privātumu. Vai jūs saņemat pietiekamu atdevi no tā, ”viņš teica. "Paskatieties uz Clearview A.I. [FRT uzņēmums, par kuru tika atklāts, ka viņš skrāpē sociālos medijus un pārdod programmatūra tiesībaizsardzības iestādēm], kas nekaunīgi runāja par to, ko viņi dara, un viņi arī bija iznīcināts. Esmu pārliecināts, ka viņi nav vienīgie, kas to dara, bet tas parāda, kāds ir sabiedrības noskaņojums.

Un, lai gan sejas novērošana ir tikusi izmantota tā bēdīgi slavenā neprecizitāte, baumas izmanto kā a policijas instruments protestu laikā, un iespējamiem privātuma tiesību pārkāpumiem, pēdējie, visticamāk, ļoti drīz sāks parādīties kā ikdienas dzīves sastāvdaļa.

Publiskā pret privāto sejas atpazīšanas tehnoloģija

"Valdībai nekad nevajadzētu piekļūt [sejas atpazīšanas tehnoloģijai], un tā nav saderīga ar demokrātisku sabiedrību,” sacīja Saira Huseina, Electronic Frontier personāla advokāte Fonds. "Tas pārkāpj mūsu pirmā un ceturtā grozījuma tiesības."

Taču sejas atpazīšanas tehnoloģiju izplatība privātajā sfērā varētu būt neizbēgama, jo tehnoloģija kļūst vieglāk lietojama. Brostoff prognozēja, ka divu gadu laikā FaceID vai tā ekvivalenta izmantošana kļūs par standarta praksi ikdienas uzdevumiem, piemēram, izrakstīšanās veikalā vai reģistrēšanās lidostā.

Runājot par privāto sfēru, Huseina sacīja Digital Trends, ka viņa baidās, ka korporācijas izstrādās šo tehnoloģiju, neņemot vērā ētiskās sekas. Ja, piemēram, viesnīcu nozare sāk izmantot sejas atpazīšanas tehnoloģiju, ir jābūt iespējai, lai cilvēki varētu izvēlēties, nevis vienkārši padarīt to visuresošu.

"Vienmēr ir jābūt iespējai viesnīcām reģistrēties kādam, kurš nevēlas piedalīties sistēmā," viņa teica.

ExpressVPN viceprezidents Harolds Li izdevumam Digital Trends pastāstīja, ka viņš paredzēja, ka izvēršana pirmo reizi būs pieejama kā darba lietojumprogrammas darbiniekiem. "kas ir mazāk sliecas vai spēj noraidīt šo tehnoloģiju neatkarīgi no tā, vai tas ir paredzēts aktivizēšanai vai darbuzņēmēju identitātes pārbaudei," viņš rakstīja e-pasts.

Tam sekos uz patērētājiem vērstas lietojumprogrammas, kas dažās valstīs jau ir ieviestas.

"Mēs to jau redzam pasaules daļās, kurās ir mazāk aizsargāta pret privātumu, piemēram, Ķīnā, kur lielveikali un metro stacijas ļauj cilvēkiem maksāt, skenējot seju," viņš rakstīja. "Singapūrā ir sākušies arī daži izmēģinājumi par reģistrēšanos viesnīcā ar seju. Lai gan šķiet, ka tas vēl nav nonācis ASV, veikali, kuros ir liela novērošana, piemēram, Amazon Go, ērtības labad var sākt normalizēt privātuma tirdzniecību.

"Tas ir kā neapturams spēks, kas satiekas ar nekustamo objektu," sacīja Gudmens. “Acīmredzot pastāv spiegošanas faktors un slīdēšanas faktors un privātuma faktors, taču ir arī ērtības faktors. Tas nozīmē, ka lidostā varu doties bez pieskāriena. Tas nozīmē, ka varu iekāpt lidmašīnā, nenoliekot tālruni uz virsmas, kurai tikko pieskārās desmit citi cilvēki.

Ētiska sistēma

Ja ekspertiem ir taisnība un sejas atpazīšanas tehnoloģijas izplatība ir neizbēgama, kā nodrošināt, lai mēs tur nokļūtu, nepārkāpjot ikviena privātumu?

"Mums nevajadzētu aizmirst, ka mums ir kārdinājums atteikties no privātuma, lai gūtu labumu," sacīja Gabrielle Hermier, mediju darbiniece. Sērfhaizivs. “Jautājumi par lietotāju privātumu, piekrišanu un FRT dzimuma un rases aizspriedumiem ir diskusiju centrā, un tie ir jārisina vispirms. FRT pārdevējiem, piemēram, Amazon vai Microsoft, un to lietotājiem, tostarp tiesībaizsardzības aģentūrām un lidostām, ir jādala atbildība, lai nodrošinātu, ka FRT nav neobjektīva.

Jautājums par neobjektivitāti ir praktiski saistīts ar jautājumu par FRT. Kā norādīja Toms Čiverss no Apvienotās Karalistes ProPrivacy: “Ļaunprātīgas izmantošanas iespēja ir pārāk liela. Pētījumi par sejas atpazīšanu ir parādījuši, ka sejas saskaņošanas neveiksmju līmenis ir 81%, ”viņš rakstīja ziņojumā DT. atsaucoties uz to, ko atklāja pētnieki Apvienotajā Karalistē, pārbaudot Metropolitēnas policijas sejas atpazīšanas funkciju tehnoloģija.

Šis pētījums atklāja, ka tehnoloģija nepareizi identificēja nevainīgus cilvēkus astronomiski lielā ātrumā, saskaņā ar SkyNews.

Li piekrišana un pārredzamība ir galvenais. “Nepadariet šādu tehnoloģiju par obligātu. Ļaujiet lietotājiem izvēlēties, nevis atteikties," viņš rakstīja, atkārtojot Huseina bažas. Viņš arī teica, ka ExpressVPN aptauja nesen atklāja, ka 68% ASV pieaugušo teica, ka ir noraizējušies par sejas atpazīšanas tehnoloģiju pieaugošo visuresamību. Pamatojoties tikai uz to, atgrūšanās un juridiski jautājumi arī gandrīz noteikti ir neizbēgami.

"Mēs noteikti vēl neesam likuma ziņā," sacīja Gudmens. "Diemžēl šķiet, ka mūsu tiesiskais regulējums liecina par cilvēku emocijām par to. Jums, iespējams, būs nepieciešams kāds pārliecinošs notikums, kas notiks ap FRT, pirms kāds tam pievērsīs uzmanību.

Galu galā šī ir jūsu seja, par kuru mēs runājam, un cilvēkiem būs jāspēj kontrolēt piekļuvi savām sejām, sacīja advokāti.

"Ja nav jēgpilna procesa, kurā cilvēki varētu izvēlēties un paši pieņemt šo lēmumu, tad tas nav ētiski," sacīja Husains. "Kad jūs runājat par biometrijas datiem, kas ir tik privāti kā jūsu seja, un to nevar publiski aizsegt tāpat kā jūsu rokas, tas ir privātuma erozija."

Redaktoru ieteikumi

• Microsoft vairs neinvestēs sejas atpazīšanas tehnoloģijās