Ansiktsgjenkjenning kan snart være overalt, advarer eksperter

Tidligere denne måneden, begge deler Amazon og IBM rygget vekk fra kontroversiell ansiktsgjenkjenningsteknologi.

Amazon kunngjorde at de ikke lenger ville tillate politiet å bruke sin Rekognition ansiktsgjenkjenningsteknologi, og IBM lovet at de ville trekke seg tilbake fra å gjøre ytterligere utvikling av teknologien.

Bevegelsene kom ettersom verktøyene har blitt kritisert for unøyaktigheter og potensielt misbruk som en masseovervåkingsteknikk for smarte byer.

Amazon skrev i sin kunngjøring at avgjørelsen var direkte inspirert av aktivistenes press for å forby politiet fra å bruke ansiktsgjenkjenning. I IBMs uttalelse, skrev selskapet at "motsetter seg bestemt og vil ikke tolerere bruk av noen teknologi, inkludert ansiktsgjenkjenningsteknologi... for masseovervåking, raseprofilering, brudd på grunnleggende menneskerettigheter og friheter, eller ethvert formål som ikke er i samsvar med våre verdier og tillitsprinsipper og Åpenhet.

Men noen cybersikkerhetseksperter er ikke solgt - og beslutningene vil sannsynligvis gjøre lite for å bremse flommen av ansiktsgjenkjenningsteknologi i fremtiden.

"Dette åpner bare opp en hel haug med spørsmål, som om de har vært involvert i masseovervåking programvare før?" spurte David Harding, teknisk sjef for cybersikkerhetsselskapet ImageWare. "Hvorfor krenket det ikke deres tillits- og åpenhetsprinsipper før dette? Det virker å være veldig rart. Det er mye å pakke ut her."

George Brostoff, administrerende direktør for 3D-ansiktsskanningsteknologifirmaet SensibleVision, sa til Digital Trends at han tror det kan ha vært et fremre motiv for beslutningene.

"Som i mange ting, er IBMs kunngjøring sannsynligvis mer kompleks enn det ser ut på overflaten," sa han, og antydet at det var usannsynlig at IBM hadde stor andel i ansiktsgjenkjenning i utgangspunktet.

IBM svarte ikke på en forespørsel om kommentar om hvor mye et slikt trekk ville påvirke bunnlinjen deres, eller hvor mye de hadde investert i forskning og utvikling av ansiktsgjenkjenning.

Både Brostoff og Harding bemerket at IBM ikke nødvendigvis er en kjent offentlig entreprenør i verden av ansiktsovervåking.

"Mange av selskapene som driver med [ansiktsgjenkjenningsteknologi] i statlig skala er det selskaper ingen har hørt om," sa Ben Goodman, senior visepresident for cybersikkerhetsfirmaet ForgeRock. "Disse selskapene trenger ikke å bekymre seg for omdømmerisiko. Amazon og IBM er store navn, de har mer risiko.»

Goodman stilte spørsmål ved hva slags avkastning et selskap som Amazon fikk akkurat nå på utvikling av ansiktsgjenkjenningsteknologi.

"De må virkelig tenke på om det er verdt å hindre folks privatliv. Får du nok avkastning på det, sa han. "Se på Clearview A.I. [FRT-selskapet som ble avslørt for å skrape sosiale medier og selge programvare til rettshåndhevelse], som frekt snakket om hva de gjorde, og det gjorde de ødelagt. Jeg er sikker på at de ikke er de eneste som gjør dette, men det viser hvordan publikums humør er.»

Og mens ansiktsovervåking har blitt pillet for dens beryktede unøyaktighet, ryktet bruk som en politiverktøy under protester, og potensielle brudd på personvernrettigheter, vil sistnevnte sannsynligvis begynne å dukke opp som en del av hverdagen veldig snart.

Offentlig versus privat ansiktsgjenkjenningsteknologi

«Regjeringen skal aldri ha tilgang til [ansiktsgjenkjenningsteknologi], og det er ikke kompatibelt med et demokratisk samfunn,” sa Saira Hussain, en stabsadvokat ved Electronic Frontier Fundament. "Det krenker rettighetene våre til første og fjerde endring."

Men spredningen av ansiktsgjenkjenningsteknologi i den private sfæren kan være uunngåelig ettersom teknologien blir enklere å bruke. Brostoff spådde at innen to år ville bruk av FaceID eller tilsvarende bli standard praksis for hverdagslige oppgaver som å sjekke ut i en butikk eller sjekke inn på flyplassen.

Når det kommer til den private sfæren, sa Hussain til Digital Trends at hun frykter at selskaper vil utvikle denne teknologien uten å vurdere de etiske implikasjonene. Hvis for eksempel hotellbransjen begynner å ta i bruk teknologi for ansiktsgjenkjenning, må det være en måte for folk å melde seg på, sa hun, i stedet for bare å gjøre det allestedsnærværende.

"Det bør alltid være en måte for hoteller å sjekke inn noen som ikke ønsker å melde seg inn i systemet," sa hun.

Harold Li, visepresident for ExpressVPN, fortalte Digital Trends at han så for seg utrullingen som først tilgjengelig som arbeidsapplikasjoner for ansatte, "som er mindre tilbøyelige eller i stand til å avvise denne teknologien, enten det er for å klokke inn eller få entreprenører til å bekrefte identiteten deres," skrev han i en e-post.

Dette vil bli fulgt av forbrukerrettede applikasjoner - som allerede er på plass i noen land.

"Vi ser allerede dette i mindre personvernbevisste deler av verden, som Kina, hvor både supermarkeder og t-banestasjoner gjør det mulig for folk å betale ved å skanne ansiktet deres," skrev han. «I Singapore har noen forsøk for hotellinnsjekking ved ansikt også begynt. Selv om dette ikke ser ut til å ha kommet til USA ennå, kan overvåkingstunge butikker som Amazon Go begynne å normalisere handelen med privatliv for enkelhets skyld.»

"Det er på en måte som den ustoppelige kraften som møter det faste objektet," sa Goodman. "Det er åpenbart en spionfaktor og krypfaktoren og personvernfaktoren, men det er også bekvemmelighetsfaktoren. Det betyr at jeg kan gå uten berøring på en flyplass. Det betyr at jeg kan gå ombord på et fly uten å legge telefonen på en overflate som ti andre personer nettopp har rørt.»

Et etisk system

Hvis eksperter har rett og spredningen av ansiktsgjenkjenningsteknologi er uunngåelig, hvordan sørger vi for at vi kommer dit uten å rive gjennom alles personvern underveis?

"Vi bør ikke glemme at vi blir fristet til å gi opp personvernet for oppfattede fordeler," sa Gabrielle Hermier, medieansvarlig ved Surfshark. "Spørsmålene om brukernes personvern, samtykke og FRT-kjønn og raseskjevhet er sentrale i debatten og bør tas opp først. FRT-leverandører som Amazon eller Microsoft og dets brukere, inkludert rettshåndhevelsesbyråer og flyplasser, bør dele et ansvar for å sikre at FRT ikke er partisk."

Spørsmålet om skjevhet er praktisk talt gift med spørsmålet om FRT. Som Tom Chivers fra det Storbritannia-baserte ProPrivacy påpekte, "potensialet for misbruk er altfor høyt. Studier av ansiktsgjenkjenning har vist en feilrate på 81 % for ansiktsmatching,” skrev han i en melding til DT, med henvisning til hva forskere i Storbritannia fant da de testet Metropolitan Polices ansiktsgjenkjenning teknologi.

Den studien fant at teknologien feilaktig identifiserte uskyldige mennesker med en astronomisk høy hastighet, ifølge SkyNews.

Li avtalt samtykke og åpenhet er nøkkelen. «Ikke gjør slik teknologi obligatorisk. La brukere melde seg på i stedet for å melde seg ut», skrev han, og gjenspeiler Hussains bekymringer. Han sa også at en ExpressVPN-undersøkelse nylig fant at 68% av amerikanske voksne sa at de er bekymret for den økende utbredelsen av ansiktsgjenkjenningsteknologi. Basert på dette alene, er pushback og juridiske spørsmål nesten helt sikkert uunngåelige.

"Vi er absolutt ikke der ennå lovmessig," sa Goodman. "Dessverre ser våre juridiske rammeverk ut til å være en etterslepende indikator på folks følelser rundt dette. Du vil sannsynligvis trenge en overbevisende hendelse for å finne sted rundt FRT før noen legger merke til det."

På slutten av dagen er dette ansiktet ditt vi snakker om - og folk må kunne kontrollere tilgangen til sine egne ansikter, sa talsmenn.

"Hvis det ikke er en meningsfull prosess der folk kan melde seg på og ha muligheten til å ta den avgjørelsen selv, så er det ikke etisk," sa Hussain. "Når du snakker om biometri som er like privat som ansiktet ditt, og ikke kan dekke det offentlig på samme måte som du kan hendene dine, er det en erosjon av personvernet."

Redaktørenes anbefalinger

• Microsoft vil ikke lenger investere i ansiktsgjenkjenningsteknologier