Ansigtsgenkendelse kan snart være overalt, advarer eksperter

Tidligere på måneden begge dele Amazon og IBM tilbage fra kontroversiel ansigtsgenkendelsesteknologi.

Amazon meddelte, at det ikke længere ville tillade politiet at bruge deres Rekognition-ansigtsgenkendelsesteknologi, og IBM lovede, at det ville vende tilbage fra at foretage yderligere udvikling af teknologien.

Tiltagene kom, da værktøjerne er blevet kritiseret for unøjagtigheder og potentielt misbrug som en masseovervågningsteknik til smarte byer.

Amazon skrev i sin meddelelse, at dens beslutning var direkte inspireret af aktivisters fremstød for at forbyde politiet at bruge ansigtsgenkendelse. I IBMs erklæring, skrev firmaet det "modsætter sig kraftigt og vil ikke tolerere brug af nogen teknologi, inklusive ansigtsgenkendelsesteknologi... til masseovervågning, raceprofilering, krænkelser af grundlæggende menneskerettigheder og frihedsrettigheder eller ethvert formål, der ikke er i overensstemmelse med vores værdier og tillidsprincipper. Gennemsigtighed.

Men nogle cybersikkerhedseksperter er ikke solgt - og beslutningerne vil sandsynligvis ikke gøre meget for at bremse strømmen af ​​ansigtsgenkendelsesteknologi i fremtiden.

"Dette åbner bare op for en hel masse spørgsmål, som om de har været involveret i masseovervågning software før?" spurgte David Harding, den tekniske chef for cybersikkerhedsfirmaet ImageWare. "Hvorfor krænkede det ikke deres tillid og gennemsigtighedsprincipper før dette? Det ser ud til at være meget mærkeligt. Der er meget at pakke ud her."

George Brostoff, administrerende direktør for 3D-ansigtsscanningsteknologifirmaet SensibleVision, fortalte Digital Trends, at han mener, at der kan have været et forreste motiv til beslutningerne.

"Som i mange ting er IBM's annoncering sandsynligvis mere kompleks, end den ser ud på overfladen," sagde han og antydede, at det var usandsynligt, at IBM havde en stor andel i ansigtsgenkendelse i første omgang.

IBM reagerede ikke på en anmodning om kommentarer til, hvor meget et sådant skridt ville påvirke deres bundlinje, eller hvor meget de havde investeret i forskning og udvikling af ansigtsgenkendelse.

Både Brostoff og Harding bemærkede, at IBM ikke nødvendigvis er en kendt regeringsleverandør inden for ansigtsovervågningens verden.

"Mange af de virksomheder, der laver [ansigtsgenkendelsesteknologi] i regeringsskala er virksomheder, ingen har hørt om," sagde Ben Goodman, senior vicepræsident for cybersikkerhedsfirmaet ForgeRock. "Disse virksomheder behøver ikke at bekymre sig om omdømmerisiko. Amazon og IBM er store navne, de har mere risiko."

Goodman satte spørgsmålstegn ved, hvilken slags afkast en virksomhed som Amazon fik lige nu på udvikling af ansigtsgenkendelsesteknologi.

»De skal virkelig tænke over, om det kan betale sig at hæmme folks privatliv. Får du nok afkast på det,” sagde han. "Se på Clearview A.I. [FRT-firmaet, der blev afsløret i at skrabe sociale medier og sælge software til retshåndhævelse], som frækt talte om, hvad de lavede, og det gjorde de ødelagt. Jeg er sikker på, at de ikke er de eneste, der gør dette, men det viser, hvordan offentlighedens humør er."

Og mens ansigtsovervågning er blevet pillet for dens berygtede unøjagtighed, rygter om brug som en politiværktøj under protester, og potentielle krænkelser af privatlivets fred, vil sidstnævnte sandsynligvis begynde at dukke op som en del af hverdagen meget snart.

Offentlig versus privat ansigtsgenkendelsesteknologi

"Regeringen burde aldrig have adgang til [ansigtsgenkendelsesteknologi], og det er ikke kompatibelt med et demokratisk samfund,” sagde Saira Hussain, en personaleadvokat ved Electronic Frontier Fundament. "Det krænker vores rettigheder til første og fjerde ændring."

Men udbredelsen af ​​ansigtsgenkendelsesteknologi i den private sfære kan være uundgåelig, da teknologien bliver lettere at bruge. Brostoff forudsagde, at inden for to år ville brugen af ​​FaceID eller dets tilsvarende blive standardpraksis til daglige opgaver som at tjekke ud i en butik eller tjekke ind i lufthavnen.

Når det kommer til den private sfære, sagde Hussain til Digital Trends, at hun frygter, at virksomheder vil udvikle denne teknologi uden at overveje de etiske implikationer. Hvis for eksempel hotelbranchen begynder at tage ansigtsgenkendelsesteknologi i brug, skal der være en måde, hvorpå folk kan tilmelde sig, sagde hun, snarere end blot at gøre det allestedsnærværende.

"Der bør altid være en måde, hvorpå hoteller kan tjekke ind på nogen, der ikke ønsker at tilmelde sig systemet," sagde hun.

Harold Li, vicepræsident for ExpressVPN, fortalte Digital Trends, at han forestillede sig udrulningen som først tilgængelig som arbejdsapplikationer for medarbejdere, "der er mindre tilbøjelige til eller i stand til at afvise denne teknologi, hvad enten det er for at klokke ind eller få entreprenører til at bekræfte deres identitet," skrev han i en e-mail.

Dette ville blive efterfulgt af forbrugerrettede applikationer - som allerede er på plads i nogle lande.

"Vi ser allerede dette i mindre privatlivsbevidste dele af verden, såsom Kina, hvor både supermarkeder og metrostationer gør det muligt for folk at betale ved at scanne deres ansigt," skrev han. "I Singapore er nogle forsøg med hotelindtjekning ved ansigt også begyndt. Selvom dette ikke ser ud til at have fundet vej til USA endnu, kan overvågningstunge butikker som Amazon Go begynde at normalisere handelen med privatlivets fred for nemheds skyld."

"Det er lidt ligesom den ustoppelige kraft, der møder det ubevægelige objekt," sagde Goodman. "Selvfølgelig er der en spionfaktor og krybefaktoren og privatlivsfaktoren, men der er også bekvemmelighedsfaktoren. Det betyder, at jeg kan gå uden berøring i en lufthavn. Det betyder, at jeg kan gå ombord på et fly uden at lægge min telefon på en overflade, som ti andre mennesker lige har rørt ved."

Et etisk system

Hvis eksperter har ret, og spredningen af ​​ansigtsgenkendelsesteknologi er uundgåelig, hvordan sikrer vi os, at vi når dertil uden at rive igennem alles privatliv undervejs?

"Vi bør ikke glemme, at vi bliver fristet til at opgive privatlivets fred for opfattede fordele," sagde Gabrielle Hermier, medieansvarlig hos Surfshark. "Spørgsmålene om brugernes privatliv, samtykke og FRT køn og race bias er centrale i debatten og bør behandles først. FRT-leverandører som Amazon eller Microsoft og dets brugere, herunder retshåndhævende myndigheder og lufthavne, bør dele et ansvar for at sikre, at FRT ikke er partisk."

Spørgsmålet om bias er praktisk talt gift med spørgsmålet om FRT. Som Tom Chivers fra det Storbritannien-baserede ProPrivacy påpegede, "potentialet for misbrug er alt for højt. Undersøgelser af ansigtsgenkendelse har vist en fejlrate på 81 % for ansigtsmatchning,” skrev han i en besked til DT, med henvisning til, hvad forskere i Storbritannien fandt, da de testede Metropolitan Polices ansigtsgenkendelse teknologi.

Denne undersøgelse fandt, at teknologien fejlagtigt identificerede uskyldige mennesker i en astronomisk høj hastighed, ifølge SkyNews.

Li aftalt samtykke og gennemsigtighed er nøglen. "Gør ikke en sådan teknologi obligatorisk. Lad brugere tilmelde sig i stedet for at fravælge," skrev han og gentog Hussains bekymringer. Han sagde også, at en ExpressVPN-undersøgelse for nylig viste, at 68% af amerikanske voksne sagde, at de er bekymrede over den voksende allestedsnærværende af ansigtsgenkendelsesteknologi. Alene baseret på dette er pushback og juridiske spørgsmål næsten helt sikkert uundgåelige.

"Vi er bestemt ikke der endnu lovmæssigt," sagde Goodman. "Desværre ser vores juridiske rammer ud til at være en haltende indikator for folks følelser omkring dette. Du skal sandsynligvis have en overbevisende begivenhed til at finde sted omkring FRT, før nogen lægger mærke til det."

I sidste ende er det dit ansigt, vi taler om - og folk bliver nødt til at kunne kontrollere adgangen til deres egne ansigter, sagde fortalere.

"Hvis der ikke er en meningsfuld proces, hvor folk kan tilmelde sig og have evnen til at træffe den beslutning for sig selv, så er det ikke etisk," sagde Hussain. "Når du taler om biometri, der er lige så privat som dit ansigt, og ikke kan skjule det offentligt på samme måde, som du kan dine hænder, er det en udhuling af privatlivets fred."

Redaktørernes anbefalinger

• Microsoft vil ikke længere investere i ansigtsgenkendelsesteknologier