Ansiktsigenkänning kan snart finnas överallt, varnar experter

Tidigare denna månad, båda Amazon och IBM backade från kontroversiell ansiktsigenkänningsteknik.

Amazon meddelade att de inte längre skulle tillåta polisen att använda sin Rekognition-teknik för ansiktsigenkänning, och IBM lovade att de skulle backa från att göra någon vidareutveckling av tekniken.

Åtgärderna kom eftersom verktygen har kritiserats för felaktigheter och potentiellt missbruk som en massövervakningsteknik för smarta städer.

Amazon skrev i sitt tillkännagivande att dess beslut var direkt inspirerat av aktivisternas strävan att förbjuda polisen att använda ansiktsigenkänning. I IBMs uttalande, skrev företaget att "motsätter sig bestämt och kommer inte att tolerera användning av någon teknik, inklusive teknik för ansiktsigenkänning... för massövervakning, rasprofilering, kränkningar av grundläggande mänskliga rättigheter och friheter eller något syfte som inte är förenligt med våra värderingar och principer om tillit och Genomskinlighet.

Men vissa cybersäkerhetsexperter säljs inte - och besluten kommer sannolikt att göra lite för att bromsa floden av ansiktsigenkänningsteknik i framtiden.

"Det här öppnar bara upp en hel massa frågor, som om de har varit inblandade i massövervakning mjukvara innan?" frågade David Harding, den tekniska chefen för cybersäkerhetsföretaget ImageWare. "Varför bröt det inte mot deras principer om förtroende och öppenhet innan detta? Det verkar vara väldigt udda. Det finns mycket att packa upp här."

George Brostoff, VD för 3D-ansiktsskanningsteknikföretaget SensibleVision, sa till Digital Trends att han tror att det kan ha funnits ett främre motiv till besluten.

"Som i många saker är IBMs tillkännagivande sannolikt mer komplicerat än det ser ut på ytan", sa han och antydde att det var osannolikt att IBM hade någon större andel i ansiktsigenkänning från början.

IBM svarade inte på en förfrågan om kommentarer om hur mycket en sådan åtgärd skulle påverka deras resultat, eller hur mycket de hade investerat i forskning och utveckling av ansiktsigenkänning.

Både Brostoff och Harding noterade att IBM inte nödvändigtvis är en känd statlig entreprenör inom ansiktsövervakningsvärlden.

"Många av företagen som gör [ansiktsigenkänningsteknik] i statlig skala är det företag som ingen har hört talas om, säger Ben Goodman, senior vice president för cybersäkerhetsföretaget ForgeRock. "Dessa företag behöver inte oroa sig för ryktesrisk. Amazon och IBM är stora namn, de har mer risk."

Goodman ifrågasatte vilken typ av avkastning ett företag som Amazon fick just nu på utveckling av teknik för ansiktsigenkänning.

"De måste verkligen fundera på om det är värt besväret att hindra människors integritet. Får du tillräckligt med avkastning på det, sa han. "Titta på Clearview A.I. [FRT-företaget som avslöjades för att skrapa sociala medier och sälja programvara till brottsbekämpande myndigheter], som fräckt talade om vad de gjorde, och det gjorde de förstörd. Jag är säker på att de inte är de enda som gör det här, men det visar hur allmänhetens humör är."

Och medan ansiktsövervakning har varit pelare för dess ökända felaktighet, ryktad användning som en polisverktyg under protester, och potentiella kränkningar av integritetsrätten, kommer det senare sannolikt att börja dyka upp som en del av vardagen mycket snart.

Offentlig kontra privat ansiktsigenkänningsteknik

"Regeringen borde aldrig ha tillgång till [ansiktsigenkänningsteknik] och det är inte kompatibelt med ett demokratiskt samhälle”, säger Saira Hussain, en personaljurist på Electronic Frontier Fundament. "Det gör intrång i våra rättigheter för första och fjärde tillägget."

Men spridningen av teknik för ansiktsigenkänning i den privata sfären kan vara oundviklig eftersom tekniken blir lättare att använda. Brostoff förutspådde att inom två år skulle användningen av FaceID eller motsvarande bli standardpraxis för vardagliga uppgifter som att checka ut i en butik eller checka in på flygplatsen.

När det kommer till den privata sfären sa Hussain till Digital Trends att hon fruktar att företag kommer att utveckla denna teknik utan att överväga de etiska konsekvenserna. Om till exempel hotellbranschen börjar använda teknik för ansiktsigenkänning, måste det finnas ett sätt för människor att välja på, sa hon, snarare än att bara göra det allmänt förekommande.

"Det borde alltid finnas ett sätt för hotell att checka in någon som inte vill välja att delta i systemet," sa hon.

Harold Li, vice vd för ExpressVPN, sa till Digital Trends att han föreställde sig att utbyggnaden först skulle vara tillgänglig som arbetsapplikationer för anställda, "som är mindre benägna eller kan förkasta den här tekniken, oavsett om det är för att klocka in eller låta entreprenörer verifiera sin identitet", skrev han i en e-post.

Detta skulle följas av konsumentinriktade tillämpningar - som redan finns på plats i vissa länder.

"Vi ser redan detta i mindre integritetsmedvetna delar av världen, som Kina, där både stormarknader och tunnelbanestationer gör det möjligt för människor att betala genom att skanna deras ansikte", skrev han. "I Singapore har vissa försök för hotellincheckning även påbörjats. Även om detta inte verkar ha tagit sig till USA ännu, kan övervakningstunga butiker som Amazon Go börja normalisera handeln med privatliv för bekvämlighets skull."

"Det är ungefär som den ostoppbara kraften som möter det orörliga föremålet," sa Goodman. "Självklart finns det en spionfaktor och krypfaktorn och integritetsfaktorn, men det finns också bekvämlighetsfaktorn. Det betyder att jag kan åka beröringsfri på en flygplats. Det betyder att jag kan gå ombord på ett flygplan utan att lägga min telefon på en yta som tio andra personer just rört.”

Ett etiskt system

Om experter har rätt och spridningen av ansiktsigenkänningsteknik är oundviklig, hur ser vi till att vi når dit utan att riva igenom allas integritet på vägen?

"Vi bör inte glömma att vi frestas att ge upp integritet för upplevda fördelar", säger Gabrielle Hermier, medieansvarig på Surfshark. "Frågorna om användarnas integritet, samtycke och FRT-kön och rasfördomar är centrala i debatten och bör tas upp först. FRT-leverantörer som Amazon eller Microsoft och dess användare, inklusive brottsbekämpande myndigheter och flygplatser, bör dela ansvaret för att säkerställa att FRT inte är partisk."

Frågan om partiskhet är praktiskt taget gift med frågan om FRT. Som Tom Chivers från Storbritannien-baserade ProPrivacy påpekade, "potentialen för missbruk är alldeles för hög. Studier av ansiktsigenkänning har visat en misslyckandefrekvens på 81 % för ansiktsmatchning”, skrev han i ett meddelande till DT, hänvisar till vad forskare i Storbritannien fann när de testade Metropolitan Polices ansiktsigenkänning teknologi.

Den studien fann att tekniken felaktigt identifierade oskyldiga människor i en astronomiskt hög hastighet, enligt SkyNews.

Li samtycke och transparens är nyckeln. "Gör inte sådan teknik obligatorisk. Låt användare välja att delta i stället för att välja bort, " skrev han och upprepade Hussains oro. Han sa också att en ExpressVPN-undersökning nyligen fann att 68% av amerikanska vuxna sa att de är oroliga över den växande utbredningen av ansiktsigenkänningsteknik. Enbart baserat på detta är pushback och juridiska frågor också nästan säkert oundvikliga.

"Vi är verkligen inte där ännu lagmässigt," sa Goodman. "Tråkigt nog verkar våra rättsliga ramar vara en eftersläpande indikator på människors känslor kring detta. Du kommer förmodligen att behöva någon övertygande händelse för att inträffa runt FRT innan någon uppmärksammar det."

I slutändan är det här ditt ansikte vi pratar om - och människor kommer att behöva kunna kontrollera tillgången till sina egna ansikten, sa förespråkarna.

"Om det inte finns en meningsfull process genom vilken människor kan välja och ha förmågan att fatta det beslutet själva, då är det inte etiskt," sa Hussain. "När du pratar om biometri som är lika privat som ditt ansikte, och inte kan dölja det offentligt på samma sätt som du kan dina händer, är det en erosion av integriteten."

Redaktörens rekommendationer

• Microsoft kommer inte längre att investera i ansiktsigenkänningsteknik