Eerder deze maand allebei Amazone En IBM zich teruggetrokken uit de controversiële gezichtsherkenningstechnologie.
Inhoud
- Publieke versus private gezichtsherkenningstechnologie
- Een ethisch systeem
Amazon kondigde aan dat het de politie niet langer zou toestaan zijn Rekognition-gezichtsherkenningstechnologie te gebruiken, en IBM beloofde dat het zich zou onthouden van verdere ontwikkeling van de technologie.
Aanbevolen video's
Deze stappen kwamen omdat de instrumenten bekritiseerd werden vanwege onnauwkeurigheden en potentieel misbruik als massabewakingstechniek slimme steden.
Verwant
- Canadese autoriteiten starten onderzoek naar Clearview-app voor gezichtsherkenning
Amazon schreef in zijn aankondiging dat zijn besluit rechtstreeks was ingegeven door de druk van activisten om de politie te verbieden gezichtsherkenning te gebruiken. In De verklaring van IBM, schreef het bedrijf dat het “zich krachtig verzet tegen en het gebruik van welke technologie dan ook niet zal tolereren, inclusief gezichtsherkenningstechnologie … voor massasurveillance, racistische profilering, schendingen van fundamentele mensenrechten en vrijheden, of enig doel dat niet consistent is met onze waarden en principes van vertrouwen en Transparantie.
Maar sommige cyberbeveiligingsexperts zijn niet verkocht – en de beslissingen zullen waarschijnlijk weinig bijdragen aan het vertragen van de stroom aan gezichtsherkenningstechnologie in de toekomst.
“Dit roept gewoon een hele reeks vragen op, zoals: zijn ze betrokken geweest bij massasurveillance? software eerder?” vroeg David Harding, de technisch directeur van het cyberbeveiligingsbedrijf ImageWare. “Waarom heeft het niet eerder hun vertrouwens- en transparantieprincipes geschonden? Het lijkt heel vreemd te zijn. Er valt hier veel uit te pakken.”
George Brostoff, de CEO van 3D-gezichtsscantechnologiebedrijf SensibleVision, vertelde Digital Trends dat hij gelooft dat er mogelijk een voorafgaand motief achter de beslissingen zat.
“Zoals met veel dingen is de aankondiging van IBM waarschijnlijk complexer dan het op het eerste gezicht lijkt”, zei hij, waarmee hij suggereerde dat het onwaarschijnlijk was dat IBM überhaupt veel belang had bij gezichtsherkenning.
IBM reageerde niet op een verzoek om commentaar over de mate waarin een dergelijke stap hun bedrijfsresultaten zou beïnvloeden, of hoeveel ze hadden geïnvesteerd in onderzoek en ontwikkeling op het gebied van gezichtsherkenning.
Zowel Brostoff als Harding merkten op dat IBM niet noodzakelijkerwijs een bekende overheidscontractant is in de wereld van gezichtsbewaking.
“Veel van de bedrijven die [gezichtsherkenningstechnologie] op overheidsniveau doen, doen dat wel bedrijven waar nog niemand van heeft gehoord”, zegt Ben Goodman, senior vice-president van cybersecuritybedrijf ForgeRock. “Deze bedrijven hoeven zich geen zorgen te maken over reputatierisico’s. Amazon en IBM zijn grote namen, zij lopen meer risico.”
Goodman vroeg zich af wat voor rendement een bedrijf als Amazon op dit moment krijgt op het gebied van de ontwikkeling van gezichtsherkenningstechnologie.
“Ze moeten er echt over nadenken of het de moeite waard is om de privacy van mensen te belemmeren. Krijg je daar voldoende rendement op, 'zei hij. “Kijk naar Clearview A.I. [het FRT-bedrijf waarvan werd onthuld dat het sociale media schrapt en verkoopt software voor wetshandhaving], die brutaal praatten over wat ze deden, en dat deden ze ook vernietigd. Ik weet zeker dat zij niet de enigen zijn die dit doen, maar dat laat zien hoe de stemming bij het publiek is.”
En terwijl gezichtsbewaking aan de schandpaal wordt genageld zijn beruchte onnauwkeurigheid, geruchten gebruiken als een politie-instrument tijdens protesten, en potentiële schendingen van privacyrechten, zal dit laatste waarschijnlijk zeer binnenkort een onderdeel van het dagelijks leven gaan worden.
Publieke versus private gezichtsherkenningstechnologie
“De overheid zou nooit toegang moeten hebben tot [gezichtsherkenningstechnologie] en het is niet compatibel met een democratische samenleving”, zegt Saira Hussain, advocaat bij de Electronic Frontier Fundering. “Het maakt inbreuk op onze rechten op het Eerste en Vierde Amendement.”
Maar de verspreiding van gezichtsherkenningstechnologie in de privésfeer kan onvermijdelijk zijn naarmate de technologie gemakkelijker te gebruiken wordt. Brostoff voorspelde dat het gebruik van FaceID of een equivalent daarvan binnen twee jaar de standaardpraktijk zou worden voor alledaagse taken zoals uitchecken in een winkel of inchecken op de luchthaven.
Als het om de privésfeer gaat, vertelde Hussain aan Digital Trends dat ze vreest dat bedrijven deze technologie zullen ontwikkelen zonder rekening te houden met de ethische implicaties. Als de hotelindustrie bijvoorbeeld gezichtsherkenningstechnologie gaat adopteren, moet er een manier zijn waarop mensen zich kunnen aanmelden, zei ze, in plaats van deze simpelweg alomtegenwoordig te maken.
“Er moet altijd een manier zijn waarop hotels iemand kunnen inchecken die zich niet wil aanmelden voor het systeem”, zegt ze.
Harold Li, vice-president van ExpressVPN, vertelde Digital Trends dat hij voor ogen had dat de uitrol voor het eerst beschikbaar zou zijn als werkapplicaties voor werknemers. “die minder geneigd of in staat zijn om deze technologie af te wijzen, of het nu gaat om het inklokken of het laten verifiëren van hun identiteit door aannemers”, schreef hij in een e-mail.
Dit zou worden gevolgd door op de consument gerichte toepassingen, die in sommige landen al bestaan.
“We zien dit al in minder privacybewuste delen van de wereld, zoals China, waar zowel supermarkten als metrostations mensen in staat stellen te betalen door hun gezicht te scannen”, schreef hij. “In Singapore zijn ook enkele proeven begonnen met het face-inchecken van hotels. Hoewel dit nog niet zijn weg naar de VS lijkt te hebben gevonden, kunnen winkels met veel toezicht, zoals Amazon Go, de handel in privacy voor het gemak beginnen te normaliseren.
“Het lijkt een beetje op de onstuitbare kracht die het onbeweeglijke object ontmoet,” zei Goodman. “Er is uiteraard een spionagefactor, een kruipfactor en een privacyfactor, maar er is ook een gemaksfactor. Het betekent dat ik contactloos kan reizen op een luchthaven. Het betekent dat ik aan boord van een vliegtuig kan gaan zonder mijn telefoon op een oppervlak te leggen dat tien andere mensen net hebben aangeraakt.”
Een ethisch systeem
Als experts gelijk hebben en de verspreiding van gezichtsherkenningstechnologie onvermijdelijk is, hoe zorgen we er dan voor dat we daar komen zonder daarbij ieders privacy te schenden?
“We moeten niet vergeten dat we in de verleiding komen om privacy op te geven voor waargenomen voordelen”, zegt Gabrielle Hermier, mediafunctionaris bij Surfhaai. “De vragen over de privacy van gebruikers, toestemming en FRT-gender- en rasvooroordelen staan centraal in het debat en moeten als eerste worden aangepakt. FRT-leveranciers zoals Amazon of Microsoft en zijn gebruikers, inclusief wetshandhavingsinstanties en luchthavens, moeten de verantwoordelijkheid delen om ervoor te zorgen dat FRT niet bevooroordeeld is.
De kwestie van vooringenomenheid is praktisch verbonden met de kwestie van FRT. Zoals Tom Chivers van het in Groot-Brittannië gevestigde ProPrivacy opmerkte: “De kans op misbruik is veel te groot. Onderzoek naar gezichtsherkenning heeft een faalpercentage van 81% aangetoond voor face-matching”, schreef hij in een bericht aan DT, verwijzend naar wat onderzoekers in Groot-Brittannië ontdekten toen ze de gezichtsherkenning van de Metropolitan Police testten technologie.
Uit dat onderzoek bleek dat de technologie in een astronomisch hoog tempo onschuldige mensen onjuist identificeerde. volgens SkyNews.
Li was het erover eens dat toestemming en transparantie cruciaal zijn. “Maak dergelijke technologie niet verplicht. Laat gebruikers zich aanmelden in plaats van zich af te melden”, schreef hij, in navolging van de zorgen van Hussain. Hij zei ook dat uit een enquête van ExpressVPN onlangs bleek dat 68% van de Amerikaanse volwassenen zei bezorgd te zijn over de groeiende alomtegenwoordigheid van gezichtsherkenningstechnologie. Alleen al op basis hiervan zijn pushback en juridische vragen vrijwel zeker onvermijdelijk.
“We zijn er juridisch gezien zeker nog niet”, zei Goodman. “Helaas lijken onze wettelijke kaders een achterblijvende indicator te zijn van de emoties van mensen hierover. Er moet waarschijnlijk een boeiende gebeurtenis rond FRT plaatsvinden voordat iemand er aandacht aan besteedt.
Uiteindelijk is dit jouw gezicht waar we het over hebben – en mensen zullen de toegang tot hun eigen gezicht moeten kunnen controleren, aldus voorstanders.
“Als er geen zinvol proces is waarbij mensen zich kunnen aanmelden en de mogelijkheid hebben om die beslissing voor zichzelf te nemen, dan is het niet ethisch”, zei Hussain. “Als je het hebt over biometrie die net zo privé is als je gezicht, en je kunt dat in het openbaar niet op dezelfde manier verbergen als je handen, dan is dat een erosie van de privacy.”
Aanbevelingen van de redactie
- Microsoft zal niet langer investeren in gezichtsherkenningstechnologieën
