Clearview AI-app til ansigtsgenkendelse er et mareridt for ofre, der forfølger

Det seneste eksempel på Silicon Valleys hybris er appen til ansigtsgenkendelse Clearview AI. Den lille startups app er så kraftfuld, at nogen kunne gå hen til dig på gaden, knipse dit billede og hurtigt finde ud af dit navn, adresse og telefonnummer, iflg. en rapport i The New York Times.

Denne teknologi lyder sandsynligvis som en god idé for to typer mennesker: Retshåndhævelse og kryber. Fortalere bekymrer sig om, at denne form for ansigtsgenkendelsesteknologi kan være en velsignelse for stalkere, folk med historie med misbrug i hjemmet, og enhver anden, der ønsker at finde ud af alt om dig for en ondskabsfuld formål.

"Efterhånden som nyheden om denne app spredte sig, sukkede kvinder overalt," sagde Jo O'Reilly, en privatlivsadvokat hos det U.K.-baserede ProPrivacy, i en erklæring til Digital Trends. "Igen er kvinders sikkerhed både online og i det virkelige liv kommet på andenpladsen til tech startups ønske om at skabe - og tjene penge på - stadig mere invasiv teknologi."

Clearview fungerer til dels ved at skrabe offentligt tilgængelige data fra populære sociale medier som f.eks Facebook, Twitter, YouTube og Venmo, blandt andre. En talsmand for Facebook-virksomheden fortalte Digital Trends, at "skrabning Facebook oplysninger eller tilføjelse af dem til en mappe er forbudt i henhold til vores politikker, så vi gennemgår påstandene om denne virksomhed og vil tage passende skridt, hvis vi finder ud af, at de overtræder vores regler." Twitter også siger det forbyder denne brug af dens data.

Et nyt værktøj til misbrugere

Stalking har længe været et problem for kvinder online, og det er uden et værktøj, der kan spore nogen kun baseret på deres ansigt. For nu hævder Clearview, at det kun sælger sine tjenester til retshåndhævelse, hvilket har givet virkelig strålende anmeldelser af teknologien. "De er dog underligt tavse om det faktum, at denne software i de forkerte hænder kunne bruges til at chikanere og forfølge næsten enhver," sagde O'Reilly. "Dette ville være umuligt at forhindre, hvis softwaren blev gjort tilgængelig for offentligheden - et scenario, som Clearview-investorer har erkendt er muligt."

"Enhver teknologi, du udvikler, som vil blive forbrugt af mennesker, skal du tænke på fejlene," sagde Crystal Justice, Chief Marketing and Development Officer for National Domestic Violence Hotline . "Misbrugere leder altid efter det næste værktøj i deres værktøjskasse."

Hotline begyndte at rapportere om digitalt misbrug som sin egen specifikke kategori i 2015 og har set en markant stigning i antallet siden da, især blandt unge. Justice fortalte Digital Trends, at hotline modtog 371.000 kontakter i 2018, og 15 procent af dem var klager over digitalt misbrug. I gennemsnit på landsplan er hver fjerde kvinde og hver syvende mand overlever fra vold i hjemmet, ifølge hotlinens tal.

"Overlevende udgør en så stor del af vores befolkning," sagde Justice. "Tekniske virksomheder skal overveje overlevelsesoplevelsen, når de designer deres apps."

Et vedvarende problem

Dette er et vedvarende mønster med meget forstyrrende teknologi i denne tid. Da Uber lancerede i 2009, virkede teknologien for cool til at være sand. Vi var ikke længere slaver af taxaindustrien eller inkompetent offentlig transport i vores respektive byer.

Ubers model fløj selvfølgelig også direkte i øjnene af den konventionelle visdom, vi var blevet lært som børn: Lad være med at sætte dig ind i biler med fremmede. Ti år og flere tusinde retssagerover seksuelle overgreb senere lader det til, at der var en grund, der var den konventionelle visdom. For mange mennesker er det ikke sikkert at sætte sig ind i en fremmeds bil, selv når du betaler for at være der.

Men dette element af at tænke på sikkerhed eller at skulle bevæge sig gennem verden konstant og være bekymret for din fysiske sikkerhed, som mange kvinder og personer af minoritetskøn skal, synes ikke at have været i hovedet på de (for det meste hvide) mænd, der grundlagde teknologivirksomheder som Uber, synes godt om Twitter, som så mange andre. De ville bare lave noget sejt, der ville ændre verden. Tanken om, at det ville blive brugt til ondsindede formål, faldt ikke over dem, før det var for sent.

Privatliv og sikkerhed skal indbygges i en app fra begyndelsen, sagde Rachel Gibson, senior teknologisikkerhedsspecialist for National Network to End Domestic Violence. "Det er én ting, at noget er bygget med god hensigt, men vi ved, at teknologi kan misbruges," sagde Gibson til Digital Trends. "Vi opfatter det som ny teknologi, gammel adfærd. Folk blev stadig voldtaget i taxaer [før Uber], men vi er nødt til at tænke på, hvordan teknologi i disse dage kan lette gammel adfærd som stalking og overfald."

Noget som Clearview, sagde Gibson, mens det har sine anvendelser til retshåndhævelse, rejser helt sikkert spørgsmål om, hvordan eller hvorfor det ville være nyttigt for offentligheden. "At lave disse ting til offentligt forbrug bringer overlevende i fare, og vi er nødt til at tænke på de utilsigtede konsekvenser," sagde hun.

Justice sagde, at hun ser, at samtalen om teknologiens rolle i offentlig sikkerhed ændrer sig. "Diskursen har ændret sig siden MeToo," sagde hun. "Og det er også på tide. Dette er ikke et nyt spørgsmål. Vi ser ikke nødvendigvis en stigning i vold i hjemmet, vi ser, at det endelig bliver diskuteret. Og nu kan vi inkludere de komplekse elementer af, hvordan teknologi er en del af det."

Gibson sagde også, at hun havde haft samtaler med flere "store teknologivirksomheder" (selvom hun ikke ville specificer hvilken), og de sagde, at de nu "forsøger at være opmærksomme" på at bygge for privatlivets fred og sikkerhed.

Clearview gav Digital Trends en kort erklæring og sagde, at de "tager disse bekymringer alvorligt og har ingen planer om en kommerciel udgivelse." I et blogindlæg, understregede virksomheden, at deres produkt ikke var tilgængeligt for offentligheden, og at det ville blive gjort tilgængeligt "kun for retshåndhævende myndigheder og udvalgte sikkerhedsfolk."

Hvis du mener, at du eller en, du kender, lider af misbrug af nære partnere, skal du kontakte National Domestic Violence Hotline 24/7 på 1−800−799−7233.

Redaktørens anbefalinger

• AI-drevne kommentarer kommer til næste måneds Wimbledon
• Elon Musk opretter generativt AI-projekt på Twitter, hævder rapporten
• Google Smart Canvas får dybere integration mellem apps
• Nvidia udlejer sin AI Superpod-platform for $90K om måneden
• Portland forbyder privat og offentlig brug af teknologi til ansigtsgenkendelse