Clearview AI-app för ansiktsigenkänning är en mardröm för förföljande offer

Det senaste exemplet på Silicon Valleys hybris är appen för ansiktsigenkänning Clearview AI. Den lilla startupens app är så kraftfull att någon kan gå fram till dig på gatan, ta ditt foto och snabbt ta reda på ditt namn, adress och telefonnummer, enligt ett reportage i The New York Times.

Den här tekniken låter förmodligen som en bra idé för två typer av människor: Rättsväsende och kryper. Förespråkarna oroar sig för att den här typen av ansiktsigenkänningsteknik kan vara en välsignelse för förföljare, människor med historia av övergrepp i hemmet, och alla andra som skulle vilja ta reda på allt om dig för en skändlig syfte.

"När nyheten om den här appen spreds suckade kvinnor överallt", säger Jo O'Reilly, en integritetsförespråkare för det Storbritannien-baserade ProPrivacy, i ett uttalande till Digital Trends. "Återigen har kvinnors säkerhet både online och i det verkliga livet kommit på andra plats efter tekniska startupers önskan att skapa - och tjäna pengar på - allt mer invasiv teknik."

Clearview fungerar delvis genom att skrapa offentligt tillgänglig data från populära sociala medier som t.ex Facebook, Twitter, YouTube och Venmo, bland andra. En talesman för Facebook-företaget sa till Digital Trends att "skrapning Facebook information eller att lägga till den i en katalog är förbjuden enligt våra policyer, så vi granskar påståendena om detta företag och kommer att vidta lämpliga åtgärder om vi upptäcker att de bryter mot våra regler." Twitter också säger att det förbjuder denna användning av dess data.

Ett nytt verktyg för missbrukare

Förföljelse har länge varit ett problem för kvinnor online, och det är utan ett verktyg som kan spåra någon endast baserat på deras ansikte. För närvarande hävdar Clearview att det bara säljer sina tjänster till brottsbekämpande myndigheter, vilket har gett riktigt lysande recensioner av tekniken. "De är dock märkligt tysta om det faktum att i fel händer kan den här programvaran användas för att trakassera och förfölja nästan vem som helst", sa O'Reilly. "Detta skulle vara omöjligt att förhindra om programvaran gjordes tillgänglig för allmänheten - ett scenario som Clearview-investerare har erkänt är möjligt."

"All teknik som du utvecklar som kommer att konsumeras av människor måste du tänka på bristerna", säger Crystal Justice, marknads- och utvecklingschef för nationella hotline för våld i hemmet . "Misbrukare letar alltid efter nästa verktyg i sin verktygslåda."

Hotline började rapportera om digitalt övergrepp som sin egen specifika kategori 2015, och har sett en kraftig ökning av antalet sedan dess, särskilt bland ungdomar. Justice berättade för Digital Trends att hotline tog emot 371 000 kontakter under 2018, och 15 procent av dessa var klagomål om digitala övergrepp. I genomsnitt nationellt är en av fyra kvinnor och en av sju män överlevande av våld i hemmet, enligt telefonjourens siffror.

"Överlevande utgör en så stor del av vår befolkning," sa Justice. "Tekniska företag måste ta hänsyn till överlevandeupplevelsen när de designar sina appar."

Ett pågående problem

Detta är ett ihållande mönster med mycket störande teknik i denna tid. När Uber lanserades 2009 verkade tekniken för cool för att vara sann. Vi var inte längre slavar under taxiindustrin eller inkompetent kollektivtrafik i våra respektive städer.

Naturligtvis flög Ubers modell också direkt i ansiktet av den konventionella visdom vi hade lärt oss som barn: Gå inte in i bilar med främlingar. Tio år och flera tusen stämningaröver sexuella övergrepp senare verkar det finnas en anledning som var den konventionella visdomen. För många människor är det inte säkert att sätta sig i en främlings bil, även när du betalar för att vara där.

Men detta element av att tänka på säkerhet, eller att behöva röra sig genom världen ständigt oroad över din fysiska säkerhet, som många kvinnor och personer av minoritetskön måste, verkar inte ha varit i sinnet hos de (främst vita) män som grundade teknikföretag som Uber, tycka om Twitter, som så många andra. De ville bara göra något coolt som skulle förändra världen. Tanken att det skulle användas för skändliga syften kom inte i deras sinnen förrän det var för sent.

Integritet och säkerhet måste byggas in i en app från början, säger Rachel Gibson, senior tekniksäkerhetsspecialist för National Network to End Domestic Violence. "Det är en sak att något är byggt med goda avsikter, men vi vet att teknik kan missbrukas", sa Gibson till Digital Trends. "Vi ser det som ny teknik, gammalt beteende. Människor våldtogs fortfarande i taxibilar [före Uber], men vi måste tänka på hur teknik nuförtiden kan underlätta gamla beteenden som förföljelse och misshandel.”

Något liknande Clearview, sade Gibson, även om det har sina användningsområden för brottsbekämpning, väcker det verkligen frågor om hur eller varför det skulle vara användbart för allmänheten. "Att göra dessa saker för offentlig konsumtion sätter överlevande i fara, och vi måste tänka på de oavsiktliga konsekvenserna", sa hon.

Justice sa att hon ser att samtalet om teknikens roll i allmän säkerhet förändras. "Diskursen har förändrats sedan MeToo," sa hon. "Och det är på tiden också. Detta är ingen ny fråga. Vi ser inte en ökning av våld i hemmet nödvändigtvis, vi ser att det äntligen diskuteras. Och nu kan vi inkludera i de komplexa delarna av hur teknik är en del av det."

Gibson sa också att hon hade haft samtal med flera "stora teknikföretag" (även om hon inte skulle specificera vilken), och de sa att de nu "försökte vara uppmärksamma" på att bygga för privatlivet och säkerhet.

Clearview gav Digital Trends ett kort uttalande och sa att de "tar dessa farhågor på allvar och har inga planer på en kommersiell release." I ett blogginlägg, betonade företaget att deras produkt inte var tillgänglig för allmänheten och att den skulle göras tillgänglig "endast för brottsbekämpande myndigheter och utvalda säkerhetsexperter."

Om du tror att du eller någon du känner lider av övergrepp i nära relation, kontakta National Domestic Violence Hotline 24/7 på 1−800−799−7233.

Redaktörens rekommendationer

• AI-drivna kommentarer kommer till nästa månads Wimbledon
• Elon Musk sätter upp ett generativt AI-projekt på Twitter, hävdar rapporten
• Google Smart Canvas får djupare integration mellan appar
• Nvidia hyr ut sin AI Superpod-plattform för $90K per månad
• Portland förbjuder privat och offentlig användning av teknik för ansiktsigenkänning