Det siste eksemplet på Silicon Valleys hybris er ansiktsgjenkjenningsappen Clearview AI. Appen til den lille oppstarten er så kraftig at noen kan gå bort til deg på gaten, ta bildet ditt og raskt finne ut navnet ditt, adressen og telefonnummeret ditt, ifølge en rapport i The New York Times.
Innhold
- Et nytt verktøy for overgripere
- Et pågående problem
Denne teknologien høres sannsynligvis ut som en god idé for to typer mennesker: Rettshåndhevelse og kryper. Talsmenn bekymrer seg for at denne typen ansiktsgjenkjenningsteknologi kan være en velsignelse for forfølgere, personer med historie med vold i hjemmet, og alle andre som ønsker å finne ut alt om deg for en ondsinnet hensikt.
Anbefalte videoer
«Da nyhetene om denne appen spredte seg, sukket kvinner overalt», sa Jo O’Reilly, en personvernforkjemper hos det U.K.-baserte ProPrivacy, i en uttalelse til Digital Trends. "Nok en gang har kvinners sikkerhet både på nett og i det virkelige liv kommet på andreplass til ønsket til tekniske startups om å skape - og tjene penger på - stadig mer invasiv teknologi."
I slekt
- Amazon bruker AI for å oppsummere produktanmeldelser
- AI gjorde Breaking Bad til en anime - og det er skremmende
- Ansiktsgjenkjenningsteknologi for bjørn har som mål å holde mennesker trygge
Clearview fungerer, delvis, ved å skrape offentlig tilgjengelige data fra populære sosiale mediesider som Facebook, Twitter, YouTube og Venmo, blant andre. En talsmann for Facebook-selskapet sa til Digital Trends at «skraping
Et nytt verktøy for overgripere
Stalking har lenge vært et problem for kvinner på nettet, og det er uten et verktøy som kan spore noen kun basert på ansiktet deres. Foreløpig hevder Clearview at de bare selger tjenestene sine til rettshåndhevelse, noe som har gitt virkelig strålende anmeldelser av teknologien. "De er imidlertid merkelig tause om det faktum at i feil hender kan denne programvaren brukes til å trakassere og forfølge nesten hvem som helst," sa O'Reilly. "Dette ville være umulig å forhindre hvis programvaren ble gjort tilgjengelig for allmennheten - et scenario som Clearview-investorer har erkjent er mulig."
"Enhver teknologi du utvikler som vil bli konsumert av mennesker, må du tenke på feilene," sa Crystal Justice, sjef for markedsføring og utvikling for National Domestic Violence Hotline . "Misbrukere leter alltid etter det neste verktøyet i verktøykassen deres."
Hotline begynte å rapportere om digitalt misbruk som sin egen spesifikke kategori i 2015, og har sett en sterk økning i tallene siden den gang, spesielt blant unge mennesker. Justice fortalte Digital Trends at hotline mottok 371 000 kontakter i 2018, og 15 prosent av disse var klager om digitale overgrep. I gjennomsnitt nasjonalt er én av fire kvinner og én av sju menn overlever etter vold i hjemmet, ifølge telefonlinjens tall.
"Overlevende utgjør en så stor del av befolkningen vår," sa Justice. "Tekniske selskaper må vurdere overlevelsesopplevelsen når de designer appene sine."
Et pågående problem
Dette er et vedvarende mønster med mye forstyrrende teknologi i denne tiden. Da Uber ble lansert i 2009, virket teknologien for kul til å være sann. Vi var ikke lenger slaver av taxinæringer eller inkompetent kollektivtransport i våre respektive byer.
Selvfølgelig fløy Ubers modell også direkte i møte med den konvensjonelle visdommen vi hadde blitt lært som barn: Ikke sett deg i biler med fremmede. Ti år og flere tusen rettssakerover seksuelle overgrep senere ser det ut til at det var en grunn som var den konvensjonelle visdommen. For mange mennesker er det ikke trygt å sette seg inn i en fremmeds bil, selv når du betaler for å være der.
Men dette elementet med å tenke på sikkerhet, eller å måtte bevege seg gjennom verden konstant og være bekymret for din fysiske sikkerhet, som mange kvinner og personer av minoritetskjønn må, ser ikke ut til å ha vært i hodet til de (for det meste hvite) menn som grunnla teknologiselskaper som Uber, som Twitter, som så mange andre. De ville bare lage noe kult som ville forandre verden. Ideen om at det ville bli brukt til ondsinnede formål slo dem ikke inn før det var for sent.
"Å lage disse tingene for offentlig forbruk setter overlevende i fare, og vi må tenke på de utilsiktede konsekvensene."
Personvern og sikkerhet må bygges inn i en app fra begynnelsen, sa Rachel Gibson, senior teknologisikkerhetsspesialist for National Network to End Domestic Violence. "Det er én ting at noe er bygget med god hensikt, men vi vet at teknologi kan misbrukes," sa Gibson til Digital Trends. "Vi tenker på det som ny teknologi, gammel oppførsel. Folk ble fortsatt voldtatt i drosjer [før Uber], men vi må tenke på hvordan teknologi i disse dager kan legge til rette for gammel atferd som forfølgelse og overfall.»
Noe som Clearview, sa Gibson, selv om det har sine bruksområder for rettshåndhevelse, bringer absolutt spørsmål om hvordan eller hvorfor det ville være nyttig for allmennheten. "Å lage disse tingene for offentlig forbruk setter overlevende i fare, og vi må tenke på de utilsiktede konsekvensene," sa hun.
Justice sa at hun ser at samtalen om teknologiens rolle i offentlig sikkerhet endrer seg. "Diskursen har endret seg siden MeToo," sa hun. "Og det er på tide også. Dette er ikke en ny problemstilling. Vi ser ikke nødvendigvis en økning i vold i hjemmet, vi ser at det endelig blir diskutert. Og nå kan vi inkludere i de komplekse elementene om hvordan teknologi er en del av det.»
Gibson sa også at hun hadde hatt samtaler med flere "store teknologiselskaper" (selv om hun ikke ville spesifiser hvilken), og de sa at de nå "prøver å være oppmerksomme" på å bygge for personvern og sikkerhet.
Clearview ga Digital Trends en kort uttalelse og sa at de "tar disse bekymringene på alvor, og har ingen planer om en kommersiell utgivelse." I et blogginnlegg, understreket selskapet at produktet deres ikke var tilgjengelig for allmennheten, og at det ville bli gjort tilgjengelig «bare for rettshåndhevelsesbyråer og utvalgte sikkerhetseksperter».
Hvis du tror at du eller noen du kjenner lider av overgrep mot nære partnere, kontakt National Domestic Violence Hotline 24/7 på 1−800−799−7233.
Redaktørenes anbefalinger
- AI-drevne kommentarer kommer til neste måneds Wimbledon
- Elon Musk setter opp et generativt AI-prosjekt på Twitter, hevder rapporten
- Google Smart Canvas får dypere integrasjon mellom apper
- Nvidia leier ut sin AI Superpod-plattform for $90K i måneden
- Portland forbyr privat og offentlig bruk av ansiktsgjenkjenningsteknologi
