Aplikacija Clearview AI za prepoznavanje obrazov je nočna mora za žrtve zalezovanja

Najnovejši primer oholosti Silicijeve doline je aplikacija za prepoznavanje obraza Clearview AI. Aplikacija majhnega startupa je tako zmogljiva, da bi lahko nekdo stopil do vas na ulici, posnel vašo fotografijo in hitro izvedel vaše ime, naslov in telefonsko številko. poročilo v The New York Timesu.

Ta tehnologija se verjetno zdi odlična ideja dvema vrstama ljudi: Organi pregona in se plazi. Zagovorniki so zaskrbljeni, da bi lahko bila tovrstna tehnologija za prepoznavanje obraza korist za zalezovalce, ljudi z zgodovino zlorabe v družini in kogar koli drugega, ki bi želel izvedeti vse o tebi za nečednega namen.

"Ko se je novica o tej aplikaciji razširila, so ženske vsepovsod vzdihovale," je v izjavi za Digital Trends povedala Jo O'Reilly, zagovornica zasebnosti pri ProPrivacy s sedežem v Združenem kraljestvu. »Ponovno je varnost žensk tako na spletu kot v resničnem življenju na drugem mestu pred željo tehnoloških startupov po ustvarjanju – in monetizaciji – vedno bolj invazivne tehnologije.«

Clearview delno deluje tako, da črpa javno dostopne podatke s priljubljenih spletnih mest družbenih medijev, kot je Facebook, med drugim Twitter, YouTube in Venmo. Tiskovni predstavnik družbe Facebook je za Digital Trends povedal, da »strganje Facebook informacije ali dodajanje v imenik naši pravilniki prepovedujejo, zato zahtevke pregledujemo o tem podjetju in bomo ustrezno ukrepali, če ugotovimo, da kršijo naša pravila.« Twitter tudi pravi, da prepoveduje ta uporaba njegovih podatkov.

Novo orodje za zlorabe

Zalezovanje je že dolgo težava žensk na spletu, in to brez orodja, ki bi nekoga izsledilo samo na podlagi njegovega obraza. Za zdaj Clearview trdi, da svoje storitve prodaja le organom pregona, ki so dali resnično sijajne ocene tehnologije. "Nenavadno molčijo o dejstvu, da bi lahko to programsko opremo v napačnih rokah uporabili za nadlegovanje in zalezovanje skoraj vsakogar," je dejal O'Reilly. "To bi bilo nemogoče preprečiti, če bi bila programska oprema na voljo javnosti - scenarij, ki so ga investitorji Clearview priznali, je možen."

"Vsaka tehnologija, ki jo razvijete in jo bodo uporabljali ljudje, morate pomisliti na napake," je dejal Crystal Justice, vodja trženja in razvoja pri Nacionalna telefonska številka za nasilje v družini . "Zlorabniki vedno iščejo naslednje orodje v svoji škatli."

Odprta telefonska linija je leta 2015 začela poročati o digitalni zlorabi kot svoji posebni kategoriji, od takrat pa se je število močno povečalo, zlasti med mladimi. Justice je za Digital Trends povedal, da je telefonska številka leta 2018 prejela 371.000 stikov, od tega je bilo 15 odstotkov pritožb zaradi digitalne zlorabe. V povprečju v državi ena od štirih žensk in eden od sedmih moških preživi nasilje v družini, kažejo številke dežurne linije.

"Preživeli predstavljajo tako velik del našega prebivalstva," je dejal Justice. "Tehnološka podjetja morajo pri oblikovanju svojih aplikacij upoštevati izkušnjo preživelih."

Stalna težava

To je vztrajen vzorec z veliko motečo tehnologijo v današnjem času. Ko je bil Uber predstavljen leta 2009, se je tehnologija zdela preveč kul, da bi bila resnična. Nismo bili več sužnji taksi industrije ali nesposobnega javnega prevoza v svojih mestih.

Seveda je Uberjev model tudi neposredno nasprotoval konvencionalni modrosti, ki so nas jo učili kot otroci: Ne vstopajte v avtomobile z neznanci. Deset let in več tisoč tožbnad spolnim napadom kasneje se je zdelo, da obstaja razlog, ki je bil običajna modrost. Za veliko ljudi vstop v avto tujca ni varen, tudi če plačate, da ste tam.

Toda ta element razmišljanja o varnosti ali o tem, da se morate premikati po svetu, ko vas nenehno skrbi za vašo fizično varnost, kot mnogi Zdi se, da ženske in pripadniki manjšinskih spolov niso bili v mislih (večinoma belih) moških, ki so ustanovili tehnološka podjetja, kot je Uber, kot Twitter, kot toliko drugih. Želeli so samo narediti nekaj kul, kar bi spremenilo svet. Ideja, da bi ga uporabili za nečedne namene, jim ni padla na pamet, dokler ni bilo prepozno.

Zasebnost in varnost morata biti vgrajeni v aplikacijo že od samega začetka, je dejala Rachel Gibson, višja strokovnjakinja za tehnološko varnost pri National Network to End Domestic Violence. "Ena stvar je, da je nekaj zgrajeno z dobrim namenom, vendar vemo, da se lahko tehnologija zlorabi," je Gibson povedal za Digital Trends. »Na to mislimo kot na novo tehnologijo, staro vedenje. Ljudi so še vedno posiljevali v taksijih [pred Uberjem], vendar moramo razmišljati o tem, kako lahko današnja tehnologija olajša stara vedenja, kot sta zalezovanje in napad.«

Nekaj ​​takega, kot je Clearview, je dejal Gibson, čeprav se uporablja za kazenski pregon, vsekakor postavlja vprašanja, kako in zakaj bi bilo koristno za širšo javnost. "Izdelava teh stvari za javno porabo ogroža preživele, zato moramo razmišljati o nenamernih posledicah," je dejala.

Justice je rekla, da vidi, da se pogovor o vlogi tehnologije v javni varnosti spreminja. "Diskurz se je od MeToo spremenil," je dejala. »In tudi skrajni čas je bil. To ni novo vprašanje. Ni nujno, da se nasilje v družini povečuje, vidimo, da se o tem končno razpravlja. In zdaj lahko v zapletene elemente vključimo, kako je tehnologija del tega.«

Gibson je tudi povedala, da je imela pogovore z več "velikimi tehnološkimi podjetji" (čeprav ne bi navedite, kateri), in rekli so, da zdaj "poskušajo biti pozorni" na gradnjo zaradi zasebnosti in varnost.

Clearview je podal Digital Trends kratko izjavo, v kateri je dejal, da "te pomisleke jemljejo resno in nimajo načrtov za komercialno izdajo." notri objava v blogu, je podjetje poudarilo, da njihov izdelek ni na voljo javnosti in da bo na voljo "samo organom pregona in izbranim varnostnim strokovnjakom."

Če menite, da vi ali nekdo, ki ga poznate, trpi zaradi zlorabe intimnega partnerja, se obrnite na nacionalno telefonsko številko za nasilje v družini, ki deluje 24/7 na 1−800−799−7233.

Priporočila urednikov

• Komentar, ki ga poganja AI, prihaja na Wimbledon naslednji mesec
• Elon Musk vzpostavlja projekt generativne umetne inteligence na Twitterju, trdi poročilo
• Google Smart Canvas dobi globljo integracijo med aplikacijami
• Nvidia oddaja svojo platformo AI Superpod za 90.000 $ na mesec
• Portland prepoveduje zasebno in javno uporabo tehnologije za prepoznavanje obraza