Clearview AI aplikacija za prepoznavanje lica noćna je mora za žrtve uhođenja

Najnoviji primjer oholosti Silicijske doline je aplikacija za prepoznavanje lica Clearview AI. Aplikacija malog startupa toliko je moćna da bi vam netko mogao prići na ulici, snimiti vašu fotografiju i brzo saznati vaše ime, adresu i broj telefona, prema izvješće u The New York Timesu.

Ova tehnologija vjerojatno zvuči kao odlična ideja za dvije vrste ljudi: Provedba zakona i gmiže. Zagovornici se brinu da bi ova vrsta tehnologije prepoznavanja lica mogla biti blagodat za uhode, ljude s povijest obiteljskog zlostavljanja, i bilo tko drugi tko bi želio saznati sve o vama za podlog Svrha.

"Kako se vijest o ovoj aplikaciji proširila, žene posvuda su uzdisale", rekla je Jo O'Reilly, zagovornica privatnosti u ProPrivacyju sa sjedištem u Ujedinjenom Kraljevstvu, u izjavi za Digital Trends. "Još jednom je sigurnost žena, kako online tako iu stvarnom životu, došla na drugo mjesto u odnosu na želju tehnoloških startupa za stvaranjem - i unovčavanjem - sve invazivnije tehnologije."

Clearview djelomično radi tako što skuplja javno dostupne podatke s popularnih društvenih mreža poput Facebook, Twitter, YouTube i Venmo, među ostalima. Glasnogovornik tvrtke Facebook rekao je za Digital Trends da je “struganje Facebook informacije ili njihovo dodavanje u direktorij zabranjeni su našim pravilima, stoga pregledavamo tvrdnje o ovoj tvrtki i poduzet ćemo odgovarajuće mjere ako ustanovimo da krše naša pravila.” Cvrkut također kaže da zabranjuje ovo korištenje njegovih podataka.

Novi alat za zlostavljače

Uhođenje je odavno problem za žene na internetu, a to je bez alata koji može nekoga pronaći samo na temelju njegovog lica. Clearview za sada tvrdi da svoje usluge prodaje samo policiji, koja je dala zaista sjajne recenzije tehnologije. "Međutim, neobično šute o činjenici da bi se, u krivim rukama, ovaj softver mogao upotrijebiti za uznemiravanje i uhođenje gotovo svakoga", rekao je O'Reilly. "To bi bilo nemoguće spriječiti ako bi softver bio dostupan javnosti - scenarij koji su investitori Clearviewa priznali da je moguć."

"Svaka tehnologija koju razvijete, a koju će koristiti ljudi, morate misliti na nedostatke", rekao je Crystal Justice, direktor marketinga i razvoja za Nacionalna telefonska linija za nasilje u obitelji . "Zlostavljači uvijek traže sljedeći alat u svojoj kutiji s alatima."

Telefonska linija počela je prijavljivati ​​digitalno zlostavljanje kao vlastitu specifičnu kategoriju 2015. godine i od tada bilježi snažan porast broja, osobito među mladima. Justice je za Digital Trends rekao da je telefonska linija primila 371.000 kontakata u 2018., a 15 posto od toga bile su pritužbe na digitalnu zlouporabu. U prosjeku na nacionalnoj razini jedna od četiri žene i jedan od sedam muškaraca preživjeli su obiteljsko nasilje, pokazuju podaci SOS-a.

“Preživjeli čine veliki dio naše populacije,” rekao je Justice. "Tehnološke tvrtke moraju uzeti u obzir iskustvo preživjelih kada dizajniraju svoje aplikacije."

Tekući problem

Ovo je uporan obrazac s mnogo razorne tehnologije u današnje vrijeme. Kada je Uber pokrenut 2009., tehnologija se činila previše cool da bi bila istinita. Nismo više bili robovi taksi industrije ili nekompetentnog javnog prijevoza u našim gradovima.

Naravno, Uberov model također se izravno suprotstavio konvencionalnoj mudrosti koju su nas učili kao djecu: Ne ulazite u automobile sa strancima. Deset godina i nekoliko tisuća tužbizbog seksualnog napada kasnije, činilo bi se da postoji razlog koji je bio konvencionalna mudrost. Za mnoge ljude ulazak u automobil stranca nije siguran, čak ni kada plaćate da budete tamo.

Ali ovaj element razmišljanja o sigurnosti, ili o tome da se morate kretati svijetom, neprestano brinući se za svoju fizičku sigurnost, jer mnogi žene i pripadnici manjinskih spolova, čini se, nisu bili na umu (uglavnom bijelih) muškaraca koji su osnovali tehnološke tvrtke poput Ubera, Kao Cvrkut, kao i mnogi drugi. Samo su htjeli napraviti nešto cool što će promijeniti svijet. Ideja da će se koristiti u opake svrhe nije im pala na pamet sve dok nije bilo prekasno.

Privatnost i sigurnost moraju biti ugrađeni u aplikaciju od samog početka, rekla je Rachel Gibson, viša stručnjakinja za sigurnost tehnologije za National Network to End Domestic Violence. "Jedna je stvar da je nešto izgrađeno s dobrom namjerom, ali znamo da se tehnologija može zloupotrijebiti", rekao je Gibson za Digital Trends. “Mislimo na to kao na novu tehnologiju, staro ponašanje. Ljudi su još uvijek bili silovani u taksijima [prije Ubera], ali moramo razmisliti o tome kako tehnologija danas može olakšati stara ponašanja poput uhođenja i napada.”

Nešto poput Clearviewa, rekao je Gibson, iako ima svoje koristi za provedbu zakona, svakako postavlja pitanja o tome kako ili zašto bi bilo korisno široj javnosti. "Izrada ovih stvari za javnu potrošnju dovodi preživjele u opasnost i moramo razmišljati o neželjenim posljedicama", rekla je.

Justice je rekla da vidi kako se razgovor o ulozi tehnologije u javnoj sigurnosti mijenja. "Diskurs se promijenio od MeToo-a", rekla je. “I bilo je krajnje vrijeme. Ovo nije novo pitanje. Ne vidimo nužno povećanje obiteljskog nasilja, vidimo da se o tome konačno raspravlja. A sada možemo uključiti u složene elemente kako je tehnologija dio toga.”

Gibson je također rekla da je razgovarala s nekoliko "velikih tehnoloških tvrtki" (iako ne bi navedite koje), i rekli su da sada "pokušavaju voditi računa" o izgradnji radi privatnosti i sigurnosti.

Clearview je Digital Trendsu dao kratku izjavu, rekavši da "ove zabrinutosti shvaćaju ozbiljno i da nemaju planova za komercijalno izdanje." U post na blogu, tvrtka je naglasila da njihov proizvod nije dostupan javnosti, te da će biti dostupan “samo agencijama za provođenje zakona i odabranim sigurnosnim stručnjacima”.

Ako mislite da ste vi ili netko koga poznajete izloženi zlostavljanju od strane intimnog partnera, kontaktirajte Nacionalnu liniju za nasilje u obitelji koja radi 24/7 na 1−800−799−7233.

Preporuke urednika

• Komentari pokretani umjetnom inteligencijom dolaze na Wimbledon sljedećeg mjeseca
• Elon Musk postavlja projekt generativne umjetne inteligencije na Twitteru, tvrde u izvješću
• Google Smart Canvas dobiva dublju integraciju između aplikacija
• Nvidia iznajmljuje svoju AI Superpod platformu za 90 tisuća dolara mjesečno
• Portland zabranjuje privatnu i javnu upotrebu tehnologije prepoznavanja lica