Viimeisin esimerkki Piilaakson ylimielisyydestä on kasvojentunnistussovellus Clearview AI. Pienen startupin sovellus on niin tehokas, että joku voi kävellä luoksesi kadulla, napata valokuvasi ja saada nopeasti selville nimesi, osoitteesi ja puhelinnumerosi. The New York Timesin raportti.
Sisällys
- Uusi työkalu väärinkäyttäjille
- Jatkuva ongelma
Tämä tekniikka kuulostaa luultavasti loistavalta idealta kahdentyyppisille ihmisille: Lainvalvonta ja hiipii. Kannattajat pelkäävät, että tällainen kasvojentunnistustekniikka voi olla siunaus stalkereille, ihmisille, joilla on a perheväkivallan historiaa, ja kaikki muut, jotka haluavat tietää kaiken sinusta ilkeälle tarkoitus.
Suositellut videot
"Kun uutinen tästä sovelluksesta levisi, naiset kaikkialla huokaisivat", sanoi Jo O'Reilly, Iso-Britanniassa toimivan ProPrivacyn yksityisyyden puolestapuhuja Digital Trendsille antamassaan lausunnossa. "Jälleen kerran naisten turvallisuus sekä verkossa että tosielämässä on noussut toiselle sijalle teknologia-startup-yritysten halun jälkeen luoda – ja ansaita rahaa – yhä invasiivisempaa teknologiaa.
Liittyvät
- Amazon käyttää tekoälyä tehdäkseen yhteenvedon tuotearvosteluista
- Tekoäly muutti Breaking Badista animeksi – ja se on pelottavaa
- Karhujen kasvojentunnistustekniikalla pyritään pitämään ihmiset turvassa
Clearview toimii osittain kaappaamalla julkisesti saatavilla olevia tietoja suosituilta sosiaalisen median sivustoilta, kuten Facebook, Twitter, YouTube ja Venmo, mm. Facebook-yhtiön tiedottaja kertoi Digital Trendsille, että "kaappaus
Uusi työkalu väärinkäyttäjille
Vainoaminen on pitkään ollut naisten ongelma verkossa, ja se on ilman työkalua, joka voi jäljittää jonkun vain hänen kasvojensa perusteella. Toistaiseksi Clearview väittää myyvänsä palvelujaan vain lainvalvontaviranomaisille, jotka ovat antaneet todella hehkuvia arvioita tekniikasta. "He ovat kuitenkin oudon hiljaa siitä tosiasiasta, että väärissä käsissä tätä ohjelmistoa voitaisiin käyttää häiritsemään ja vainoamaan melkein kaikkia", O'Reilly sanoi. "Tätä olisi mahdotonta estää, jos ohjelmisto saataisiin yleisön saataville - skenaario, jonka Clearview-sijoittajat ovat tunnustaneet, on mahdollinen."
"Kaiken kehittämäsi tekniikan, jota ihmiset kuluttavat, sinun on mietittävä puutteita", sanoi Crystal Justice, markkinointi- ja kehitysjohtaja. National Domestic Violence Hotline . "Väärinkäyttäjät etsivät aina seuraavaa työkalua työkalupakkistaan."
Vihjelinja alkoi raportoida digitaalisesta väärinkäytöstä omana kategorianaan vuonna 2015, ja sen jälkeen määrä on kasvanut voimakkaasti erityisesti nuorten keskuudessa. Justice kertoi Digital Trendsille, että vihjelinja sai 371 000 yhteydenottoa vuonna 2018, ja 15 prosenttia näistä oli valituksia digitaalisesta väärinkäytöstä. Keskimäärin valtakunnallisesti joka neljäs nainen ja joka seitsemäs mies on perheväkivallan uhri, vihjepuhelimen lukujen mukaan.
"Eloonjääneet muodostavat niin suuren osan väestöstämme", Justice sanoi. "Teknologiayritysten on otettava selviytymiskokemus huomioon sovelluksia suunniteltaessa."
Jatkuva ongelma
Tämä on jatkuva malli, jossa on paljon häiritsevää tekniikkaa tänä päivänä. Kun Uber julkaistiin vuonna 2009, tekniikka vaikutti liian siistiltä ollakseen totta. Emme olleet enää taksiteollisuuden tai epäpätevän julkisen liikenteen orjia omissa kaupungeissamme.
Tietysti myös Uberin malli kohtasi suoraan meille lapsena opetetun perinteisen viisauden: Älä mene autoon tuntemattomien kanssa. Kymmenen vuotta ja useita tuhansia oikeusjuttujaseksuaalisesta väkivallasta Myöhemmin näytti siltä, että syynä oli perinteinen viisaus. Monille ihmisille vieraan autoon pääsy ei ole turvallista, vaikka maksaisit siellä olemisesta.
Mutta tämä elementti ajattelusta turvallisuudesta tai siitä, että joudut liikkumaan ympäri maailmaa jatkuvasti huolehtien fyysisestä turvallisuudestasi, kuten monet naisten ja vähemmistöihin kuuluvien ihmisten on, ei näytä olleen mielessä (enimmäkseen valkoihoisille) miehille, jotka perustivat Uberin kaltaisia teknologiayrityksiä. Kuten Viserrys, kuten monet muutkin. He halusivat vain tehdä jotain siistiä, joka muuttaisi maailman. Ajatus siitä, että sitä käytettäisiin ilkeisiin tarkoituksiin, ei tullut heidän mieleensä ennen kuin oli liian myöhäistä.
"Näiden tekeminen julkiseen kulutukseen vaarantaa selviytyjät, ja meidän on pohdittava ei-toivottuja seurauksia."
Yksityisyys ja turvallisuus on sisällytettävä sovellukseen alusta alkaen, sanoi Rachel Gibson, National Network to End Domestic Violence -verkoston vanhempi teknologian turvallisuusasiantuntija. "On yksi asia, että jotain rakennetaan hyvällä tarkoituksella, mutta tiedämme, että tekniikkaa voidaan käyttää väärin", Gibson kertoi Digital Trendsille. "Pidämme sitä uutena teknologiana, vanhana käyttäytymisenä. Ihmisiä raiskattiin edelleen takseissa [ennen Uberia], mutta meidän on pohdittava, kuinka teknologia voi nykyään helpottaa vanhoja käyttäytymismalleja, kuten vainoamista ja pahoinpitelyä.
Jotain Clearview'n kaltaista, Gibson sanoi, vaikka sillä on käyttöä lainvalvontaan, se herättää varmasti kysymyksiä siitä, kuinka tai miksi se olisi hyödyllinen suurelle yleisölle. "Näiden tekeminen julkiseen kulutukseen vaarantaa selviytyjät, ja meidän on pohdittava ei-toivottuja seurauksia", hän sanoi.
Oikeus sanoi näkevänsä keskustelun teknologian roolista yleisen turvallisuuden kannalta muuttuvan. "Keskustelu on muuttunut MeToon jälkeen", hän sanoi. "Ja on myös aika. Tämä ei ole uusi asia. Emme näe perheväkivallan lisääntyvän välttämättä, näemme, että siitä vihdoin keskustellaan. Ja nyt voimme sisällyttää monimutkaisiin elementteihin, kuinka tekniikka on osa sitä."
Gibson sanoi myös, että hän oli keskustellut useiden "suurten teknologiayritysten" kanssa (vaikka hän ei määritä mikä), ja he sanoivat yrittävänsä nyt olla tietoisia yksityisyyden ja yksityisyyden rakentamisesta turvallisuus.
Clearview antoi Digital Trendsille lyhyen lausunnon ja sanoi, että he "ottavat nämä huolenaiheet vakavasti, eivätkä he suunnittele kaupallista julkaisua". Sisään blogikirjoitus, yritys korosti, että heidän tuotteensa ei ollut yleisön saatavilla ja että se olisi "vain lainvalvontaviranomaisten ja valikoitujen turvallisuusalan ammattilaisten saatavilla".
Jos uskot, että sinä tai joku tuntemasi henkilö kärsii parisuhdeväkivallasta, ota yhteyttä valtakunnalliseen perheväkivallan puhelinpalveluun 24/7 numeroon 1−800−799−7233.
Toimittajien suositukset
- Tekoälykäyttöiset kommentit ovat tulossa ensi kuun Wimbledoniin
- Elon Musk perustaa generatiivisen tekoälyprojektin Twitterissä, raportti väittää
- Google Smart Canvas integroituu paremmin sovellusten välillä
- Nvidia vuokraa AI Superpod -alustaa 90 000 dollarilla kuukaudessa
- Portland kieltää kasvojentunnistustekniikan yksityisen ja julkisen käytön
