Clearview AI näotuvastusrakendus on ohvrite jälitamise õudusunenägu

Uusim näide Silicon Valley häbist on näotuvastusrakendus Clearview AI. Väikese startupi äpp on nii võimas, et keegi võib sulle tänaval vastu astuda, sinult foto teha ning kiiresti su nime, aadressi ja telefoninumbri teada saada. aruanne ajalehes The New York Times.

Tõenäoliselt kõlab see tehnoloogia suurepärase ideena kahte tüüpi inimestele: Õiguskaitse ja roomab. Advokaadid muretsevad, et selline näotuvastustehnoloogia võib olla õnnistuseks jälitajatele, inimestele, kellel on a perevägivalla ajalugu ja kõik teised, kes tahaksid teie kohta kõike teada saada eesmärk.

"Kui uudised sellest rakendusest levisid, ohkasid naised kõikjal," ütles Ühendkuningriigis asuva ProPrivacy privaatsuskaitsja Jo O'Reilly avalduses Digital Trendsile. "Taaskord on naiste turvalisus nii võrgus kui ka päriselus tõusnud teisele kohale pärast idufirmade soovi luua ja raha teenida üha invasiivsemat tehnoloogiat."

Clearview töötab osaliselt, kraapides avalikult kättesaadavaid andmeid populaarsetelt sotsiaalmeedia saitidelt nagu Facebook, Twitter, YouTube ja Venmo muu hulgas. Facebooki ettevõtte pressiesindaja ütles Digital Trendsile, et "kraapimine Facebook teave või selle kataloogi lisamine on meie eeskirjadega keelatud, seega vaatame nõuded üle selle ettevõtte kohta ja võtame asjakohased meetmed, kui leiame, et nad rikuvad meie reegleid. Twitter samuti ütleb, et see keelab selle andmete kasutamine.

Uus tööriist kuritarvitajatele

Naiste jälitamine on Internetis pikka aega olnud probleem ja seda ilma tööriistata, mis suudaks kedagi jälitada ainult tema näo järgi. Praegu väidab Clearview, et müüb oma teenuseid ainult õiguskaitseorganitele, kes on andnud tehnoloogia kohta tõeliselt säravaid ülevaateid. "Nad aga vaikivad kummaliselt sellest, et valedes kätes võib seda tarkvara kasutada peaaegu kõigi ahistamiseks ja jälitamiseks," ütles O'Reilly. "Seda oleks võimatu vältida, kui tarkvara tehakse avalikkusele kättesaadavaks - stsenaarium, mida Clearview investorid on tunnistanud, on võimalik."

"Iga teie väljatöötatud tehnoloogia, mida inimesed tarbivad, peate mõtlema puudustele," ütles Crystal Justice, ettevõtte turundus- ja arendusjuht. riiklik koduvägivalla vihjeliin . "Väärkohtlejad otsivad alati oma tööriistakastist järgmist tööriista."

Vihjeliin alustas digitaalse kuritarvitamise kui oma spetsiifilise kategooria teatamist 2015. aastal ja sellest ajast alates on nende arv märgatavalt kasvanud, eriti noorte seas. Justice ütles Digital Trendsile, et vihjeliin sai 2018. aastal 371 000 kontakti ja 15 protsenti neist olid digitaalse kuritarvitamise kaebused. Vihjeliini andmetel on riigis keskmiselt iga neljas naine ja iga seitsmes mees perevägivalla all kannatanud.

"Ellujäänud moodustavad nii suure osa meie elanikkonnast," ütles Justice. "Tehnoloogiaettevõtted peavad oma rakenduste kujundamisel arvestama ellujäämise kogemusega."

Pidev probleem

See on püsiv muster, millel on tänapäeval palju häirivat tehnoloogiat. Kui Uber 2009. aastal turule tuli, tundus see tehnoloogia liiga lahe, et tõsi olla. Me ei olnud enam oma linnade taksotööstuse orjad ega ebapädev ühistransport.

Muidugi pani Uberi mudel otse vastu ka tavapärasele tarkusele, mida meile lapsepõlves õpetati: ärge istuge võõrastega autosse. Kümme aastat ja mitu tuhat kohtuasjaseksuaalse rünnaku üle hiljem näib, et sellel oli põhjus, milleks oli tavapärane tarkus. Paljude inimeste jaoks ei ole võõrasse autosse istumine ohutu, isegi kui maksate selle eest.

Kuid see element on ohutusele mõtlemine või maailmas liikumine pidevas mures oma füüsilise ohutuse pärast, nagu paljud Tundub, et naised ja vähemussoost inimesed ei pidanud meeles olema (enamasti valged) mehed, kes asutasid tehnoloogiaettevõtteid nagu Uber, meeldib Twitter, nagu paljud teised. Nad tahtsid lihtsalt teha midagi lahedat, mis muudaks maailma. Mõte, et seda kasutatakse pahatahtlikel eesmärkidel, ei tulnud neile pähe enne, kui oli liiga hilja.

Privaatsus ja ohutus peavad olema algusest peale rakendusse sisse ehitatud, ütles Rachel Gibson, koduvägivalla lõpetamise riikliku võrgustiku vanemtehnoloogiaohutuse spetsialist. "Üks asi on see, et midagi on ehitatud hea kavatsusega, kuid me teame, et tehnoloogiat saab kuritarvitada," ütles Gibson väljaandele Digital Trends. "Me peame seda uueks tehnoloogiaks, vanaks käitumiseks. Inimesi vägistati ikka veel taksodes [enne Uberit], kuid me peame mõtlema, kuidas tänapäeval tehnoloogia võib hõlbustada vanu käitumisi, nagu jälitamine ja rünnak.

Midagi nagu Clearview, ütles Gibson, kuigi sellel on õiguskaitse jaoks oma kasutusala, tekitab see kindlasti küsimusi selle kohta, kuidas või miks see üldsusele kasulik oleks. "Nende asjade avalikuks tarbimiseks muutmine seab ellujääjad ohtu ja me peame mõtlema soovimatutele tagajärgedele," ütles ta.

Justice ütles, et ta näeb, et vestlus tehnoloogia rollist avalikus turvalisuses muutub. "Diskursus on alates MeToo'st muutunud," ütles ta. "Ja on ka aeg. See ei ole uus teema. Me ei näe tingimata perevägivalla suurenemist, me näeme, et seda arutatakse lõpuks. Ja nüüd saame lisada keerukatesse elementidesse, kuidas tehnoloogia on selle osa.

Gibson ütles ka, et tal on olnud vestlusi mitme "suure tehnoloogiaettevõttega" (kuigi ta seda ei teeks täpsustage, milline) ja nad ütlesid, et nad "püüavad nüüd olla tähelepanelikud" privaatsuse ja privaatsuse tagamiseks turvalisus.

Clearview tegi Digital Trendsile lühikese avalduse, öeldes, et nad "võtvad neid muresid tõsiselt ja neil ei ole plaanis kommertsväljaannet." sisse ajaveebi postitus, rõhutas ettevõte, et nende toode ei ole avalikkusele kättesaadav ja see tehakse kättesaadavaks "ainult õiguskaitseorganitele ja valitud turvaspetsialistidele".

Kui arvate, et teie või keegi teie tuttav kannatab lähisuhtevägivalla all, võtke ühendust riikliku koduvägivalla vihjeliiniga 24/7 numbril 1−800−799−7233.

Toimetajate soovitused

• AI-põhised kommentaarid tulevad järgmisel kuul toimuvale Wimbledonile
• Elon Musk asutab Twitteris generatiivse AI projekti, väidab aruanne
• Google Smart Canvas saab rakenduste vahel sügavamalt integreerida
• Nvidia rendib oma AI Superpodi platvormi välja 90 000 dollari eest kuus
• Portland keelab näotuvastustehnoloogia era- ja avaliku kasutamise