Clearview AI sejas atpazīšanas lietotne ir murgs upuru vajāšanai

Jaunākais Silīcija ielejas neprātības piemērs ir sejas atpazīšanas lietotne Clearview AI. Saskaņā ar ziņojums laikrakstā The New York Times.

Šī tehnoloģija, iespējams, izklausās kā lieliska ideja divu veidu cilvēkiem: Likuma izpilde un creeps. Advokāti uztraucas, ka šāda veida sejas atpazīšanas tehnoloģija varētu būt par labu vajātājiem, cilvēkiem ar a vardarbības ģimenē vēsture, un ikviens cits, kas vēlas uzzināt visu par jums, lai kāds nelietis mērķis.

"Kad ziņas par šo lietotni izplatījās, sievietes visur nopūtās," paziņojumā Digital Trends sacīja Džo O'Reilijs, Lielbritānijas ProPrivacy privātuma aizstāvis. "Atkal sieviešu drošība gan tiešsaistē, gan reālajā dzīvē ir ieņēmusi otro vietu aiz tehnoloģiju jaunuzņēmumu vēlmes radīt arvien invazīvākas tehnoloģijas un gūt peļņu no tām."

Clearview daļēji darbojas, skrāpējot publiski pieejamus datus no tādām populārām sociālo mediju vietnēm kā Facebook, Twitter, YouTube un Venmo, cita starpā. Facebook uzņēmuma pārstāvis pastāstīja Digital Trends, ka “kasīšana Facebook informāciju vai tās pievienošanu katalogam aizliedz mūsu politikas, tāpēc mēs izskatām pretenzijas par šo uzņēmumu un veiks atbilstošus pasākumus, ja konstatēsim, ka tie pārkāpj mūsu noteikumus. Twitter arī saka, ka tas aizliedz šo datu izmantošanu.

Jauns rīks varmākām

Izsekošana jau sen ir bijusi sieviešu problēma tiešsaistē, un tas notiek bez rīka, kas var izsekot kādu, pamatojoties tikai uz viņu seju. Pagaidām Clearview apgalvo, ka pārdod savus pakalpojumus tikai tiesībaizsardzības iestādēm, kas ir sniegušas patiesi kvēlojošus pārskatus par tehnoloģiju. "Tomēr viņi dīvaini klusē par to, ka nepareizās rokās šo programmatūru var izmantot, lai uzmāktos un izsekotu gandrīz ikvienu," sacīja O'Reilijs. "To nebūtu iespējams novērst, ja programmatūra būtu pieejama sabiedrībai - ir iespējams scenārijs, ko Clearview investori ir atzinuši."

"Jebkuras izstrādātās tehnoloģijas, ko patērēs cilvēki, jums ir jādomā par trūkumiem," sacīja Crystal Justice, mārketinga un attīstības galvenais speciālists. Nacionālais vardarbības ģimenē palīdzības tālrunis . "Ļaunprātīgie vienmēr meklē nākamo rīku savā rīku komplektā."

Uzticības tālrunis sāka ziņot par digitālo ļaunprātīgu izmantošanu kā savu īpašo kategoriju 2015. gadā, un kopš tā laika to skaits ir ievērojami pieaudzis, īpaši jauniešu vidū. Tieslietu aģentūra Digital Trends sacīja, ka 2018. gadā uzticības tālrunis saņēma 371 000 kontaktu, un 15 procenti no tiem bija sūdzības par digitālo ļaunprātīgu izmantošanu. Saskaņā ar uzticības tālruņa numuriem vidēji valstī katra ceturtā sieviete un katrs septītais vīrietis ir pārcietis vardarbību ģimenē.

"Izdzīvojušie veido tik lielu mūsu iedzīvotāju daļu," sacīja Justice. "Tehnoloģiju uzņēmumiem, izstrādājot savas lietotnes, jāņem vērā izdzīvojušo pieredze."

Pastāvīga problēma

Tas ir noturīgs modelis ar daudzām traucējošām tehnoloģijām mūsdienās. Kad Uber sāka darboties 2009. gadā, tehnoloģija šķita pārāk forša, lai būtu patiesība. Mēs vairs nebijām taksometru industrijas vai nekompetenta sabiedriskā transporta vergi savās pilsētās.

Protams, Ubera modelis arī saskārās ar parasto gudrību, kas mums bērnībā tika mācīta: neiekāpiet automašīnās ar svešiniekiem. Desmit gadus un vairāki tūkstoši tiesas prāvupar seksuālu vardarbību vēlāk šķita, ka tam bija iemesls, kas bija parastā gudrība. Daudziem cilvēkiem iekāpšana svešinieka automašīnā nav droša, pat ja par atrašanos tur ir jāmaksā.

Taču šis elements ir domāšana par drošību vai nepieciešamība pārvietoties pa pasauli, pastāvīgi rūpējoties par savu fizisko drošību, tāpat kā daudzi Šķiet, ka sievietēm un minoritāšu dzimuma pārstāvjiem (galvenokārt baltajiem) vīriešiem, kuri dibināja tādus tehnoloģiju uzņēmumus kā Uber, tas nav bijis prātā, patīk Twitter, tāpat kā daudzas citas. Viņi vienkārši gribēja izveidot kaut ko foršu, kas mainītu pasauli. Doma, ka tas tiks izmantots nelietīgiem mērķiem, viņiem neienāca prātā, kamēr nebija par vēlu.

Privātums un drošība ir jāiestrādā lietotnē jau no paša sākuma, sacīja Reičela Gibsone, Nacionālā vardarbības ģimenē izbeigšanas tīkla vecākā tehnoloģiju drošības speciāliste. "Viena lieta ir tas, ka kaut kas tiek veidots ar labu nolūku, taču mēs zinām, ka tehnoloģiju var izmantot ļaunprātīgi," Gibsons sacīja Digital Trends. "Mēs to domājam kā jaunu tehnoloģiju, vecu uzvedību. Cilvēki joprojām tika izvaroti taksometros [pirms Uber], taču mums ir jādomā par to, kā mūsdienās tehnoloģija var atvieglot veco uzvedību, piemēram, vajāšanu un uzbrukumu.

Gibsons sacīja, ka kaut kas līdzīgs Clearview, lai gan tas tiek izmantots tiesībaizsardzībā, noteikti rada jautājumus par to, kā un kāpēc tas būtu noderīgs plašai sabiedrībai. "Padarot šīs lietas publiskam patēriņam, tiek apdraudēti izdzīvojušie, un mums ir jādomā par neparedzētām sekām," viņa sacīja.

Tiesnese teica, ka viņa redz, ka saruna par tehnoloģiju lomu sabiedrības drošībā mainās. "Diskurss ir mainījies kopš MeToo," viņa teica. "Un arī ir pienācis laiks. Tas nav jauns jautājums. Mēs neredzam vardarbības ģimenē pieaugumu, mēs redzam, ka tas beidzot tiek apspriests. Un tagad mēs varam iekļaut sarežģītajos elementos, kā tehnoloģija ir daļa no tā.

Gibsone arī sacīja, ka viņai ir bijušas sarunas ar vairākiem "lieliem tehnoloģiju uzņēmumiem" (lai gan viņa to nedarītu norādiet, kurš), un viņi teica, ka tagad "mēģina būt uzmanīgiem" veidojot privātumu un drošību.

Clearview sniedza īsu paziņojumu Digital Trends, sakot, ka viņi "uztver šīs bažas nopietni un neplāno komerciālu izlaišanu". In emuāra ieraksts, uzņēmums uzsvēra, ka viņu produkts nav pieejams sabiedrībai un ka tas būs pieejams "tikai tiesībaizsardzības iestādēm un atsevišķiem drošības speciālistiem".

Ja uzskatāt, ka jūs vai kāds, ko pazīstat, cieš no vardarbības pret intīmo partneri, sazinieties ar Nacionālo vardarbības ģimenē palīdzības tālruni 24/7 pa tālruni 1−800−799−7233.

Redaktoru ieteikumi

• Ar AI darbināmi komentāri būs pieejami nākamā mēneša Vimbldonā
• Īlons Masks izveido ģeneratīvā AI projektu vietnē Twitter, ziņo ziņojumi
• Google Smart Canvas nodrošina dziļāku lietotņu integrāciju
• Nvidia iznomā savu AI Superpod platformu par USD 90 000 mēnesī
• Portlenda aizliedz privātu un publisku sejas atpazīšanas tehnoloģiju izmantošanu