Naujausias Silicio slėnio niūrumo pavyzdys yra veido atpažinimo programa Clearview AI. Mažos startuolio programėlė yra tokia galinga, kad kas nors galėtų prieiti prie jūsų gatvėje, nufotografuoti jūsų nuotrauką ir greitai sužinoti jūsų vardą, adresą ir telefono numerį. „The New York Times“ reportaže.
Turinys
- Naujas įrankis skriaudėjams
- Nuolatinė problema
Ši technologija tikriausiai skamba kaip puiki idėja dviejų tipų žmonėms: Teisėsauga ir šliaužia. Advokatai nerimauja, kad tokia veido atpažinimo technologija gali būti naudinga persekiotojams, žmonėms, turintiems a prievartos šeimoje istorija ir visi kiti, kurie norėtų viską sužinoti apie jus, nes nedorėlis tikslas.
Rekomenduojami vaizdo įrašai
„Kai pasklido žinia apie šią programėlę, moterys visur atsiduso“, – pranešime „Digital Trends“ sakė Jo O'Reilly, JK įsikūrusios „ProPrivacy“ privatumo gynėjas. „Dar kartą moterų saugumas tiek internete, tiek realiame gyvenime atsidūrė antroje vietoje po technologijų startuolių troškimo kurti ir užsidirbti pinigų vis labiau invazinėms technologijoms.
Susijęs
- „Amazon“ diegia AI, kad apibendrintų produktų apžvalgas
- AI pavertė „Breaking Bad“ anime – ir tai kelia siaubą
- Meškų veido atpažinimo technologija skirta apsaugoti žmones
„Clearview“ iš dalies veikia rinkdama viešai prieinamus duomenis iš populiarių socialinės žiniasklaidos svetainių, pvz., Facebook, Twitter, YouTube ir Venmo, be kita ko. „Facebook“ bendrovės atstovas „Digital Trends“ sakė, kad „grandymas
Naujas įrankis skriaudėjams
Moterų persekiojimas internete jau seniai buvo problema, ir tai nėra įrankio, kuris galėtų atsekti žmogų tik pagal veidą. Šiuo metu „Clearview“ teigia, kad parduoda savo paslaugas tik teisėsaugai, kuri pateikė tikrai nuostabių apžvalgų apie technologiją. „Tačiau jie keistai tyli apie tai, kad netinkamose rankose ši programinė įranga gali būti panaudota priekabiauti ir persekioti beveik bet ką“, – sakė O'Reilly. „To būtų neįmanoma išvengti, jei programinė įranga būtų prieinama visuomenei – scenarijus, kurį „Clearview“ investuotojai pripažino, yra įmanomas.
„Bet kokia jūsų sukurta technologija, kurią sunaudos žmonės, turite galvoti apie trūkumus“, – sakė „Crystal Justice“, vyriausiasis rinkodaros ir plėtros pareigūnas. Nacionalinė smurto artimoje aplinkoje karštoji linija . „Piktnaudžiautojai visada ieško kito įrankio savo įrankių dėžėje.
Karštoji linija pradėjo teikti pranešimus apie skaitmeninį piktnaudžiavimą kaip savo specifinę kategoriją 2015 m., o nuo to laiko jų skaičius smarkiai išaugo, ypač tarp jaunimo. Teisingumas „Digital Trends“ sakė, kad karštoji linija 2018 m. gavo 371 000 kontaktų ir 15 procentų iš jų buvo skundai dėl piktnaudžiavimo skaitmeniniu būdu. Remiantis karštosios linijos skaičiais, šalyje vidutiniškai kas ketvirta moteris ir kas septintas vyras išgyvena smurtą šeimoje.
„Išgyvenusieji sudaro tokią didelę mūsų gyventojų dalį“, – sakė Justice. „Technologijos įmonės, kurdamos savo programas, turi atsižvelgti į išgyvenusiųjų patirtį.
Nuolatinė problema
Tai yra nuolatinis modelis, kurio šiuolaikinės technologijos trikdo. Kai „Uber“ pradėjo veikti 2009 m., ši technologija atrodė per šauni, kad būtų tiesa. Mes nebebuvome taksi pramonės vergai ar nekompetentingas viešasis transportas atitinkamuose miestuose.
Žinoma, „Uber“ modelis taip pat tiesiogiai susidūrė su įprasta išmintimi, kurios buvome mokomi vaikystėje: nesėskite į automobilius su nepažįstamais žmonėmis. Dešimt metų ir keli tūkstančiai ieškiniųdėl seksualinės prievartos vėliau atrodė, kad buvo priežastis, kuri buvo įprasta išmintis. Daugeliui žmonių įsėsti į svetimą automobilį nėra saugu, net jei ir mokate būti ten.
Tačiau šis elementas yra mąstymas apie saugumą arba nuolatinis judėjimas po pasaulį ir nuolat rūpinasi savo fiziniu saugumu Atrodo, kad moterys ir mažumų lyčių žmonės (dažniausiai baltieji) vyrai, įkūrę tokias technologijų įmones kaip „Uber“, negalvojo, Kaip Twitter, kaip ir daugelis kitų. Jie tiesiog norėjo sukurti kažką šaunaus, kas pakeistų pasaulį. Mintis, kad jis bus panaudotas niekšiškiems tikslams, jiems nekilo į galvą, kol nebuvo per vėlu.
„Padarius šiuos dalykus viešajam vartojimui, išgyvenusiems kyla pavojus, todėl turime galvoti apie nenumatytas pasekmes.
Privatumas ir sauga turi būti integruoti į programą nuo pat pradžių, sakė Rachel Gibson, Nacionalinio smurto artimoje aplinkoje nutraukimo tinklo vyresnioji technologijų saugos specialistė. „Vienas dalykas, kad kažkas kuriama turint gerus ketinimus, tačiau žinome, kad technologijomis galima piktnaudžiauti“, – „Digital Trends“ sakė Gibsonas. „Manome, kad tai naujos technologijos, senas elgesys. Žmonės vis dar buvo prievartaujami taksi [prieš „Uber“], tačiau turime pagalvoti, kaip šiais laikais technologijos gali palengvinti seną elgesį, pavyzdžiui, persekiojimą ir užpuolimą.
Gibsonas sakė, kad kažkas panašaus į „Clearview“, nors jis naudojamas teisėsaugai, neabejotinai kelia klausimų, kaip ir kodėl tai būtų naudinga plačiajai visuomenei. „Padarius šiuos dalykus viešajam vartojimui, išgyvenusiems kyla pavojus, todėl turime galvoti apie nenumatytas pasekmes“, – sakė ji.
Teisėja sakė, kad pokalbis apie technologijų vaidmenį visuomenės saugumui keičiasi. „Diskursas pasikeitė nuo MeToo“, - sakė ji. „Ir taip pat laikas. Tai nėra naujas klausimas. Mes matome, kad smurto šeimoje padaugėjo nebūtinai, matome, kad pagaliau apie tai kalbama. Ir dabar mes galime įtraukti į sudėtingus elementus, kaip technologijos yra to dalis.
Gibsonas taip pat sakė, kad ji kalbėjosi su keliomis „didžiomis technologijų įmonėmis“ (nors to nenorėjo nurodykite, kuris), ir jie teigė, kad dabar „bando būti atidūs“ kuriant privatumą ir saugumo.
„Clearview“ pateikė trumpą „Digital Trends“ pareiškimą, sakydamas, kad jie „rimtai žiūri į šias problemas ir neplanuoja išleisti komercinio išleidimo“. Į dienoraščio įrašą, bendrovė pabrėžė, kad jų produktas nėra prieinamas visuomenei ir kad jis bus prieinamas „tik teisėsaugos institucijoms ir atrinktiems saugumo specialistams“.
Jei manote, kad jūs arba jūsų pažįstamas asmuo kenčia nuo prievartos artimoje aplinkoje, susisiekite su Nacionaline smurto artimoje aplinkoje karštąja linija 24/7 telefonu 1−800−799−7233.
Redaktorių rekomendacijos
- AI varomas komentaras ateina į kitą mėnesį vyksiantį Vimbldoną
- Elonas Muskas sukūrė generatyvaus AI projektą „Twitter“, teigia pranešimai
- „Google Smart Canvas“ užtikrina gilesnę programų integraciją
- „Nvidia“ nuomoja savo „AI Superpod“ platformą už 90 000 USD per mėnesį
- Portlandas uždraudžia privačiai ir viešai naudoti veido atpažinimo technologijas
