A Clearview AI arcfelismerő alkalmazás egy rémálom az áldozatok üldözésére

A Szilícium-völgy hübriszének legújabb példája az arcfelismerő alkalmazás Clearview AI. A kis startup applikációja olyan erős, hogy valaki odamegy hozzád az utcán, lefotózza, és gyorsan megtudja a nevét, címét és telefonszámát. egy riport a The New York Timesban.

Ez a technológia valószínűleg kétféle ember számára tűnik nagyszerű ötletnek: Bűnüldözés és kúszik. A jogvédők attól tartanak, hogy ez a fajta arcfelismerő technológia áldás lehet a sztározóknak, akiknek a családon belüli bántalmazás története, és bárki más, aki mindent meg akar tudni rólad egy aljas számára célja.

"Ahogy az alkalmazás híre terjedt, a nők mindenhol felsóhajtottak" - mondta Jo O'Reilly, az Egyesült Királyságbeli ProPrivacy adatvédelmi szószólója a Digital Trendsnek adott nyilatkozatában. „Ismét, a nők biztonsága mind online, mind a való életben a második helyre került a tech startupok azon vágya mellett, hogy egyre invazívabb technológiát hozzanak létre – és pénzt szerezzenek belőle.”

A Clearview részben úgy működik, hogy nyilvánosan elérhető adatokat gyűjt össze olyan népszerű közösségi oldalakról, mint pl Facebook, Twitter, YouTube és Venmo, többek között. A Facebook cég szóvivője azt mondta a Digital Trendsnek, hogy „kaparás Facebook Irányelveink tiltják az információkat vagy azok hozzáadását egy címtárhoz, ezért a követeléseket felülvizsgáljuk erről a cégről, és megtesszük a megfelelő lépéseket, ha úgy találjuk, hogy megsértik a szabályainkat.” Twitter is azt mondja, hogy tiltja adatainak ezen felhasználását.

Új eszköz a bántalmazók számára

Az internetes üldözés régóta probléma a nők körében, és ez olyan eszköz nélkül valósul meg, amely csak az arca alapján tudna valakit lenyomozni. Egyelőre a Clearview azt állítja, hogy szolgáltatásait csak a bűnüldöző szerveknek adja el, amelyek valóban ragyogó értékeléseket adtak a technológiáról. „Furcsa módon azonban hallgatnak arról, hogy rossz kezekben ezt a szoftvert szinte bárki zaklatására és üldözésére is felhasználhatják” – mondta O'Reilly. „Ezt lehetetlen lenne megakadályozni, ha a szoftvert a nyilvánosság számára elérhetővé tennék – ez a forgatókönyv, amelyet a Clearview befektetői elismertek, lehetséges.”

"Minden olyan technológiát, amelyet kifejleszt, és amelyet az emberek fogyasztanak, gondolnia kell a hibákra" - mondta a Crystal Justice, a marketing és fejlesztési igazgató. a családon belüli erőszakkal foglalkozó országos forródrót . "A visszaélések mindig a következő eszközt keresik az eszköztárukban."

A forródrót 2015-ben kezdett beszámolni a digitális visszaélésekről, mint saját kategóriájáról, és azóta jelentősen megnőtt a számok, különösen a fiatalok körében. A Justice a Digital Trendsnek elmondta, hogy a forródróthoz 2018-ban 371 000 kapcsolat érkezett, és ezek 15 százaléka digitális visszaélésekkel kapcsolatos panasz volt. A forródrót számai szerint országosan átlagosan minden negyedik nő és minden hetedik férfi túléli a családon belüli erőszakot.

„Népességünk nagy részét a túlélők teszik ki” – mondta Justice. "A technológiai cégeknek figyelembe kell venniük a túlélők tapasztalatait alkalmazásaik tervezése során."

Folyamatos probléma

Ez egy makacs minta, sok bomlasztó technológiával a mai korban. Amikor az Uber 2009-ben elindult, a technológia túl menőnek tűnt ahhoz, hogy igaz legyen. Többé nem voltunk a taxiipar rabszolgái, vagy nem voltunk hozzáértő tömegközlekedési eszközök saját városainkban.

Természetesen az Uber modellje is szembeszállt azzal a hagyományos bölcsességgel, amelyet gyerekkorunkban tanítottak nekünk: ne üljünk autóba idegenekkel. Tíz év és több ezer perszexuális zaklatás miatt később úgy tűnik, hogy ennek oka a hagyományos bölcsesség volt. Sok ember számára nem biztonságos beszállni egy idegen autójába, még akkor sem, ha fizet az ott tartózkodásért.

De ez az elem a biztonságról való gondolkodásról, vagy arról, hogy a világban kell mozogni, és folyamatosan aggódni a testi épségedért, mint sokan a nők és a kisebbségi nemekhez tartozó emberek, úgy tűnik, nem jártak a (többnyire fehér) férfiak fejében, akik olyan technológiai cégeket alapítottak, mint az Uber, mint Twitter, mint sok más. Csak valami menőt akartak alkotni, ami megváltoztatja a világot. Az ötlet, hogy aljas célokra használják fel, meg sem fordult a fejükben, amíg már túl késő volt.

Az adatvédelmet és a biztonságot a kezdetektől fogva be kell építeni egy alkalmazásba – mondta Rachel Gibson, a National Network to End Domestic Violence (National Network to End Domestic Violence) vezető technológiai biztonsági szakértője. „Az egy dolog, hogy valamit jó szándékkal építenek, de tudjuk, hogy a technológiát vissza lehet használni” – mondta Gibson a Digital Trendsnek. „Új technológiának, régi viselkedésnek gondoljuk. Az embereket még taxiban erőszakolták meg [az Uber előtt], de el kell gondolkodnunk azon, hogy manapság a technológia hogyan könnyítheti meg a régi viselkedéseket, például a üldözést és a támadást.”

A Clearview-hoz hasonló, Gibson szerint bár a bűnüldözési célokra használható, minden bizonnyal kérdéseket vet fel azzal kapcsolatban, hogyan és miért lenne hasznos a nagyközönség számára. „Ha ezeket a dolgokat közfogyasztásra tesszük, az a túlélőket veszélyezteti, és gondolnunk kell a nem kívánt következményekre” – mondta.

Az igazságszolgáltatás azt mondta, hogy megváltozik a technológia közbiztonságban betöltött szerepéről folytatott beszélgetés. „A diskurzus megváltozott a MeToo óta” – mondta. – És itt az ideje is. Ez nem új keletű kérdés. Nem feltétlenül látjuk a családon belüli erőszak növekedését, azt látjuk, hogy végre szóba kerül. És most beépíthetjük az összetett elemekbe, hogy a technológia hogyan része ennek.”

Gibson azt is elmondta, hogy több „nagy technológiai céggel” is tárgyalt (bár nem adja meg, melyik), és azt mondták, hogy most „megpróbálnak ügyelni” arra, hogy a magánélet védelmét és a magánélet védelmét szolgálják Biztonság.

Clearview rövid nyilatkozatot adott a Digital Trendsnek, mondván, hogy „komolyan veszik ezeket az aggályokat, és nem terveznek kereskedelmi forgalomba hozatalt”. Ban ben egy blogbejegyzést, a cég hangsúlyozta, hogy termékük nem elérhető a nyilvánosság számára, és „csak a bűnüldöző szervek és bizonyos biztonsági szakemberek számára lesz elérhető”.

Ha úgy gondolja, hogy Ön vagy valaki, akit ismer, intim párkapcsolati bántalmazásban szenved, vegye fel a kapcsolatot az Országos Családon belüli Erőszak Hotline 24/7 telefonszámon az 1−800−799−7233-as számon.

Szerkesztői ajánlások

• Az AI-alapú kommentár a jövő havi wimbledoni versenyen érkezik
• Elon Musk generatív mesterséges intelligencia projektet indít a Twitteren, állítja a jelentés
• A Google Smart Canvas mélyebb integrációt biztosít az alkalmazások között
• Az Nvidia havi 90 000 dollárért bérbe adja AI Superpod platformját
• Portland betiltja az arcfelismerő technológia magán- és nyilvános használatát