Aplikace Clearview AI Facial-Recognition je noční můrou pro oběti pronásledování

Nejnovějším příkladem arogance Silicon Valley je aplikace pro rozpoznávání obličeje Clearview AI. Aplikace malého startupu je tak výkonná, že by k vám mohl někdo přijít na ulici, vyfotografovat vás a rychle zjistit vaše jméno, adresu a telefonní číslo. zpráva v The New York Times.

Tato technologie pravděpodobně zní jako skvělý nápad dvěma typům lidí: Vymáhání práva a plíží se. Zastánci se obávají, že tento druh technologie rozpoznávání obličeje by mohl být přínosem pro stalkery, lidi s a historie domácího týrání a kdokoli jiný, kdo by o vás chtěl zjistit vše pro zločince účel.

„Jak se zpráva o této aplikaci rozšířila, ženy na celém světě si povzdechly,“ řekla Jo O’Reilly, obhájkyně ochrany soukromí z britské ProPrivacy, v prohlášení pro Digital Trends. „Bezpečnost žen na internetu i v reálném životě se opět dostala na druhé místo za touhou technologických startupů vytvářet – a zpeněžit – stále invazivnější technologie.“

Clearview funguje částečně tak, že seškrabuje veřejně dostupná data z populárních sociálních sítí, jako je např Facebook, Twitter, YouTube a Venmo a další. Mluvčí společnosti Facebook řekl Digital Trends, že „seškrabování Facebook informace nebo jejich přidání do adresáře jsou našimi zásadami zakázány, takže nároky prověřujeme o této společnosti a přijmeme příslušná opatření, pokud zjistíme, že porušují naše pravidla.“ Cvrlikání taky prý zakazuje toto použití jeho dat.

Nový nástroj pro násilníky

Stalking je pro ženy online již dlouho problémem, a to bez nástroje, který dokáže někoho vystopovat pouze na základě jeho obličeje. Clearview prozatím tvrdí, že své služby prodává pouze orgánům činným v trestním řízení, což poskytlo skutečně zářivé recenze této technologie. „Nicméně podivně mlčí o tom, že ve špatných rukou by tento software mohl být použit k obtěžování a pronásledování téměř kohokoli,“ řekl O’Reilly. "Tomu by nebylo možné zabránit, kdyby byl software zpřístupněn veřejnosti - scénář, který investoři Clearview uznali, že je možný."

„Jakoukoli technologii, kterou vyvinete a kterou budou konzumovat lidé, musíte myslet na její nedostatky,“ řekl Crystal Justice, ředitel marketingu a vývoje společnosti. Národní horkou linku pro domácí násilí . "Zneužívající vždy hledají další nástroj ve své sadě nástrojů."

Horká linka začala hlásit digitální zneužívání jako svou vlastní specifickou kategorii v roce 2015 a od té doby zaznamenala výrazný nárůst počtu, zejména mezi mladými lidmi. Justice pro Digital Trends uvedla, že horká linka v roce 2018 obdržela 371 000 kontaktů a 15 procent z nich byly stížnosti na zneužívání digitálního obsahu. Podle čísel horké linky je v celostátním průměru jedna ze čtyř žen a každý sedmý muž obětí domácího násilí.

"Přeživší tvoří tak velkou část naší populace," řekl Justice. "Technické společnosti musí při navrhování svých aplikací vzít v úvahu zkušenosti přeživších."

Trvalý problém

Toto je trvalý vzor s mnoha rušivými technologiemi v dnešní době. Když Uber v roce 2009 spustil, tato technologie se zdála příliš cool, než aby to byla pravda. Už jsme nebyli otroky taxikářského průmyslu nebo nekompetentní veřejné dopravy v našich městech.

Model Uberu samozřejmě také přímo vzdoroval konvenční moudrosti, kterou jsme se učili jako děti: Nenastupujte do aut s cizími lidmi. Deset let a několik tisíc žalobnad sexuálním napadením později se zdálo, že to byl důvod, který byl konvenční moudrostí. Pro mnoho lidí není nastupování do cizího auta bezpečné, i když za to platíte.

Ale tento prvek přemýšlení o bezpečnosti nebo nutnosti pohybovat se světem se neustále zajímá o vaši fyzickou bezpečnost, jako mnozí ženy a lidé menšinového pohlaví museli, nezdá se, že by byli na mysli (většinou bílých) mužů, kteří založili technologické společnosti jako Uber, jako Cvrlikání, jako mnoho dalších. Prostě chtěli udělat něco cool, co změní svět. Myšlenka, že by to bylo použito k nekalým účelům, je nenapadlo, dokud nebylo příliš pozdě.

Soukromí a bezpečnost musí být zabudovány do aplikace od začátku, řekla Rachel Gibson, senior specialistka na bezpečnost technologií pro National Network to End Domestic Violence. „Jedna věc je, že je něco postaveno s dobrým úmyslem, ale víme, že technologie může být zneužita,“ řekl Gibson pro Digital Trends. "Považujeme to za novou technologii, staré chování." Lidé byli stále znásilňováni v taxících [před Uberem], ale musíme přemýšlet o tom, jak dnešní technologie mohou usnadnit staré chování, jako je pronásledování a přepadení.

Něco jako Clearview, řekl Gibson, i když má své využití pro vymáhání práva, jistě vyvolává otázky, jak nebo proč by to bylo užitečné pro širokou veřejnost. "Vyrábění těchto věcí pro veřejnou spotřebu ohrožuje přeživší a musíme myslet na nezamýšlené důsledky," řekla.

Justice řekla, že vidí, jak se rozhovor o úloze technologií ve veřejné bezpečnosti mění. "Diskurz se od MeToo posunul," řekla. "A taky je na čase. Toto není nová záležitost. Nepozorujeme nutně nárůst domácího násilí, vidíme, že se o něm konečně diskutuje. A nyní můžeme do komplexních prvků zahrnout, jak je technologie součástí."

Gibson také řekla, že vedla rozhovory s několika „velkými technologickými společnostmi“ (ačkoli by to neudělala upřesněte, které) a řekli, že se nyní „snaží pamatovat“ na budování soukromí a soukromí bezpečnostní.

Společnost Clearview poskytla společnosti Digital Trends krátké prohlášení, v němž uvedla, že „berou tyto obavy vážně a nemají žádné plány na komerční vydání“. v blogový příspěvek, společnost zdůraznila, že jejich produkt není dostupný veřejnosti a že bude zpřístupněn „pouze orgánům činným v trestním řízení a vybraným bezpečnostním profesionálům“.

Pokud se domníváte, že vy nebo někdo, koho znáte, trpíte zneužíváním intimních partnerů, kontaktujte 24/7 Národní horkou linku pro domácí násilí na čísle 1−800−799−7233.

Doporučení redakce

• Komentáře poháněné umělou inteligencí přichází na Wimbledon příští měsíc
• Elon Musk zakládá projekt generativní AI na Twitteru, tvrdí zpráva
• Google Smart Canvas získává hlubší integraci mezi aplikacemi
• Nvidia pronajímá svou platformu AI Superpod za 90 tisíc dolarů měsíčně
• Portland zakazuje soukromé a veřejné používání technologie rozpoznávání obličeje