Aplikacja do rozpoznawania twarzy Clearview AI to koszmar dla ofiar prześladowań

Najnowszym przykładem pychy Doliny Krzemowej jest aplikacja do rozpoznawania twarzy Clearview AI. Aplikacja tego małego startupu jest tak potężna, że ​​ktoś może podejść do Ciebie na ulicy, zrobić Ci zdjęcie i szybko poznać Twoje imię i nazwisko, adres i numer telefonu – wynika z badania. raport w „The New York Times”..

Ta technologia prawdopodobnie wydaje się świetnym pomysłem dwóm typom ludzi: Egzekucja prawa i skrada się. Zwolennicy obawiają się, że tego rodzaju technologia rozpoznawania twarzy może być dobrodziejstwem dla prześladowców, osób z historia przemocy domowej i każdego, kto chciałby dowiedzieć się o Tobie wszystkiego w imię nikczemności zamiar.

„Kiedy wieść o tej aplikacji rozeszła się, kobiety na całym świecie westchnęły” – powiedziała Jo O’Reilly, rzeczniczka ochrony prywatności w brytyjskiej firmie ProPrivacy, w oświadczeniu dla Digital Trends. „Po raz kolejny bezpieczeństwo kobiet zarówno w Internecie, jak i w prawdziwym życiu zeszło na drugi plan, w stosunku do pragnienia startupów technologicznych, aby tworzyć i zarabiać na coraz bardziej inwazyjnych technologiach”.

Clearview działa częściowo poprzez zeskrobywanie publicznie dostępnych danych z popularnych serwisów społecznościowych, takich jak Facebook, Twitter, YouTube i Venmo, między innymi. Rzecznik firmy Facebook powiedział Digital Trends, że „scraping Facebook informacji lub dodawanie ich do katalogu są zabronione przez nasze zasady, dlatego sprawdzamy roszczenia o tej firmie i podejmiemy odpowiednie działania, jeśli stwierdzimy, że naruszają one nasze zasady.” Świergot Również twierdzi, że zabrania tego wykorzystania jego danych.

Nowe narzędzie dla sprawców przemocy

Prześladowanie od dawna stanowi problem dla kobiet w Internecie i to bez narzędzia, które mogłoby wyśledzić daną osobę wyłącznie na podstawie jej twarzy. Na razie Clearview twierdzi, że sprzedaje swoje usługi wyłącznie organom ścigania, co dało naprawdę entuzjastyczne recenzje tej technologii. „Jednak dziwnie milczą na temat faktu, że w niewłaściwych rękach to oprogramowanie może zostać wykorzystane do nękania i prześladowania niemal każdego” – powiedział O'Reilly. „Nie można byłoby temu zapobiec, gdyby oprogramowanie zostało udostępnione publicznie – scenariusz, który uznali inwestorzy Clearview za możliwy”.

„Każdą technologię, którą opracujesz, a która będzie konsumowana przez ludzi, musisz pomyśleć o wadach” – powiedział Crystal Justice, dyrektor ds. marketingu i rozwoju w firmie Krajowa Gorąca Linia ds. Przemocy Domowej . „Sprawcy przemocy zawsze szukają kolejnego narzędzia w swoim zestawie narzędzi”.

Infolinia zaczęła zgłaszać przypadki nadużyć cyfrowych jako odrębnej kategorii w 2015 r. i od tego czasu liczba takich przypadków gwałtownie wzrosła, zwłaszcza wśród młodych ludzi. Justice powiedział Digital Trends, że w 2018 r. na infolinię odebrano 371 000 kontaktów, z czego 15 procent stanowiły skargi dotyczące nadużyć cyfrowych. Według danych infolinii średnio co czwarta kobieta i co siódmy mężczyzna w kraju doświadczają przemocy domowej.

„Ocaleni stanowią dużą część naszej populacji” – stwierdził Justice. „Firmy technologiczne muszą uwzględniać doświadczenia ocalałych podczas projektowania swoich aplikacji”.

Ciągły problem

Jest to utrzymujący się wzorzec, w którym występuje wiele przełomowych technologii w dzisiejszych czasach. Kiedy Uber wystartował w 2009 roku, technologia wydawała się zbyt fajna, aby mogła być prawdziwa. Nie byliśmy już niewolnikami branży taksówkarskiej ani niekompetentnego transportu publicznego w naszych miastach.

Oczywiście model Ubera był również bezpośrednio sprzeczny z obiegową mądrością, której uczono nas w dzieciństwie: nie wsiadaj do samochodów z nieznajomymi. Dziesięć lat i kilka tysięcy pozwóww związku z napaścią na tle seksualnym później wydawało się, że istniał powód, który stanowiła konwencjonalna mądrość. Dla wielu osób wsiadanie do samochodu nieznajomego nie jest bezpieczne, nawet jeśli za to płacisz.

Ale ten element myślenia o bezpieczeństwie, czyli konieczności poruszania się po świecie i ciągłej troski o swoje bezpieczeństwo fizyczne, jest tak liczny wydaje się, że kobiety i osoby należące do mniejszości nie przychodziły do ​​głowy (głównie białym) mężczyznom, którzy zakładali firmy technologiczne takie jak Uber, tak jak Świergot, jak wiele innych. Chcieli po prostu zrobić coś fajnego, co zmieni świat. Pomysł, że zostanie on wykorzystany do nikczemnych celów, nie przyszedł im do głowy, dopóki nie było za późno.

Prywatność i bezpieczeństwo muszą być wbudowane w aplikację od samego początku, stwierdziła Rachel Gibson, starsza specjalistka ds. bezpieczeństwa technologii w Krajowej Sieci na Rzecz Przeciwdziałania Przemocy Domowej. „Jedną rzeczą jest to, że coś buduje się z dobrymi intencjami, ale wiemy, że technologia może zostać niewłaściwie wykorzystana” – Gibson powiedział Digital Trends. „Uważamy to za nową technologię i stare zachowanie. Ludzie nadal byli gwałceni w taksówkach [przed wprowadzeniem Ubera], ale musimy pomyśleć o tym, w jaki sposób technologia może obecnie ułatwić stare zachowania, takie jak prześladowanie i napaść”.

Coś takiego jak Clearview, powiedział Gibson, choć ma swoje zastosowania w egzekwowaniu prawa, z pewnością rodzi pytania, w jaki sposób i dlaczego byłoby przydatne dla ogółu społeczeństwa. „Wytwarzanie tych rzeczy do publicznej konsumpcji naraża ofiary na ryzyko i musimy pomyśleć o niezamierzonych konsekwencjach” – stwierdziła.

Justice stwierdziła, że ​​widzi zmianę w rozmowie na temat roli technologii w bezpieczeństwie publicznym. „Od czasu MeToo dyskurs się zmienił” – stwierdziła. – I już najwyższy czas. To nie jest nowy problem. Niekoniecznie widzimy wzrost przemocy domowej, widzimy, że w końcu zaczęto o tym mówić. A teraz możemy uwzględnić w złożonych elementach to, w jaki sposób technologia jest tego częścią”.

Gibson powiedziała również, że rozmawiała z kilkoma „dużymi firmami technologicznymi” (chociaż tego nie zrobiła określ które) i powiedzieli, że teraz „próbują zwracać uwagę” na budowanie prywatności i bezpieczeństwo.

Clearview wydał krótkie oświadczenie Digital Trends, w którym stwierdził, że „traktuje te obawy poważnie i nie planuje wydania komercyjnego”. W wpis na blogufirma podkreśliła, że ​​jej produkt nie jest publicznie dostępny i że zostanie udostępniony „tylko organom ścigania i wybranym specjalistom ds. bezpieczeństwa”.

Jeśli uważasz, że Ty lub ktoś, kogo znasz, cierpicie z powodu przemocy ze strony partnera, skontaktuj się z ogólnokrajową infolinią ds. przemocy domowej, czynną całą dobę, 7 dni w tygodniu, pod numerem 1-800-799-7233.

Zalecenia redaktorów

• Komentarze oparte na sztucznej inteligencji pojawią się na przyszłomiesięcznym Wimbledonie
• Z raportu wynika, że ​​Elon Musk tworzy projekt generatywnej sztucznej inteligencji na Twitterze
• Google Smart Canvas zapewnia głębszą integrację między aplikacjami
• Nvidia wynajmuje platformę AI Superpod za 90 tys. dolarów miesięcznie
• Portland zakazuje prywatnego i publicznego korzystania z technologii rozpoznawania twarzy