Приложението Clearview AI за лицево разпознаване е кошмар за преследващите жертви

Последният пример за високомерието на Силициевата долина е приложението за лицево разпознаване Clearview AI. Приложението на малкия стартъп е толкова мощно, че някой може да се приближи до вас на улицата, да ви направи снимка и бързо да разбере вашето име, адрес и телефонен номер, според репортаж в The New York Times.

Тази технология вероятно звучи като страхотна идея за два типа хора: Органите на реда и пълзи. Защитниците се притесняват, че този вид технология за лицево разпознаване може да бъде от полза за преследвачите, хората с история на домашно насилие и всеки друг, който би искал да разбере всичко за вас за нечестив предназначение.

„Когато новината за това приложение се разпространи, жените навсякъде въздъхнаха“, каза Джо О’Райли, защитник на поверителността в базираната в Обединеното кралство ProPrivacy, в изявление за Digital Trends. „За пореден път безопасността на жените, както онлайн, така и в реалния живот, е на второ място след желанието на технологичните стартиращи фирми да създават – и монетизират – все по-инвазивни технологии.“

Clearview работи отчасти чрез изтриване на публично достъпни данни от популярни сайтове за социални медии като Facebook, Twitter, YouTube и Venmo, между другото. Говорител на компанията Facebook каза пред Digital Trends, че „изстъргването Facebook информация или добавянето й към директория са забранени от нашите правила, така че преглеждаме твърденията относно тази компания и ще предприемем подходящи действия, ако установим, че те нарушават нашите правила.“ Twitter също казва, че забранява това използване на неговите данни.

Нов инструмент за насилниците

Преследването отдавна е проблем за жените онлайн и това е без инструмент, който може да проследи някого въз основа само на лицето му. Засега Clearview твърди, че продава услугите си само на правоприлагащите органи, които са дали наистина блестящи отзиви за технологията. „Те странно мълчат обаче за факта, че в грешни ръце този софтуер може да бъде използван за тормоз и преследване на почти всеки“, каза О’Райли. „Това би било невъзможно да се предотврати, ако софтуерът беше предоставен на обществеността – сценарий, който инвеститорите на Clearview признаха, че е възможен.“

„Всяка технология, която разработвате и която ще бъде консумирана от хората, трябва да мислите за недостатъците“, каза Crystal Justice, главен директор по маркетинг и развитие на Националната гореща линия за домашно насилие . „Насилниците винаги търсят следващия инструмент в кутията си с инструменти.“

Горещата линия започна да докладва за дигитална злоупотреба като своя специфична категория през 2015 г. и оттогава се наблюдава рязко увеличение на числата, особено сред младите хора. Justice каза пред Digital Trends, че горещата линия е получила 371 000 контакта през 2018 г. и 15 процента от тях са били оплаквания за цифрова злоупотреба. Средно за страната една на всеки четири жени и един на всеки седем мъже са преживели домашно насилие, сочат данните на горещата линия.

„Оцелелите съставляват толкова голяма част от нашето население“, каза Джъстис. „Технологичните компании трябва да вземат предвид опита на оцелелите, когато проектират своите приложения.“

Продължаващ проблем

Това е постоянен модел с много разрушителни технологии в днешно време. Когато Uber стартира през 2009 г., технологията изглеждаше твърде готина, за да е истина. Вече не бяхме роби на таксиметровата индустрия или на некомпетентния обществен транспорт в съответните градове.

Разбира се, моделът на Uber също директно се противопостави на конвенционалната мъдрост, на която бяхме учени като деца: Не се качвайте в коли с непознати. Десет години и няколко хиляди деланад сексуално насилие по-късно изглежда, че е имало причина, която е била общоприетата мъдрост. За много хора качването в колата на непознат не е безопасно, дори когато плащате, за да сте там.

Но този елемент на мислене за безопасността или за това, че трябва да се движите по света, като постоянно сте загрижени за вашата физическа безопасност, тъй като много жените и хората от малцинствения пол трябва, изглежда, не са били в съзнанието на (предимно бели) мъже, които са основали технологични компании като Uber, като Twitter, като толкова много други. Те просто искаха да направят нещо готино, което да промени света. Идеята, че ще бъде използвана за гнусни цели, не им минава през ума, докато не е станало твърде късно.

Поверителността и безопасността трябва да бъдат вградени в приложението от самото начало, каза Рейчъл Гибсън, старши специалист по технологична безопасност за Националната мрежа за прекратяване на домашното насилие. „Едно нещо е, че нещо е създадено с добри намерения, но знаем, че с технологиите може да се злоупотребява“, каза Гибсън пред Digital Trends. „Мислим за това като за нова технология, старо поведение. Хората все още бяха изнасилвани в таксита [преди Uber], но трябва да помислим как технологиите в наши дни могат да улеснят стари поведения като преследване и нападение.“

Нещо като Clearview, каза Гибсън, въпреки че има своите приложения за правоприлагане, със сигурност повдига въпроси как или защо би било полезно за широката общественост. „Правенето на тези неща за обществено потребление излага оцелелите на риск и трябва да помислим за непредвидените последици“, каза тя.

Джъстис каза, че вижда как разговорът за ролята на технологиите в обществената безопасност се променя. „Дискурсът се промени след MeToo“, каза тя. „И също е крайно време. Това не е нов проблем. Не виждаме непременно увеличение на домашното насилие, виждаме, че най-накрая то се обсъжда. И сега можем да включим в сложните елементи как технологиите са част от това.“

Гибсън също каза, че е провела разговори с няколко „големи технологични компании“ (въпреки че не би посочете кои) и те казаха, че сега се „опитват да внимават“ за изграждането за поверителност и сигурност.

Clearview даде кратко изявление на Digital Trends, като каза, че „приемат сериозно тези опасения и нямат планове за комерсиално пускане“. в публикация в блог, компанията подчерта, че техният продукт не е достъпен за обществеността и че ще бъде предоставен „само на правоприлагащите органи и избрани специалисти по сигурността“.

Ако смятате, че вие ​​или някой, когото познавате, страдате от насилие от интимен партньор, свържете се с Националната гореща линия за домашно насилие 24/7 на 1−800−799−7233.

Препоръки на редакторите

• Задвижваният от изкуствен интелект коментар идва на Уимбълдън следващия месец
• Илон Мъск създава генеративен AI проект в Twitter, твърди доклад
• Google Smart Canvas получава по-дълбока интеграция между приложенията
• Nvidia отдава под наем своята платформа AI Superpod за $90K на месец
• Портланд забранява частното и публичното използване на технологии за лицево разпознаване