Приложение Clearview AI для распознавания лиц — кошмар для жертв преследования

Последним примером высокомерия Кремниевой долины является приложение для распознавания лиц. Clearview ИИ. По словам небольшого стартапа, приложение настолько мощное, что кто-то может подойти к вам на улице, сфотографировать вас и быстро узнать ваше имя, адрес и номер телефона. репортаж в The New York Times.

Эта технология, вероятно, покажется отличной идеей двум типам людей: Правоохранительные органы и ползет. Защитники опасаются, что такая технология распознавания лиц может стать благом для сталкеров, людей с история домашнего насилия и всех, кто захочет узнать о вас все для гнусной цели. цель.

«Когда новость об этом приложении распространилась, женщины повсюду вздохнули», — сказала Джо О’Рейли, защитник конфиденциальности британской компании ProPrivacy, в заявлении для Digital Trends. «И вновь безопасность женщин как в Интернете, так и в реальной жизни отошла на второе место после стремления технологических стартапов создавать – и монетизировать – все более инвазивные технологии».

Clearview частично работает путем сбора общедоступных данных с популярных социальных сетей, таких как Фейсбук, Twitter, YouTube и Venmo и другие. Представитель компании Facebook сообщил Digital Trends, что «очистка Фейсбук информация или добавление ее в каталог запрещены нашей политикой, поэтому мы рассматриваем претензии об этой компании и примем соответствующие меры, если обнаружим, что они нарушают наши правила». Твиттер также говорит, что это запрещает такое использование своих данных.

Новый инструмент для злоумышленников

Преследование уже давно стало проблемой для женщин в Интернете, и это без инструмента, который мог бы выследить кого-то только по лицу. На данный момент Clearview утверждает, что продает свои услуги только правоохранительным органам, которые дали действительно восторженные отзывы о технологии. «Однако они странно молчат о том факте, что в чужих руках это программное обеспечение может быть использовано для преследования и преследования практически любого», — сказал О’Рейли. «Это было бы невозможно предотвратить, если бы программное обеспечение было доступно публике — сценарий, который инвесторы Clearview признали возможным».

«Любая разрабатываемая вами технология, которая будет использоваться людьми, должна учитывать недостатки», — сказал Кристал Джастис, директор по маркетингу и развитию компании. Национальная горячая линия по вопросам домашнего насилия . «Насильники всегда ищут новый инструмент в своем наборе инструментов».

Горячая линия начала сообщать о цифровом насилии как о отдельной категории в 2015 году, и с тех пор их число резко возросло, особенно среди молодежи. Джастис сообщил Digital Trends, что в 2018 году на горячую линию поступило 371 000 обращений, 15 процентов из которых были жалобами на цифровое злоупотребление. По данным «горячей линии», в среднем по стране каждая четвертая женщина и каждый седьмой мужчина пережили домашнее насилие.

«Выжившие составляют большую часть нашего населения», — сказал Джастис. «Технологические компании должны учитывать опыт выживших при разработке своих приложений».

Постоянная проблема

Это устойчивая закономерность, в которой в наши дни много революционных технологий. Когда Uber был запущен в 2009 году, эта технология казалась слишком крутой, чтобы быть правдой. Мы больше не были рабами такси или некомпетентного общественного транспорта в наших городах.

Конечно, модель Uber также прямо противоречила общепринятой мудрости, которой нас учили в детстве: не садитесь в машины с незнакомцами. Десять лет и несколько тысяч исковиз-за сексуального насилия позже, казалось бы, была причина, которая заключалась в общепринятом мнении. Для многих людей садиться в чужую машину небезопасно, даже если вы платите за пребывание там.

Но этот элемент размышлений о безопасности или необходимости постоянно передвигаться по миру, заботясь о своей физической безопасности, как многие женщины и представители гендерных меньшинств, похоже, не были в головах (в основном белых) мужчин, основавших технологические компании, такие как Uber, нравиться Твиттер, как и многие другие. Они просто хотели сделать что-то крутое, что изменит мир. Идея о том, что его будут использовать в гнусных целях, не приходила им в голову, пока не стало слишком поздно.

Конфиденциальность и безопасность должны быть встроены в приложение с самого начала, сказала Рэйчел Гибсон, старший специалист по технологической безопасности Национальной сети по искоренению домашнего насилия. «Одно дело, что что-то создается с добрыми намерениями, но мы знаем, что технологиями можно злоупотреблять», — сказал Гибсон Digital Trends. «Мы думаем об этом как о новой технологии и старом поведении. Людей по-прежнему насиловали в такси [до появления Uber], но нам нужно подумать о том, как современные технологии могут облегчить такое старое поведение, как преследование и нападение».

По словам Гибсона, что-то вроде Clearview, хотя оно и используется в правоохранительных органах, безусловно, вызывает вопросы о том, как и почему оно будет полезно широкой общественности. «Производство этих вещей для общественного потребления подвергает риску выживших, и нам нужно подумать о непредвиденных последствиях», — сказала она.

Джастис сказала, что она видит, что разговор о роли технологий в общественной безопасности меняется. «Со времен MeToo дискурс изменился», — сказала она. «И тоже пора. Это не новая проблема. Мы не обязательно видим рост домашнего насилия, мы видим, что это наконец обсуждается. И теперь мы можем включить в сложные элементы то, как технологии являются частью этого».

Гибсон также сказала, что у нее были переговоры с несколькими «крупными технологическими компаниями» (хотя она не стала бы этого говорить). уточните какие), и они сказали, что теперь «пытаются помнить» о создании конфиденциальности и безопасность.

Clearview предоставила Digital Trends короткое заявление, заявив, что они «серьезно относятся к этим опасениям и не планируют выпускать коммерческий релиз». В сообщение в блогеВ компании подчеркнули, что их продукт недоступен для широкой публики и что он будет доступен «только правоохранительным органам и избранным специалистам по безопасности».

Если вы считаете, что вы или кто-то из ваших знакомых страдает от жестокого обращения со стороны интимного партнера, позвоните на круглосуточную национальную горячую линию по вопросам домашнего насилия по телефону 1-800-799-7233.

Рекомендации редакции

• Комментаторы на базе искусственного интеллекта появятся на Уимблдоне в следующем месяце
• Илон Маск запускает проект генеративного искусственного интеллекта в Twitter, говорится в отчете
• Google Smart Canvas обеспечивает более глубокую интеграцию между приложениями
• Nvidia сдает в аренду свою платформу AI Superpod за 90 тысяч долларов в месяц
• Портленд запрещает частное и публичное использование технологии распознавания лиц