Беспокоитесь о предупреждении ФБР о дипфейках? Следуйте этим советам экспертов

На прошлой неделе Федеральное бюро расследований (ФБР) опубликовал объявление о государственной службе о росте явного контента дипфейков и о том, как он используется для таких преступлений, как вымогательство, шантаж и домогательства. Проще говоря, дипфейк — это синтетический мультимедийный материал, пытающийся имитировать оригинал. Это может быть фотография, видео или аудиоклип генерации AI.

Название «дипфейк» происходит от присущей технологии, используемой при создании таких медиа — глубокого обучения, — которая включает в себя обучение модели ИИ с использованием исходного материала, а затем ее модификацию для создания желаемого Результаты. Это не совсем новое изобретение, но с Генеративный ИИ набирает популярность — и доступ — число дипфейковых преступлений растет.

Их популярность такова, что даже кампания кандидата в президенты от республиканцев Рона ДеСантиса использовала дипфейковые изображения соперника Дональда Трампа, чтобы оклеветать его. Дипфейки также являются одной из причин, по которой повсеместно звучат призывы к регулированию ИИ. По данным ФБР, контент для создания дипфейков обычно берется из постов в социальных сетях. и клипы видеозвонков, прежде чем они будут преобразованы в материалы откровенно сексуального характера для вымогательства и издевательств.

Что эксперты говорят о дипфейках

Итак, каково решение? К сожалению, решения нет. По крайней мере, не без компромисса, который в корне переворачивает все значение «социальных сетей» с ног на голову.

«К сожалению, единственный способ убедиться, что ни одно из ваших фото или видео не используется для создания дипфейков, — это прекратить публиковать любые свои фотографии в Интернете, но это доставит массу удовольствия интернет-пользователям», — говорит Адрианус Варменховен, специалист по кибербезопасности. советник в Норд.

«По мере появления новых и лучших методов обеспечения безопасности злоумышленники найдут способ причинить вред. Это игра в догонялки, которая временами разочаровывает», — говорит Партик Саран, бывший сотрудник Google и создатель инструмента управления паролями нового поколения под названием Уно. Он также предлагает попытаться принять «философию нулевого доверия», когда дело доходит до публикации. контент в социальных сетях и подчеркивает эффективное общение со знакомыми, чтобы избежать дипфейка аферы.

«Хотя ИИ может помочь в решении проблем цифровой безопасности, надежной системы безопасности не существует», — говорит Ярон Литвин, эксперт по цифровой безопасности и директор по маркетингу в Навес. Одноименное приложение компании нацелено на защиту детей от сексуальных преступлений в Интернете, а также предлагает разнообразный набор родительского контроля. Литвин добавляет, что вам следует избегать публикации интимных или компрометирующих изображений, а также уменьшить частоту публикации даже обычных изображений.

Как вы можете обезопасить себя

Дипфейки ужасны, и трудно понять, какую травму они могут нанести человеку и членам его семьи. Но есть несколько способов, с помощью которых пользователи могут избежать попадания в ловушку или, по крайней мере, в значительной степени избежать ее.

Чтобы понять, какие шаги в среднем смартфон пользователи с типичными навыками работы с цифровыми технологиями, я обратился к Эндрю Гарднеру, вице-президенту по исследованиям и инновациям в Поколение цифровых технологий, компания-разработчик программного обеспечения, которая предлагает надежные инструменты безопасности, такие как Norton, Avast и Avira, среди прочих.

Гарднер говорит, что протоколы безопасности начинаются с фундаментального уровня. Пользователи должны начать с того, что сделать свои профили закрытыми или, по крайней мере, изменить настройки видимости сообщений, чтобы только люди, на которых они взаимно подписаны, могли видеть их сообщения и взаимодействовать с ними. Родительский контроль, которые в настоящее время доступны почти для каждой крупной платформы социальных сетей, должны быть включены тщательно, чтобы опекуны могли следить за любыми подозрительными взаимодействиями.

Общий совет состоит в том, что следует принимать запросы только от людей, которых они знают, но дополнительный шаг может иметь большое значение. «Если вы работаете в сети, проверяйте последние сообщения и действия приглашенных, чтобы оценить, насколько они реальны», — говорит Гарднер, добавляя, что следует опасаться «аккаунтов». с несколькими друзьями или общими друзьями». Еще один важный совет, который должен дать руководитель Gen Digital, — проверять и ограничивать социальные сети. логины.

Пользователи часто посещают онлайн-сервисы, и, чтобы избежать хлопот с созданием учетной записи, они выбирают вариант входа в социальные сети. «Это дает приложениям доступ к личной информации, и в некоторых ситуациях эти приложения продают эту информацию третьим лицам», — говорит он. Скандал с Cambridge Analytica, связанный с Facebook отличный пример. Следует периодически проверять, какие приложения подключены к их учетным записям в социальных сетях, и, если это необходимо, их доступ должен быть отозван.

Дипфейки — это изощренные преступления с использованием ИИ, но Гарднер предлагает пользователям по-прежнему придерживаться некоторых основных правил безопасности, таких как как включение двухфакторной аутентификации, использование надежных паролей, включение биометрических паролей и предотвращение любых подозрительных или неизвестных ссылки.

Социальные сети сделаны безопасно и ответственно

Литвин из Canopy считает, что чем больше вы делитесь, тем легче становится создавать убедительные дипфейки. Нет недостатка в теневых моделях генерации изображений ИИ без каких-либо ограничений на создание явного материала. Эти инструменты полагаются на входные изображения для обучения модели. Чем больше тренировочных данных передается, тем точнее и реалистичнее становятся дипфейки.

Это стандартная тактика, применяемая основными генераторами изображений ИИ, такими как Середина пути. Если ваша социальная лента открыта и содержит достаточное количество фотографий и видео, ничто не помешает злоумышленнику очистить их для создания компрометирующих дипфейков. Но если вы относитесь к тем людям, которые видят ценность в социальных сетях как в месте, где можно сохранить ваши самые дорогие воспоминания, есть несколько мер, которые вы можете принять. должен брать.

«Будьте осторожны с тем, какой личной информацией вы делитесь в Интернете, настройте параметры конфиденциальности в своих учетных записях, включите двухфакторную аутентификацию и внимательно просматривайте изображения на предмет любых недостатков», — отмечает Бойд Клевис, эксперт по кибербезопасности в Совете безопасности Forbes и автор книги «Через брандмауэр: алхимия превращения кризиса в возможность».

Но как надежно определить профиль в социальной сети, за которым, вероятно, стоит злоумышленник, занимающийся сомнительными действиями, такими как создание и распространение дипфейков? «Если видео- или аудиоматериалы передаются из подозрительных профилей, а учетные записи не содержат никакой личной информации или фото, вполне вероятно, что профиль фальшивый», — предполагает Томас Самулис, архитектор информационной безопасности в Baltic Amadeus. Он предполагает, что такие профили, в которых отсутствует личная информация, создаются специально для распространения фейков и другой противоречивой информации».

Что делать, если вас обманули

Но среднестатистический пользователь смартфона может принять не так много мер предосторожности. Даже самые разбирающиеся в цифровых технологиях пользователи оказываются жертвами киберпреступлений даже после используя все стандартные инструменты, такие как двухфакторная аутентификация, закрытые профили и биометрические брандмауэры.

Если, несмотря на все меры предосторожности, вы все же оказались в центре дипфейкового преступления, обратитесь за советом и помощью к специалистам, а не берите дело в свои руки. Эксперты отмечают, что сидение на таких домогательствах или попытки незаметно справиться с ними самостоятельно часто ухудшают положение жертв.

«Если вы обнаружите, что кто-то злоупотребляет вашим контентом, обратитесь за консультацией, знакомой с законом об авторском праве, чтобы помочь вам удалить контент как как можно быстрее», — говорит Роб Скотт, член Коллегии адвокатов Далласа и лицензированный эксперт по правовым вопросам в таких областях, как риски кибербезопасности и данные. конфиденциальность.

Консультация с экспертом по правовым вопросам имеет решающее значение, потому что он может помочь вам с вашими цифровыми правами. Литвин из Canopy также предлагает сохранить все доказательств, советуя жертвам «задокументировать любые доказательства попыток вымогательства, такие как сообщения, электронные письма или любые формы связи, связанные с вымогательство».

Еще один важный совет заключается в том, что жертва должна немедленно прекратить все контакты с преступником, потому что преступник может продолжать манипулировать ею или беспокоить ее более серьезными требованиями вымогательства. В то же время пользователям следует связаться с экспертом по кибербезопасности или позвонить по одной из государственных линий помощи по борьбе с киберпреступностью, чтобы вовремя принять необходимые меры.

Как распознать дипфейки

По мере того, как механизмы ИИ становятся все более изощренными, производимые ими дипфейки становятся устрашающе реальными и их трудно обнаружить. Тем не менее, есть еще несколько маркеров, на которые пользователи могут обратить внимание, чтобы обнаружить синтетически измененный или созданный искусственным интеллектом компрометирующий материал.

Ниже приводится подборка идентификаторов дипфейков, которые могут предложить эксперты:

• Обратите внимание на неестественные движения глаз. Если кажется, что глаза человека не моргают, движение глаз отключено или выражение лица не синхронизировано со словами, которые он говорит, скорее всего, это дипфейк. Отсутствие эмоций или бессвязные эмоции — явный признак того, что средства массовой информации претерпели цифровую трансформацию.
• «Технология дипфейка обычно фокусируется на чертах лица, — говорит Гарднер. «Если форма тела человека не кажется естественной или если его движения резкие и бессвязные, видео, скорее всего, является дипфейком».
• Еще одним надежным маркером является фон, который может казаться неестественно размытым или иметь странные визуальные артефакты. Еще один простой способ распознать дипфейки — искать аномальное обесцвечивание или серьезное несоответствие цветов, особенно в отношении лиц и теней предметов вокруг.
• Если вы сталкиваетесь с фотографией, на которой человек раскачивает «идеальные волосы», и вы не можете заметить каких-либо отдельных элементов, таких как несколько развевающихся прядей или вьющиеся волосы, будьте осторожны. Также известно, что модели ИИ борются с зубами. Ищите зубы, которые либо неестественно совершенны, либо у которых отсутствуют очертания отдельных зубов, или, может быть, больше зубов, чем в обычном человеческом протезе.
• Смещенные части тела, размытые края, несколько лишних или меньше пальцев, странно искривленные конечности, несинхронизированные движения частей тела, голос без пауз и эмоциональных перерывов — другие признаки, на которые следует обратить внимание. для. «Фальшивый голос или аудиозаписи часто имеют фоновый шум, голоса роботов и странное произношение», — объясняет Самулис.

Серьезная проблема с полуэффективными решениями

Как объяснялось выше, не существует надежной системы защиты от дипфейков. Но если вы внимательно относитесь к тому, где вы делитесь фотографиями, кто может их видеть и как далеко простирается ваш доступ к социальным сетям, вы можете оставаться в относительно безопасной зоне.

Также следует обращать внимание на то, кто их друзья в сети, а также проверять действия новых приглашенных, прежде чем добавлять их в свой круг друзей в социальных сетях. Что касается дипфейков, это немного сложно. Но если сохранять бдительность и уделять время оценке несоответствий в подозрительном фото или видео, дипфейки можно обнаружить с достаточно высокой степенью точности.

В конце концов, все дело в культивировании гигиенических привычек в Интернете и сохранении бдительности в онлайн-пространстве, которое становится все более подверженным подделкам.

Рекомендации редакции

• Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
• Новая компания Илона Маска, занимающаяся искусственным интеллектом, стремится «познать вселенную»
• Ученые говорят, что прорывы в области искусственного интеллекта могут произойти благодаря мозгу пчел
• OpenAI раскрывает местоположение своего первого международного аванпоста
• 81% считают, что ChatGPT представляет угрозу безопасности, согласно опросу