Несмотря на многочисленные усилия Facebook, злоумышленникам каким-то образом всегда удается проникнуть сквозь его меры безопасности и политику. Социальная сеть сейчас экспериментирует с новым способом укрепить свои стены защиты от спама и предотвратить нежелательное поведение, которое потенциально может нарушить ее меры безопасности: армия ботов.
Фейсбук говорит, что разрабатывает новую систему ботов, которые могут имитировать плохое поведение и проводить стресс-тестирование своей платформы, чтобы выявить любые недостатки и лазейки. Этих автоматизированных ботов обучают вести себя как настоящие люди, используя сокровищницу моделей поведения. Фейсбук приобрел от более чем двух миллиардов пользователей.
Рекомендуемые видео
Чтобы этот эксперимент не мешал реальным пользователям, Facebook также создал своего рода параллельную версию своей социальной сети. Здесь ботам дают волю и позволяют им безудержно действовать — они могут отправлять сообщения друг другу, комментировать фиктивные сообщения, отправлять запросы на добавление в друзья, посещать страницы и многое другое. Что еще более важно, эти ИИ. боты запрограммированы на моделирование экстремальных сценариев, таких как продажа наркотиков и оружия, чтобы проверить, как алгоритмы Facebook попытаются их предотвратить.
Связанный
- Опросы Facebook и Google по коронавирусу могут вскоре предсказать вспышки, говорят исследователи
- Ошибка Facebook привела к тому, что действительные статьи о коронавирусе были помечены как спам
- Facebook напоминает пользователям сделать прививку от гриппа и ограничивает охват постов против прививок
Facebook утверждает, что эта новая система может содержать «тысячи или даже миллионы ботов». Поскольку на самом деле он работает на тех же пользователях кода опыт, он добавляет, что «действия ботов соответствуют эффектам, свидетелями которых могли бы стать реальные люди, использующие Платформа."
«Хотя на данный момент проект находится только на стадии исследования, есть надежда, что однажды он поможет нам улучшить наши услуги и выявить потенциальные проблемы с надежностью или целостностью до того, как они затронут реальных людей, использующих платформу». написал руководитель проекта Марк Харман в а Сообщение блога.
На данный момент неясно, насколько эффективной будет новая среда моделирования Facebook. Как упомянул Харман, он все еще находится на довольно ранней стадии, и компания еще не представила ни одного из своих результатов для использования в публичных обновлениях. За последние несколько лет социальная сеть активно инвестировала и поддерживала исследования на основе искусственного интеллекта для разработки новых инструментов для борьбы с преследованиями и спамом. Два года назад на своей ежегодной конференции разработчиков Марк Цукерберг объявил, что компания строит инструменты искусственного интеллекта для борьбы с сообщениями, содержащими террористический контент, разжигание ненависти, спам и более.
Рекомендации редакции
- Новое исследование Meta в области искусственного интеллекта может повысить качество переводов в Facebook и Instagram
- Facebook делится данными о местоположении с исследователями коронавируса
- Частные данные некоторых пользователей Facebook и Twitter утекли через вредоносные приложения
- Facebook использует Minecraft в качестве тренировочной площадки для следующего этапа развития искусственного интеллекта.
- Facebook строит виртуальные дома для обучения искусственного интеллекта агенты в реалистичной среде
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
