Незважаючи на численні зусилля Facebook, зловмисникам якимось чином завжди вдається проникнути крізь його запобіжні заходи та політику. Зараз соціальна мережа експериментує з новим способом підкріпити свої стіни захисту від спаму та запобігти поганій поведінці, яка потенційно може порушити її гарантії: армія ботів.
Facebook каже, що розробляє нову систему ботів, які можуть імітувати погану поведінку та проводити стрес-тестування своєї платформи, щоб виявити будь-які недоліки та лазівки. Цих автоматизованих ботів навчають поводитися як справжня людина, використовуючи скарбницю моделей поведінки Facebook придбала від своїх понад двох мільярдів користувачів.
Рекомендовані відео
Щоб цей експеримент не заважав реальним користувачам, Facebook також створив свого роду паралельну версію своєї соціальної мережі. Тут ботів відпускають на волю, і вони можуть розгулювати — вони можуть обмінюватися повідомленнями один з одним, коментувати фіктивні пости, надсилати запити друзів, відвідувати сторінки тощо. Що ще важливіше, ці А.І. боти запрограмовані на імітацію екстремальних сценаріїв, таких як продаж наркотиків і зброї, щоб перевірити, як алгоритми Facebook намагатимуться їм запобігти.
Пов'язані
- Дослідники кажуть, що опитування Facebook і Google щодо коронавірусу можуть незабаром передбачити спалахи
- Помилка Facebook спричинила позначення дійсних статей про коронавірус як спам
- Facebook нагадує користувачам зробити щеплення від грипу, обмежує охоплення антивакспостів
Facebook стверджує, що ця нова система може приймати «тисячі або навіть мільйони ботів». Оскільки насправді він працює на тому ж коді користувачів досвіду, він додає, що «дії ботів відповідають ефектам, свідками яких могли б стати реальні люди, використовуючи платформа».
«Хоча проект наразі лише на стадії дослідження, є надія, що одного разу він допоможе нам покращити наші послуги та потенційні проблеми з надійністю або цілісністю, перш ніж вони вплинуть на реальних людей, які використовують платформу». написав керівник проекту Марк Гарман a публікація в блозі.
Наразі незрозуміло, наскільки ефективним буде нове середовище моделювання Facebook. Як зазначає Харман, це все ще на досить ранніх стадіях, і компанія ще не використала жодного з його результатів для публічних оновлень. Протягом останніх кількох років соціальна мережа активно інвестувала та підтримувала дослідження на основі штучного інтелекту для розробки нових інструментів для боротьби з переслідуваннями та спамом. На щорічній конференції розробників два роки тому Марк Цукерберг оголосив, що компанія будує інструменти штучного інтелекту для боротьби з публікаціями, які містять терористичний контент, ворожнечу, спам і більше.
Рекомендації редакції
- Нове дослідження штучного інтелекту Meta може покращити переклад у Facebook та Instagram
- Facebook ділиться даними про місцезнаходження з дослідниками коронавірусу
- Через шкідливі програми стався витік особистих даних деяких користувачів Facebook і Twitter
- Facebook використовує Minecraft як тренувальний майданчик для наступного етапу ШІ.
- Facebook будує віртуальні будинки для навчання ШІ. агентів у реалістичному середовищі
Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.
