Ваш голосовой помощник, вероятно, имеет женский голос. Хотя вы, возможно, и не задумываетесь об этом, Организация Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) считает, что помощники с искусственным интеллектом могут будут способствовать укреплению негативных гендерных стереотипов, но при этом не смогут должным образом дать отпор агрессивным и оскорбительным высказываниям, что приведет к некоторым потенциально вредным последствиям.
В статье под названием «Я бы покраснел, если бы могИсследователи из ЮНЕСКО изучили некоторые из скрытых предубеждений, которые имеют место в исследованиях искусственного интеллекта. Авторы статьи предполагают, что, давая голосовым помощникам традиционно женские имена и присваивая им голоса, звучащие по-женски, компании непреднамеренно усиливают негативные и регрессивные представления о женщины. Это позиционирует их как подчиненных и в роли, где от них ожидают выполнения того, что от них просят.
Рекомендуемые видео
Кроме того, в документе было рассмотрено, как голосовые помощники реагируют на ненормативную лексику. Они обнаружили ИИ. отклоняет такие комментарии, а не предпринимает какие-либо действия, чтобы воспрепятствовать им. Если пользователь угрожает голосовому помощнику, он часто отпускает глупую шутку или пренебрежительное сообщение. Исследователи из ЮНЕСКО считают, что технологические компании должны встроить в эти системы меры защиты, которые помогут уменьшить количество оскорбительных высказываний в адрес женских голосов. Исследователи полагают, что, не делая этого, компании рискуют нормализовать поведение, например, угрожать насилием в отношении женщин.
Связанный
- Как продать родителям умного помощника
- Может ли ваш умный дом сэкономить вам деньги на страховании домовладельцев?
- Приложение делает Breville Joule Oven Air Fryer Pro по-настоящему умным
Частично эта проблема, по мнению ЮНЕСКО, заключается в том, что в большинстве технологических компаний есть инженерные команды, в которых в подавляющем большинстве работают мужчины. Потому что у них, скорее всего, нет непосредственного опыта общения с этим типом языка, направленного на них, и они не стали жертвами такого типа негативные стереотипы и устаревшие гендерные роли, с которыми сталкиваются женщины, они не обязательно думают об этих вещах при разработке ИИ. системы.
«Такие компании, как Apple и Amazon, в которых работают преимущественно мужчины-инженеры, создали искусственный интеллект. системы, вызывающие их феминизированных цифровых помощников, которые будут отвечать на словесные оскорбления флиртом типа «поймай меня, если сможешь», — пишут исследователи в своей книге. отчет. «Поскольку речь большинства голосовых помощников женская, это сигнал о том, что женщины… послушные и помощники, готовые угодить, доступные одним нажатием кнопки или с помощью грубой голосовой команды, например «эй» или 'ХОРОШО'. Помощник не имеет никаких полномочий, кроме тех, которые требует от него командир. Он выполняет команды и отвечает на вопросы, независимо от их тона или враждебности».
ЮНЕСКО считает, что лучшим решением проблемы является создание гендерно-нейтральный голос что А.И. помощники могут использовать. Организация также предлагает создать системы реагирования и системы, которые бы блокировали и препятствовали агрессивным и жестоким высказываниям и оскорблениям. Исследователи полагают, что технологическим компаниям следует также прекратить позиционировать голосовых помощников как подчиненных людей, пытаясь избежать распространения вредных стереотипов.
Рекомендации редакции
- Эксперты предупреждают, что ИИ-помощники вредят социальному развитию детей
- Обзор домашних животных, которые связываются с Google и Alexa
- Новые товары Home Depot, совместимые с Hubspace, включают интеллектуальную розетку
- Возможно ли полностью использовать одну экосистему умного дома?
- Google Home (Nest Audio) против. Амазонка Эхо
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
