Два руководителя Google заявили в пятницу, что предвзятость в отношении искусственного интеллекта наносит ущерб и без того маргинализированным сообществам в Америке, и что необходимо сделать больше, чтобы этого не произошло. ИКС. Айе, руководитель программы ответственных инноваций в Google, и Анджела Уильямс, менеджер по политике Google, выступил на (Не реальная жизнь) Саммит гордости, мероприятие, организованное Lesbians Who Tech & Allies, крупнейшей в мире технологической ЛГБТ-организацией для женщин, небинарных и трансгендерных людей по всему миру.
В отдельныйпереговорыОни рассмотрели способы использования технологий машинного обучения для нанесения вреда чернокожему сообществу и другим сообществам в Америке — и в более широком смысле по всему миру.
Рекомендуемые видео
Предвзятость в алгоритмах — ЭТО НЕ ПРОСТО ПРОБЛЕМА ДАННЫХ. Выбор использования ИИ может быть предвзятым, способ обучения алгоритма может быть предвзятым, а то, как пользователи воздействуют на систему, взаимодействуют с ней или воспринимают ее, может усиливать предвзятость! проверить
@timnitGebruнаша работа — узнать больше!- ИКС. Эйе??? (@TechWithX) 26 июня 2020 г.
Уильямс обсудил использование ИИ. для тщательного наблюдения, его роль в чрезмерная полицейская деятельностьи его применение при вынесении предвзятого приговора. «[Дело] не в том, что технология является расистской, но мы можем закодировать в ней нашу собственную бессознательную предвзятость», — сказала она. Уильямс подчеркнул дело Роберта Джулиана-Борчака Уильямса, афроамериканец из Детройта, который недавно был ошибочно арестован после того, как система распознавания лиц неправильно сопоставила его фотографию с видеозаписью вора в магазине. Предыдущие исследования показали, что системы распознавания лиц могут с трудом различать разных чернокожих людей. «Здесь А.И. … в реальном мире наблюдение может пойти не так, как надо», — сказал Уильямс.
ИКС. Айе также рассказал о том, как ИИ. может помочь «масштабировать и усилить несправедливую предвзятость». В дополнение к более квазиантиутопическим, привлекающим внимание использованию AI, Eyeé сосредоточились на том, как предвзятость может проникнуть в более, казалось бы, обыденное, повседневное использование технологий, включая собственную Google. инструменты. «Мы в Google не новички в подобных проблемах», — сказал Айе. «В последние годы… мы неоднократно попадали в заголовки новостей о том, как наши алгоритмы негативно влияют на людей». Например, Google разработал инструмент для Классификация токсичности комментариев в Интернете. Хотя это может быть очень полезно, это также проблематично: фразы типа «Я черная гей-женщина» изначально классифицировались как более токсично, чем «Я белый человек». Это произошло из-за пробела в наборах обучающих данных: об определенных личностях говорили больше, чем об определенных личностях. другие.
По словам двух руководителей Google, комплексных решений этих проблем не существует. Везде, где обнаруживаются проблемы, Google старается устранить предвзятость. Но количество потенциальных мест, где предвзятость может проникнуть в системы — от разработки алгоритмов до их внедрение в социальный контекст, в котором производятся данные, означает, что всегда будут проблемы Примеры. Ключевым моментом является осознание этого, предоставление возможности тщательно изучать такие инструменты, а также предоставление возможности различным сообществам высказать свое мнение об использовании этих технологий.
Рекомендации редакции
- Может ли А.И. превзойти инженеров-людей в разработке микрочипов? Гугл так думает
- BigSleep ИИ. это похоже на поиск картинок Google для изображений, которых еще не существует.
- Google возвращает людей, чтобы они взяли на себя модерацию контента YouTube от искусственного интеллекта.
- Фейковые новости? А.И. алгоритм выявляет политическую предвзятость в историях, которые вы читаете
- А.И. Благодаря апскейлингу этот фильм 1896 года выглядит так, как будто он был снят в великолепном разрешении 4K.
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
