А Расследование времени раскрыл более темную сторону индустрии чат-ботов с искусственным интеллектом, подчеркнув, как по крайней мере один стартап использовал сомнительные методы для улучшения своей технологии.
Опубликованный в среду отчет Time посвящен OpenAI, поддерживаемому Microsoft, и его чат-бот ChatGPT, технология, которая в последнее время привлекла большое внимание благодаря своей замечательной способности создавать очень естественный разговорный текст.
Рекомендуемые видео
Расследование Time показало, что для обучения технологии ИИ OpenAI воспользовалась услугами команды в Кении, которая изучала текст, который включали тревожные темы, такие как сексуальное насилие над детьми, зоофилия, убийство, самоубийство, пытки, членовредительство и инцест. А за усилия по маркировке отвратительного контента многие в команде получали менее 2 долларов в час.
Связанный
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- ChatGPT: последние новости, споры и советы, которые вам нужно знать
- Рекордный рост ChatGPT был свергнут новым вирусным приложением
Работа, начавшаяся в ноябре 2021 года, была необходима, поскольку предшественник ChatGPT, GPT-3, хоть и впечатлял, но имел тенденцию извергать оскорбительный контент, так как его обучающий набор данных был собран путем извлечения сотен миллиардов слов со всех уголков веб.
Команда из Кении, управляемая фирмой Sama из Сан-Франциско, будет маркировать оскорбительный контент, чтобы помочь обучить чат-бота OpenAI, тем самым улучшив его набор данных и уменьшив вероятность любых нежелательных выход.
Time сообщил, что все четверо опрошенных сотрудников Sama описали свою работу как психологическую травму. Сама предлагала консультации, но сотрудники говорили, что они неэффективны и редко проводятся из-за требованиям работы, хотя представитель Sama сообщил Time, что терапевты доступны в любое время. время.
Один из рабочих сказал Time, что чтение шокирующих материалов иногда казалось «пыткой», добавив, что к концу недели они чувствовали себя «встревоженными».
В феврале 2022 года ситуация для Sama приняла еще более мрачный оборот, когда OpenAI запустила отдельный проект, не связанный с ChatGPT, который требовал от кенийской команды сбора изображений сексуального и насильственного характера. OpenAI сообщила Time, что эта работа необходима для того, чтобы сделать инструменты искусственного интеллекта более безопасными.
В течение нескольких недель после начала этого проекта, основанного на изображениях, тревожный характер задач побудил Sama расторгнуть все свои контракты с OpenAI, хотя Time предполагает, что это также могло быть вызвано последствиями PR из отчета по аналогичной теме, который он опубликовал. о Фейсбук примерно в то же время.
Open AI сообщил Time, что произошло «недопонимание» о характере изображений, которые он попросил Саму передать. собирать, настаивая на том, что он не просил самых экстремальных изображений и не просматривал ничего, что было отправил.
Но расторжение контрактов повлияло на средства к существованию рабочих: часть команды в Кении потеряла работу, а других перевели на менее оплачиваемые проекты.
Расследование времени предлагает неудобный, но важный взгляд на то, какую работу выполняют чат-боты на базе ИИ, которые в последнее время так взволновали технологическую индустрию.
Несмотря на преобразующую и потенциально выгодную технологию, она явно обходится человеческим жертвам и поднимает множество этических вопросов о том, как компании работают. разработке своих новых технологий и, в более широком смысле, о том, как более богатые страны продолжают отдавать на откуп менее желательные задачи более бедным странам за меньшую финансовую выгоду. расходы.
В ближайшие месяцы и годы стартапы, стоящие за этой технологией, станут объектом более пристального внимания, поэтому им стоит пересмотреть и улучшить свои методы при первой же возможности.
Digital Trends обратились к OpenAI за комментариями к отчету Time, и мы обновим эту статью, когда получим ответ.
Рекомендации редакции
- Лучшие инструменты для редактирования видео с искусственным интеллектом
- Производитель ChatGPT OpenAI столкнулся с расследованием FTC по поводу законов о защите прав потребителей
- Новая компания Илона Маска, занимающаяся искусственным интеллектом, стремится «познать вселенную»
- Посещаемость сайта ChatGPT впервые упала
- Ученые говорят, что прорывы в области искусственного интеллекта могут произойти благодаря мозгу пчел
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.
