ChatGPT еще не настолько умен, чтобы находить собственные недостатки, поэтому его создатель обращается за помощью к людям.
Во вторник OpenAI представила программу вознаграждения за обнаружение ошибок, призывающую людей находить и сообщать об уязвимостях и ошибках в своих системах искусственного интеллекта, таких как ЧатGPT и ГПТ-4.
Рекомендуемые видео
В Почта На своем веб-сайте с изложением подробностей программы OpenAI сообщила, что вознаграждение за отчеты будет варьироваться от 200 долларов за результаты с низкой серьезностью до 20 000 долларов за то, что они назвали «исключительными открытиями».
Компания, поддерживаемая Microsoft, заявила, что ее цель — создать системы искусственного интеллекта, которые «принесут пользу всем». добавив: «С этой целью мы вкладываем значительные средства в исследования и разработку, чтобы обеспечить безопасность и безопасность наших систем ИИ. безопасный. Однако, как и в случае с любой сложной технологией, мы понимаем, что могут возникнуть уязвимости и недостатки».
Обращаясь к исследователям безопасности, заинтересованным в участии в программе, OpenAI заявила, что признает «критическую важность безопасности и рассматривает ее как совместную работу. Поделившись своими выводами, вы сыграете решающую роль в том, чтобы сделать наши технологии более безопасными для всех».
Поскольку все больше и больше людей используют ChatGPT и другие продукты OpenAI, компания стремится быстро отслеживать любые потенциальные проблемы для обеспечения бесперебойной работы систем и предотвращения использования каких-либо слабых мест в гнусных целях. целей. Поэтому OpenAI надеется, что, взаимодействуя с техническим сообществом, он сможет решить любые проблемы до того, как они станут более серьезными проблемами.
Калифорнийская компания уже успела напугать где изъян обнажил заголовки разговоров некоторых пользователей, когда они должны были оставаться приватными.
Сэм Альтман, генеральный директор OpenAI, сказал после инцидента в прошлом месяце, что он считает нарушение конфиденциальности «серьезной проблемой», добавив: «Мы ужасно переживаем из-за этого». Теперь это исправлено.
Ошибка стала еще большей проблемой для OpenAI, когда Италия выразила серьезную обеспокоенность из-за нарушения конфиденциальности и решил заблокировать ChatGPT, пока он проводит тщательное расследование. Итальянские власти также требуют подробностей о мерах, которые OpenAI намеревается предпринять, чтобы предотвратить повторение подобного.
Рекомендации редакции
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- ChatGPT: последние новости, споры и советы, которые вам нужно знать
- Функция просмотра Bing в ChatGPT отключена из-за уязвимости платного доступа
- 81% считают, что ChatGPT представляет угрозу безопасности, согласно опросу
- Конкурент Apple ChatGPT может автоматически писать код для вас
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.
