Новая угроза появилась в ЧатGPT сага о том, что киберпреступники разработали способ взломать чат-бота с искусственным интеллектом и заразить его вредоносными командами.
исследовательская фирма Checkpoint обнаружил, что хакеры разработали ботов, которые могут проникнуть в API GPT-3 OpenAI и изменить его код таким образом. что он может генерировать вредоносный контент, например текст, который можно использовать для фишинговых писем и вредоносных программ. сценарии.
Боты работают через приложение для обмена сообщениями Telegram. По словам злоумышленников, злоумышленники используют ботов для установки темной версии ChatGPT без ограничений. Арс Техника.
Рекомендуемые видео
В ChatGPT есть кнопки «палец вверх» и «палец вниз», которые ты можешь нажать как часть своего алгоритма обучения, если он генерирует контент, который можно считать оскорбительным или неприемлемым. Обычно такие входные данные, как создание вредоносного кода или фишинговые электронные письма, запрещены, а ChatGPT отказывается давать ответ.
Цена этой гнусной альтернативы чат-боту составляет 6 долларов за каждые 100 запросов, а хакеры, стоящие за ней, также дают советы и примеры плохого контента, который вы можете создать с помощью этой версии. Хакеры также выложили скрипт на GitHub. Сценарий OpenAI на основе API позволяет пользователям подделывать компанию или человека, а также генерировать фишинговые электронные письма с помощью команд генерации текста. Боты также могут помочь вам подобрать идеальное место для фишинговой ссылки в электронном письме. ПК-геймер.
Трудно сказать, какую угрозу это развитие будет представлять для генераторов текста ИИ, вперед, особенно с учетом того, что крупные компании уже готовы работать с этим все более популярным технологии. Microsoft Bing скоро добавится Поддержка ChatGPT в свой браузер в предстоящем обновлении в рамках его постоянное сотрудничество с OpenAI, например.
Хотя ChatGPT в обозримом будущем останется бесплатным, за вычетом приоритета Подписка на ЧатGPT Plus, это не первый раз, когда генератор текста AI становится жертвой мошенников. В январе появились новости о том, что тысячи людей были обмануты. после оплаты iOS и Андроид версии мобильных приложений чат-бота, который в настоящее время представляет собой браузерную службу.
Версия для Apple App Store пользовалась особой популярностью, несмотря на стоимость еженедельной подписки в 8 долларов после трехдневного пробного периода. Пользователи также имели возможность платить ежемесячную подписку в размере 50 долларов, что, в частности, было даже дороже, чем еженедельная стоимость. В конечном итоге приложение было удалено из магазина Apple после того, как оно привлекло внимание средств массовой информации.
ChatGPT, безусловно, является основной мишенью для мошенников, поскольку его популярность выросла, но еще неизвестно, воспользуются ли злоумышленники в конечном итоге одним из многих Альтернативы ChatGPT циркулирующий.
Рекомендации редакции
- Вот почему люди думают, что GPT-4 со временем может стать тупее
- ChatGPT: последние новости, противоречия и советы, которые вам нужно знать
- Что такое запрос DAN для ChatGPT?
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- Производитель ChatGPT OpenAI сталкивается с расследованием Федеральной торговой комиссии по поводу законов о защите прав потребителей
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
