Безопасен ли ChatGPT? Вот риски, которые следует учитывать

Нет сомнений, что ЧатGPT является революционным шагом вперед в полезности и потенциале любого компьютера или смартфона, подключенного к Интернету, но безопасно ли его использовать?

Есть некоторые серьезные опасения по поводу общей эволюции генеративного ИИ. технологические лидеры даже призывают к паузе в разработке. Но для человека безопасность — понятие относительное, особенно когда речь идет об инструментах. Итак, вот все, что нужно учитывать, прежде чем прыгать.

Конфиденциальность и финансовые утечки

По крайней мере, в одном случае история чата между пользователями была перепутана. 20 марта 2023 года создатель ChatGPT OpenAI обнаружил проблему, и ChatGPT не работал несколько часов. Примерно в то же время несколько пользователей ChatGPT видели историю разговоров других людей, а не свою собственную. Возможно, более тревожной была новость о том, что информация о платежах от подписчиков ChatGPT-Plus также могла просочиться.

OpenAI опубликовал отчет об инциденте и исправил ошибку, вызвавшую проблему. Это не значит, что в будущем не возникнет новых проблем. С любым онлайн-сервисом существует риск случайных утечек, подобных этой, и нарушений кибербезопасности со стороны растущей армии хакеров.

Политика конфиденциальности OpenAI

В соответствии с политикой конфиденциальности OpenAI ваши контактные данные, история транзакций, сетевая активность, контент, местоположение и логин учетные данные могут быть переданы аффилированным лицам, поставщикам и поставщикам услуг, правоохранительным органам и сторонам, участвующим в транзакции.

В некоторых случаях это неизбежно. OpenAI может использовать сторонние платежные системы, так что этого следовало ожидать. Компания должна соблюдать любые юридические обязательства, и некоторые из этих данных могут быть использованы для исследований.

Даже когда сбор данных легко оправдать, возможность неправомерного использования и утечек является серьезной проблемой безопасности. OpenAI Часто задаваемые вопросы о ChatGPT предлагает вам не делиться конфиденциальной информацией и предупреждает, что подсказки не могут быть удалены.

ChatGPT как инструмент для взлома

Что касается кибербезопасности, некоторые эксперты обеспокоены Потенциальное использование ChatGPT в качестве хакерского инструмента. Понятно, что продвинутый чат-бот может помочь любому написать очень официально звучащий документ, а ChatGPT можно использовать для создания убедительной фишинговой аферы по электронной почте.

ИИ также является хорошим учителем, позволяя легко осваивать новые навыки с помощью ChatGPT, возможно, даже опасные навыки программирования и информацию о сетевой инфраструктуре. Сочетание ChatGPT и даркнет-форумов может привести к многочисленным и новым атакам, которые бросят вызов и без того растянутым ресурсам исследователей кибербезопасности.

Например, кто-то в Твиттере опубликовал пример того, как GPT-4 попросили написать инструкции по взлому компьютера, и в нем были приведены ужасающие подробности.

ChatGPT может писать код на основе запросов на простом английском языке, позволяя любому создать программу. С новая функция плагинов ChatGPT, ИИ может даже запускать самостоятельно сгенерированный код.

OpenAI изолировал эту возможность для предотвращения опасного использования, но мы уже видели пример Взлом API GPT-3 OpenAI. OpenAI должен быть очень осторожен с безопасностью, поскольку функция подключаемого модуля и доступ в Интернет доступны большему количеству людей.

ChatGPT и безопасность труда

ChatGPT беспокоит учителей так как это делает плагиат невероятно легким. OpenAI обучил своего чат-бота той информации, которую студенты должны знать для написания эссе, в качестве доказательства того, что они изучили предмет.

Хотя это не является проблемой безопасности, преподаватели также должны знать, что ChatGPT может обучать студентов по широкому кругу тем, обеспечивая внимание один на один и мгновенные ответы на вопросы. В будущем искусственный интеллект может быть призван помогать обучать студентов в переполненных классах или помогать с репетиторством.

Для авторов ChatGPT может показаться угрожающим. За считанные секунды он может генерировать тысячи слов. Та же задача требует часов работы от человека, даже профессионального писателя.

На данный момент еще достаточно ошибок, чтобы сделать его более полезным в качестве исследовательского или письменного инструмента, чем в качестве замены для авторов. Если проблемы с точностью решены, ИИ может начать занимать рабочие места.

ChatGPT имеет огромное количество применений, и каждый день обнаруживаются новые. Помимо общения и обучения, ChatGPT может даже анализировать фотографию нарисованного от руки приложения и писать программу для его создания. показано в демонстрации OpenAI новых возможностей ГПТ-4.

Мошенничество с ChatGPT

Это не вина OpenAI, но побочным эффектом любой захватывающей новой технологии является всплеск мошеннических действий, которые обещают более широкий доступ или новые функции. Поскольку доступ к ChatGPT по-прежнему ограничен и иногда работает медленно, существует большой спрос на дополнительные возможности ChatGPT.

Каждое новое обновление предоставляет расширенные возможности, некоторые из которых требуют членства и имеют ограниченную доступность. Пыл ChatGPT создает благодатную почву для мошенничества. Трудно отказаться от предложений бесплатного неограниченного доступа на самой высокой скорости и с лучшими новыми функциями.

К сожалению, старая поговорка все еще актуальна — если это звучит слишком хорошо, чтобы быть правдой, возможно, так оно и есть. Будьте осторожны с предложениями ChatGPT, которые приходят по электронной почте или в социальных сетях. Лучше проверять новости в доверенных СМИ или напрямую обращаться к OpenAI, чтобы подтвердить любые приглашения или сделки, которые кажутся сомнительными.

ChatGPT одновременно мощный и ужасающий. Как один из первых примеров общедоступного ИИ с хорошими языковыми навыками, его проблемы и успехи должны послужить тревожным звонком для всех. Важно соблюдать осторожность с новой технологией искусственного интеллекта. Слишком легко увлечься волнением и забыть, что вы имеете дело с онлайн-сервисом, который можно взломать или использовать не по назначению.

Медленный и устойчивый выигрывает гонки

OpenAI осознает необходимость действовать медленнее, поскольку ChatGPT приобретает больше навыков и доступа в Интернет. Слишком поспешные действия могут привести к отрицательной реакции и потенциальному бремени регулирования.

Рекомендации редакции

• Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
• ChatGPT: последние новости, споры и советы, которые вам нужно знать
• Функция просмотра Bing в ChatGPT отключена из-за уязвимости платного доступа
• 81% считают, что ChatGPT представляет угрозу безопасности, согласно опросу
• Конкурент Apple ChatGPT может автоматически писать код для вас

Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.