Темная сторона ChatGPT: что он может, но не должен

Вы использовали ChatGPT от OpenAI ради чего-нибудь веселого в последнее время? Вы можете попросить его написать вам песню, стихотворение или шутку. К сожалению, вы также можете попросить его сделать что-то неэтичное.

ChatGPT — это не только солнечный свет и радуга — некоторые вещи, которые он может делать, совершенно гнусны. Слишком легко превратить его в оружие и использовать по совершенно неправильным причинам. Что ChatGPT сделал и может сделать, но определенно не должен делать?

Мастер на все руки

Любите вы их или ненавидите, ChatGPT и подобные чат-боты никуда не денутся. Некоторые люди этому рады, а некоторые желают, чтобы их никогда не создавали, но это не меняет того факта, что присутствие ChatGPT в нашей жизни со временем почти неизбежно будет расти. Даже если вы лично не пользуетесь чат-ботом, скорее всего, вы уже видели некоторый контент, созданный им.

Не поймите меня неправильно, ChatGPT — это очень здорово. Вы можете использовать его, чтобы резюмировать книгу или статью, написать утомительное электронное письмо, помочь тебе с твоим эссе, интерпретируйте свой астрологический макияжили даже сочинить песню. Это даже помог кому-то выиграть в лотерею.

Во многих отношениях его проще использовать, чем стандартный поиск Google. Вы получаете ответ в той форме, в которой хотите, без необходимости просматривать для него разные веб-сайты. Он краток, по существу и информативен, и он может сделать сложные вещи проще, если вы об этом попросите.

А ведь вы знаете фразу: «Мастер на все руки – не мастер ни в чем, но зачастую лучше, чем мастер в один." ChatGPT не идеален ни в чем, но во многих вещах он лучше, чем многие люди в этом. точка.

Однако несовершенство может быть довольно проблематичным. Тот факт, что это широко доступный диалоговый ИИ, означает, что его можно легко использовать не по назначению — и чем более мощным становится ChatGPT, тем больше вероятность того, что он поможет людям с неправильными вещами.

Партнер по мошенничеству

Если у вас есть учетная запись электронной почты, вы почти наверняка в какой-то момент получили мошенническое письмо. Вот так оно и есть. Эти электронные письма существовали в Интернете, и до того, как электронная почта стала обычным явлением, они все еще существовали как мошенничество с обычной почтой.

Распространенной аферой, которая работает и по сей день, является так называемая «афера с принцем», когда мошенник пытается убедить жертву помочь ей перевести свое ошеломляющее состояние в другую страну.

К счастью, большинство людей знают, что лучше даже не открывать эти электронные письма, не говоря уже о том, чтобы взаимодействовать с ними. Зачастую они написаны плохо, и это помогает более проницательной жертве понять, что что-то не так.

Что ж, им больше не обязательно быть плохо написанными, ведь ChatGPT может написать их за несколько секунд.

Я попросил ChatGPT написать мне «правдоподобное и очень убедительное электронное письмо» в стиле мошенничества, о котором я упоминал выше. ChatGPT выдумал принца из Нигерии, который якобы хотел дать мне 14,5 миллионов долларов за помощь ему. Письмо наполнено цветистым языком, написано на прекрасном английском языке и, безусловно, убедительно.

Не думаю, что ChatGPT вообще должен был согласиться на мою просьбу, когда я конкретно упоминаю о скаме, но так оно и было, и вы Могу поспорить, что сейчас он делает то же самое для людей, которые действительно хотят использовать эти электронные письма для чего-то незаконного.

Когда я указал ChatGPT, что он не должен соглашаться писать мне мошенническое письмо, он извинился. «Мне не следовало оказывать помощь в составлении мошеннического электронного письма, поскольку это противоречит этическим принципам, регулирующим мое использование», — сказал чат-бот.

ChatGPT учится на протяжении каждого разговора, но он явно не учится на своей предыдущей ошибке, потому что, когда я попросил его написать мне сообщение, выдавая себя за Райана Рейнольдса в том же разговоре, он сделал это без вопрос. Полученное сообщение веселое, доступное и просит читателя отправить 1000 долларов за шанс встретиться с «Райаном Рейнольдсом».

В конце письма ChatGPT оставил мне записку с просьбой не использовать это сообщение для каких-либо мошеннических действий. Спасибо за напоминание, приятель.

Программирование пошло не так

ChatGPT 3.5 может кодировать, но он далеко не безупречен. Многие разработчики согласны с тем, что ГПТ-4 делает свою работу гораздо лучше. Люди использовали ChatGPT для создания собственных игр, расширений и приложений. Он также очень полезен в качестве помощника в учебе, если вы пытаетесь научиться программировать самостоятельно.

Будучи искусственным интеллектом, ChatGPT имеет преимущество перед разработчиками-людьми — он может изучить любой язык программирования и структуру.

Как ИИ, ChatGPT также имеет серьезный недостаток по сравнению с разработчиками-людьми — у него нет совести. Вы можете попросить его создать вредоносное ПО или программу-вымогатель, и если вы правильно сформулируете запрос, он сделает то, что вы скажете.

К счастью, это не так просто. Я пытался попросить ChatGPT написать мне очень сомнительную с этической точки зрения программу, но он отказался — но исследователи нашли обходные пути. это, и настораживает то, что если вы достаточно умны и упрямы, вам могут вручить опасный фрагмент кода на серебряной монете. блюдо.

Есть множество примеров того, как это происходит. Исследователь безопасности из Forcepoint смог заставить ChatGPT писать вредоносное ПО найдя лазейку в его подсказках.

Исследователи из КиберАрк, компании по обеспечению безопасности личных данных, удалось заставить ChatGPT писать полиморфное вредоносное ПО. Это было в январе — с тех пор OpenAI усилила безопасность подобных вещей.

Тем не менее, продолжают появляться новые сообщения об использовании ChatGPT для создания вредоносного ПО. Как сообщает Темное чтение Всего несколько дней назад исследователь смог обманом заставить ChatGPT создать вредоносное ПО, способное находить и удалять определенные документы.

ChatGPT даже не нужно писать вредоносный код, чтобы сделать что-то сомнительное. Совсем недавно удалось генерировать действительные ключи Windows, открывая дверь на совершенно новый уровень взлома программного обеспечения.

Давайте также не будем замалчивать тот факт, что мастерство кодирования GPT-4 может лишить миллионы людей работы один день. Это, конечно, палка о двух концах.

Замена школьным занятиям

Многие дети и подростки в наши дни тонут в выполнении домашних заданий, что может привести к желанию срезать углы, где это возможно. Интернет сам по себе уже является отличным средством борьбы с плагиатом, но ChatGPT выводит его на новый уровень.

Я попросил ChatGPT написать мне эссе на 500 слов по роману. Гордость и предубеждение. Я даже не пыталась делать вид, что это было сделано для развлечения — я придумала историю о ребенке, которого у меня нет, и сказала, что это для них. Я уточнил, что ребенок учится в 12 классе.

ChatGPT без вопросов последовал моему запросу. Эссе не является выдающимся, но моя подсказка была не очень точной и, вероятно, лучше, чем то, что многие из нас писали в том возрасте.

Затем, просто чтобы еще больше протестировать чат-бота, я сказал, что раньше ошибался насчет возраста моего ребенка, и на самом деле он учится в восьмом классе. Довольно большая разница в возрасте, но ChatGPT даже глазом не моргнул — просто переписал эссе более простым языком.

Использование ChatGPT для написания эссе не является чем-то новым. Некоторые могут возразить, что если чат-бот будет способствовать отмене идеи домашнего задания, это будет только хорошо. Но сейчас ситуация немного выходит из-под контроля, и от этого могут пострадать даже студенты, которые не используют ChatGPT.

Учителя и профессора теперь почти вынуждены использовать детекторы искусственного интеллекта, если хотят проверить, не списывали ли их ученики при написании эссе. К сожалению, эти детекторы искусственного интеллекта далеки от совершенства.

Новостные агентства и родители сообщают о случаях ложных обвинений в мошенничестве в адрес учащихся, и все потому, что детекторы искусственного интеллекта не справляются со своей задачей. США сегодня рассказал о случае со студентом колледжа, которого обвинили в мошенничестве, а затем оправдали, но вся эта ситуация вызвала у него «полномасштабные приступы паники».

В Твиттере родитель сообщил, что учитель не справился с заданием своего ребенка, потому что инструмент пометил эссе как написанное искусственным интеллектом. Родитель утверждает, что находился рядом с ребенком, пока он писал сочинение.

Чтобы самому проверить, я вставил эту самую статью в НольGPT и Детектор контента с искусственным интеллектом для писателей. Оба заявили, что он был написан человеком, но ZeroGPT заявил, что около 30% текста было написано ИИ. Излишне говорить, что это было не так.

Неисправные детекторы искусственного интеллекта не являются признаком проблем с самим ChatGPT, но чат-бот по-прежнему является основной причиной проблемы.

ChatGPT слишком хорош сам по себе

Я играю с ChatGPT с тех пор, как он стал общедоступным. Я пробовал оба варианта на основе подписки ЧатGPT Plus и бесплатная модель, доступная каждому. Мощь нового GPT-4 неоспорима. ChatGPT теперь стал еще более правдоподобным, чем раньше, и с появлением ГПТ-5 (если это когда-нибудь выйдет).

Это здорово, но это страшно. ChatGPT становится слишком хорош для его же блага, и одновременно — для наш собственного блага.

В основе всего этого лежит одна простая проблема, которая уже давно рассматривается в различных научно-фантастических фильмах: ИИ слишком умный и слишком тупой одновременно, и пока его можно использовать во благо, в столь же многих случаях его будут использовать и во зло. способы. Способы, которые я перечислил выше, — это лишь верхушка айсберга.

Рекомендации редакции

• Ведущие авторы требуют от компаний, занимающихся искусственным интеллектом, оплату за использование их работ
• Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
• Трафик сайта ChatGPT впервые упал
• По данным опроса, 81% считают ChatGPT угрозой безопасности
• Конкурент Apple ChatGPT может автоматически писать для вас код