Тъмната страна на ChatGPT: неща, които може да прави, но не трябва

Използвали ли сте ChatGPT на OpenAI за нещо забавно напоследък? Можете да го помолите да ви напише песен, стихотворение или виц. За съжаление можете също да го помолите да прави неща, които са склонни да бъдат неетични.

ChatGPT не е само слънце и дъга — някои от нещата, които може да направи, са направо престъпни. Твърде лесно е да го превърнете в оръжие и да го използвате по всички грешни причини. Кои са някои от нещата, които ChatGPT е направил и може да прави, но определено не трябва?

Майстор на всички сделки

Независимо дали ги обичате или ги мразите, ChatGPT и подобни чатботове са тук, за да останат. Някои хора са доволни от това, а други искат никога да не са били създавани, но това не променя факта, че присъствието на ChatGPT в живота ни е почти обвързано да нараства с времето. Дори и вие лично да не използвате чатбота, има вероятност вече да сте виждали съдържание, генерирано от него.

Не ме разбирайте погрешно, ChatGPT е страхотен. Можете да го използвате за обобщете книга или статия, изработете досаден имейл, да ви помогне с вашето есе, интерпретирайте вашия астрологичен грим, или дори да композирате песен. Това дори помогна на някой да спечели от лотарията.

В много отношения също е по-лесен за използване от стандартното ви търсене в Google. Получавате отговора във формата, в която искате, без да е необходимо да преглеждате различни уебсайтове за него. Той е кратък, точен и информативен и може да направи сложните неща да звучат по-просто, ако го помолите.

Все пак знаете фразата: „Вашият занаят не е майстор на нищо, но често е по-добър от майстор на един.” ChatGPT не е перфектен в нищо, което прави, но е по-добър в много неща, отколкото много хора са в това точка.

Да не си перфектен обаче може да бъде доста проблематично. Самият факт, че това е широко разпространен AI за разговори, означава, че лесно може да бъде злоупотребен – и колкото по-мощен става ChatGPT, толкова по-вероятно е да помогне на хората с грешните неща.

Партньор в измама

Ако имате имейл акаунт, почти сигурно сте получили измамнически имейл в един момент. Просто така стоят нещата. Тези имейли съществуват от времето на интернет и преди имейлите да станат често срещани, те все още съществуваха като измами по пощата.

Често срещана измама, която все още работи и до днес, е така наречената „измама с принца“, при която измамникът се опитва да убеди жертвата да им помогне да прехвърлят умопомрачителното си състояние в друга държава.

За щастие, повечето хора знаят, че дори не трябва да отварят тези имейли, камо ли да взаимодействат с тях. Те често са лошо написани и това помага на по-проницателната жертва да разбере, че нещо не изглежда нередно.

Е, вече не е нужно да са лошо написани, защото ChatGPT може да ги напише за няколко секунди.

Помолих ChatGPT да ми напише „правдоподобен, силно убедителен имейл“ в стила на измамата, която споменах по-горе. ChatGPT измисли принц от Нигерия, който уж искаше да ми даде 14,5 милиона долара, за да му помогна. Имейлът е изпълнен с цветист език, написан е на перфектен английски и определено е убедителен.

Не мисля, че ChatGPT дори трябва да се съгласи с молбата ми, когато конкретно споменавам измами, но се съгласи и вие мога да се обзаложа, че прави същото в момента за хора, които действително искат да използват тези имейли за нещо незаконно.

Когато посочих на ChatGPT, че не трябва да се съгласява да ми пише измамнически имейл, той се извини. „Не трябваше да оказвам помощ при изготвянето на измамнически имейл, тъй като това противоречи на етичните насоки, които управляват използването ми“, каза чатботът.

ChatGPT се учи през всеки разговор, но очевидно не се е поучил от предишната си грешка, защото когато аз го помолих да ми напише съобщение, представяйки се за Райън Рейнолдс в същия разговор, но го направи без въпрос. Полученото съобщение е забавно, достъпно и моли читателя да изпрати 1000 долара за шанс да се срещне с „Райън Рейнолдс“.

В края на имейла ChatGPT ми остави бележка, в която ме моли да не използвам това съобщение за каквито и да е измамни дейности. Благодаря за напомнянето, приятел.

Програмирането се обърка

ChatGPT 3.5 може да кодира, но далеч не е безупречен. Много разработчици са съгласни с това GPT-4 върши много по-добра работа. Хората са използвали ChatGPT, за да създават свои собствени игри, разширения и приложения. Също така е доста полезно като помощник в обучението, ако се опитвате да се научите как да кодирате сами.

Като AI, ChatGPT има предимство пред човешките разработчици — той може да научи всеки програмен език и рамка.

Като изкуствен интелект, ChatGPT също има голям недостатък в сравнение с човешките разработчици - той няма съвест. Можете да го помолите да създаде злонамерен софтуер или рансъмуер и ако формулирате подканата си правилно, той ще направи това, което казвате.

За щастие не е толкова просто. Опитах се да помоля ChatGPT да ми напише много етично съмнителна програма и тя отказа - но изследователите намират начини това и е тревожно, че ако сте достатъчно умен и упорит, можете да получите опасно парче код на сребърен плато.

Има много примери за това. Изследовател по сигурността от Forcepoint успя вземете ChatGPT за писане на зловреден софтуер като намери вратичка в подканите му.

Изследователи от CyberArk, компания за сигурност на самоличността, успя да накара ChatGPT да пише полиморфен зловреден софтуер. Това беше през януари - оттогава OpenAI затегна сигурността за неща като това.

Все пак продължават да се появяват нови доклади за използване на ChatGPT за създаване на зловреден софтуер. Както съобщиха от Тъмно четене само преди няколко дни изследовател успя да подмами ChatGPT да създаде злонамерен софтуер, който може да намери и ексфилтрира конкретни документи.

ChatGPT дори не трябва да пише злонамерен код, за да направи нещо съмнително. Съвсем наскоро успя генерирайте валидни Windows ключове, отваряйки вратата към изцяло ново ниво на софтуер за кракване.

Нека също така не замазваме факта, че кодиращата мощ на GPT-4 може остави милиони хора без работа един ден. Това със сигурност е нож с две остриета.

Замяна на училищна работа

Много деца и тийнейджъри в днешно време се давят в домашните, което може да доведе до желание да изрежат някои ъгли, където е възможно. Интернет сам по себе си вече е чудесна помощ при плагиатство, но ChatGPT го извежда на следващото ниво.

Помолих ChatGPT да ми напише есе от 500 думи за романа Гордост и предразсъдъци. Дори не се опитах да се преструвам, че е направено за забавление - измислих история за дете, което нямам, и казах, че е за тях. Уточних, че детето е 12 клас.

ChatGPT последва подканата ми без въпроси. Есето не е невероятно, но подканата ми не беше много точна и вероятно е по-добра от нещата, които много от нас са писали на тази възраст.

След това, само за да тествам още повече чатбота, казах, че съм грешал за възрастта на детето си по-рано и то всъщност е в осми клас. Доста голяма възрастова разлика, но ChatGPT дори не мигна окото - той просто пренаписа есето на по-прост език.

Използването на ChatGPT за писане на есета не е нищо ново. Някои може да възразят, че ако чатботът допринесе за премахването на идеята за домашна работа, това ще бъде само нещо добро. Но в момента ситуацията малко излиза извън контрол и дори ученици, които не използват ChatGPT, могат да пострадат от това.

Учителите и професорите вече са почти принудени да използват AI детектори, ако искат да проверят дали техните студенти са изневерили на есе. За съжаление, тези AI детектори далеч не са перфектни.

Новинарските издания и родителите съобщават за случаи на фалшиви обвинения в измама, насочени към учениците, всичко това защото AI детекторите не вършат добра работа. САЩ днес говори за случай на студент, който беше обвинен в измама и по-късно освободен, но цялата ситуация го накара да получи „пълноценни пристъпи на паника“.

В Twitter родител каза, че учител е провалил детето им, защото инструментът маркира есе като написано от AI. Родителят твърди, че е бил там с детето, докато са писали есето.

Само за да го тествам сам, поставих тази статия в ZeroGPT и Writer AI детектор на съдържание. И двамата казаха, че е написано от човек, но ZeroGPT каза, че около 30% от него е написано от AI. Излишно е да казвам, че не беше.

Дефектните AI детектори не са знак за проблеми със самия ChatGPT, но чатботът все още е основната причина за проблема.

ChatGPT е твърде добър за собственото си добро

Играя с ChatGPT откакто се появи на обществеността. Пробвах и двете базирани на абонамент ChatGPT Plus и безплатния модел, достъпен за всички. Силата на новия GPT-4 е неоспорима. ChatGPT вече е още по-правдоподобен, отколкото беше преди, и ще се подобрява само с него GPT-5 (ако това някога излезе).

Страхотно е, но е страшно. ChatGPT става твърде добър за собственото си добро и същевременно — за нашият собствено добро.

В основата на всичко това се крие едно просто притеснение, което отдавна е изследвано в различни научнофантастични филми – AI просто е твърде умен и твърде тъп в същото време, и докато може да се използва за добро, ще бъде използван и за лошо в точно толкова много начини. Начините, които изброих по-горе, са само върхът на айсберга.

Препоръки на редакторите

• Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
• Google Bard вече може да говори, но може ли да заглуши ChatGPT?
• Трафикът на уебсайта на ChatGPT е спаднал за първи път
• 81% смятат, че ChatGPT е риск за сигурността, установи проучване
• Съперникът на Apple ChatGPT може автоматично да напише код вместо вас