Темна сторона ChatGPT: що він може робити, але не повинен

Ви використовували ChatGPT від OpenAI за щось веселе останнім часом? Ви можете попросити його написати вам пісню, вірш або жарт. На жаль, ви також можете попросити його робити вчинки, які є неетичними.

ChatGPT — це не просто сонце та веселка — деякі речі, які він може робити, відверто мерзенні. Занадто легко перетворити його на озброєння та використати не для тих причин. Що ChatGPT робив і може робити, але точно не повинен робити?

Майстер на всі руки

Незалежно від того, любите ви їх чи ненавидите, ChatGPT і подібні чат-боти завжди тут. Деякі люди радіють цьому, а деякі бажають, щоб їх ніколи не створювали, але це не змінює того факту, що присутність ChatGPT у нашому житті майже обов’язково зростатиме з часом. Навіть якщо ви особисто не користуєтеся чат-ботом, швидше за все, ви вже бачили якийсь контент, створений ним.

Не зрозумійте мене неправильно, ChatGPT — це чудово. Ви можете використовувати його для конспектувати книгу чи статтю, створити нудний електронний лист, допомогти вам з вашим есе, інтерпретувати свій астрологічний складабо навіть скласти пісню. Це навіть допоміг комусь виграти в лотерею.

У багатьох відношеннях його також легше використовувати, ніж стандартний пошук Google. Ви отримуєте відповідь у потрібній формі, не шукаючи її на різних веб-сайтах. Він стислий, по суті та інформативний, і він може спростити складні речі, якщо ви це попросите.

І все-таки ви знаєте фразу: «Майстер на всі руки — ні в чому не майстер, але часто кращий, ніж у один». ChatGPT ні в чому не ідеальний, але в багатьох речах він кращий, ніж багато людей. точка.

Однак бути неідеальним може бути досить проблематично. Сам факт того, що це широкодоступний розмовний штучний інтелект, означає, що ним можна легко зловживати — і чим потужнішим стає ChatGPT, тим більша ймовірність, що він допоможе людям у неправильних речах.

Партнер в афері

Якщо у вас є обліковий запис електронної пошти, ви майже напевно колись отримували шахрайський електронний лист. Це просто так. Ці електронні листи існували в Інтернеті, і до того, як електронна пошта стала поширеною, вони все ще існували як шахрайство через поштову скриньку.

Поширеним шахрайством, яке діє й донині, є так зване «шахрайство принца», коли шахрай намагається переконати жертву допомогти їй перевести свій приголомшливий стан до іншої країни.

На щастя, більшість людей знають, що не варто навіть відкривати ці електронні листи, не кажучи вже про те, щоб реально з ними взаємодіяти. Вони часто написані погано, і це допомагає більш проникливій жертві зрозуміти, що щось виглядає не так.

Добре, вони більше не повинні бути погано написані, тому що ChatGPT може написати їх за кілька секунд.

Я попросив ChatGPT написати мені «правдоподібний, дуже переконливий електронний лист» у стилі шахрайства, про яке я згадував вище. ChatGPT вигадав принца з Нігерії, який нібито хотів дати мені 14,5 мільйонів доларів за допомогу йому. Електронний лист наповнений квітучою мовою, написаний ідеальною англійською мовою, і він, безумовно, переконливий.

Я не думаю, що ChatGPT повинен навіть погодитися на мій запит, коли я конкретно згадую про шахрайство, але він погодився, і ви Можна посперечатися, що зараз він робить те саме для людей, які дійсно хочуть використовувати ці електронні листи для чогось незаконного.

Коли я сказав ChatGPT, що він не повинен погоджуватися написати мені шахрайський електронний лист, він вибачився. «Я не повинен був надавати допомогу у створенні електронного листа для шахраїв, оскільки це суперечить етичним принципам, які регулюють моє використання», — сказав чат-бот.

ChatGPT вчиться протягом кожної розмови, але він явно не вчився на своїй попередній помилці, тому що коли я попросив його написати мені повідомлення, видаючи себе за Райана Рейнольдса в тій самій розмові, але він зробив це без запитання. Отримане повідомлення веселе, доступне та просить читача надіслати 1000 доларів за можливість зустрітися з «Райаном Рейнольдсом».

Наприкінці електронного листа ChatGPT залишив мені записку з проханням не використовувати це повідомлення для будь-яких шахрайських дій. Дякую за нагадування, друже.

Програмування пішло не так

ChatGPT 3.5 може кодувати, але він далеко не бездоганний. Багато розробників погоджуються з цим ГПТ-4 робить набагато краще роботу. Люди використовували ChatGPT для створення власних ігор, розширень і програм. Це також дуже корисно як помічник у навчанні, якщо ви намагаєтеся самостійно навчитися кодувати.

Будучи штучним інтелектом, ChatGPT має перевагу над людьми-розробниками — він може вивчити будь-яку мову програмування та фреймворк.

Як штучний інтелект ChatGPT також має серйозний недолік порівняно з розробниками-людьми — він не має совісті. Ви можете попросити його створити зловмисне програмне забезпечення або програму-вимагач, і якщо ви правильно сформулюєте свій запит, він зробить так, як ви скажете.

На щастя, це не так просто. Я намагався попросити ChatGPT написати для мене дуже етично сумнівну програму, але він відмовився, але дослідники знайшли способи обійти це, і тривожно те, що якщо ви достатньо розумні та вперті, вам можуть вручити небезпечний фрагмент коду на срібній блюдо.

Є багато прикладів цього. Дослідник безпеки з Forcepoint зміг отримати ChatGPT для написання шкідливих програм знайшовши лазівку в його підказках.

Дослідники с CyberArk, компанії із захисту ідентифікаційної інформації, вдалося змусити ChatGPT писати поліморфні шкідливі програми. Це було в січні — OpenAI посилив захист таких речей.

Тим не менш, продовжують з’являтися нові звіти про те, що ChatGPT використовується для створення шкідливих програм. Як повідомляє Темне читання Лише кілька днів тому досліднику вдалося обманом змусити ChatGPT створити зловмисне програмне забезпечення, яке може знаходити та викрадати певні документи.

ChatGPT навіть не потрібно писати шкідливий код, щоб зробити щось сумнівне. Зовсім недавно це вдалося створити дійсні ключі Windows, відкриваючи двері на абсолютно новий рівень злому програмного забезпечення.

Давайте також не замовчувати той факт, що майстерність кодування GPT-4 може позбавити роботи мільйони людей одного дня. Це, безумовно, палиця з двома кінцями.

Заміна шкільних завдань

Багато дітей і підлітків сьогодні потонули в домашніх завданнях, що може призвести до бажання зрізати деякі кути, де це можливо. Інтернет сам по собі вже є чудовим помічником у плагіаті, але ChatGPT виводить це на новий рівень.

Я попросив ChatGPT написати мені есе на 500 слів про роман Гордість і упередження. Я навіть не намагався вдавати, що це зроблено заради розваги — я вигадав історію про дитину, якої в мене немає, і сказав, що це для них. Я уточнив, що дитина в 12 класі.

ChatGPT виконав мою підказку без питань. Есе не дивовижне, але моя підказка була не дуже точною, і це, мабуть, краще, ніж те, що багато хто з нас писав у тому віці.

Потім, щоб ще більше перевірити чат-бота, я сказав, що помилявся щодо віку моєї дитини раніше, і насправді вони навчаються у восьмому класі. Досить велика різниця у віці, але ChatGPT навіть не моргнув оком — він просто переписав есе простішою мовою.

Використання ChatGPT для написання есе не є чимось новим. Дехто може заперечити, що якщо чат-бот допоможе скасувати ідею домашніх завдань, це буде лише добре. Але зараз ситуація виходить з-під контролю, і навіть студенти, які не використовують ChatGPT, можуть постраждати від цього.

Вчителі та викладачі тепер майже змушені використовувати детектори штучного інтелекту, щоб перевірити, чи не списували їхні студенти есе. На жаль, ці детектори ШІ далекі від досконалості.

ЗМІ та батьки повідомляють про випадки неправдивих звинувачень у шахрайстві проти учнів через те, що детектори штучного інтелекту погано працюють. США сьогодні розповідав про випадок зі студентом коледжу, якого звинуватили в шахрайстві та пізніше виправдали, але вся ситуація спричинила у нього «повномасштабні напади паніки».

У Twitter один з батьків сказав, що вчитель підвів їхню дитину, оскільки інструмент позначив твір як написаний ШІ. Батьки стверджують, що були там з дитиною, коли вони писали твір.

Просто щоб перевірити це на собі, я вставив цю саму статтю в ZeroGPT і Детектор вмісту Writer AI. Обидва сказали, що це була написана людиною, але ZeroGPT сказав, що близько 30% цього було написано ШІ. Зайве говорити, що це не так.

Несправні детектори штучного інтелекту не є ознакою проблем із самим ChatGPT, але чат-бот усе ще є основною причиною проблеми.

ChatGPT занадто хороший для власного блага

Я граю з ChatGPT відтоді, як він став доступним для громадськості. Я спробував обидва на основі підписки ChatGPT Plus і безкоштовна модель, доступна кожному. Потужність нового GPT-4 незаперечна. ChatGPT тепер ще більш правдоподібний, ніж був раніше, і він стане лише кращим ГПТ-5 (якщо це колись стане відомо).

Це чудово, але це страшно. ChatGPT стає надто хорошим для власного блага, і водночас — для наш власне добро.

В основі всього цього лежить одне просте занепокоєння, яке давно досліджували в різних науково-фантастичних фільмах — штучний інтелект просто занадто розумний і надто тупий водночас, і поки його можна використовувати для добра, він також буде використовуватися для зла в стільки ж шляхи. Способи, які я перерахував вище, це лише верхівка айсберга.

Рекомендації редакції

• Найпопулярніші автори вимагають від фірм штучного інтелекту плату за використання їхніх робіт
• Google Bard тепер може говорити, але чи може він заглушити ChatGPT?
• Трафік веб-сайту ChatGPT впав вперше
• Згідно з опитуванням, 81% вважають, що ChatGPT становить загрозу безпеці
• Конкурент Apple ChatGPT може автоматично написати код для вас