ChatGPT є чудовим інструментом, але є темна сторона цього вдосконаленого сервісу ШІ, який може писати як експерт майже з будь-якої теми — плагіат. Коли студенти, які мають продемонструвати свої знання та розуміння теми, обманюють, таємно використовуючи ChatGPT, це робить тестування та оцінювання недійсними. Навички штучного інтелекту чудові, але це не єдиний предмет, який студенти повинні вивчати.
Подолання цієї проблеми виявилося складним. Оскільки ChatGPT навчався на величезному наборі даних людського письма, викладачеві майже неможливо визначити, чи створив есе студент чи машина. Для цього було створено декілька інструментів спробувати розпізнати письмо, створене ШІ, але точність була надто низькою, щоб бути корисною.
Рекомендовані відео
Серед зростаючого занепокоєння з боку викладачів і заборон студентам використовувати ChatGPT, Business Insider повідомляє, що OpenAI працює над вирішенням цієї проблеми. Недавній твіт Том Голдштейн, доцент кафедри машинного навчання в Університеті Меріленда, пояснив, наскільки точно може виявитися текст із водяними знаками, написаний ChatGPT.
#OpenAI планує зупинитися #ChatGPT користувачі не створювали ботів у соціальних мережах і обманювали домашнє завдання за допомогою «водяних знаків». Наскільки добре це справді може працювати? Ось лише 23 слова з водяного знака LLM з параметром 1,3B. Ми виявили це з достовірністю 99,999999999994%. Ось як 🧵 pic.twitter.com/pVC9M3qPyQ
— Том Голдштейн (@tomgoldsteincs) 25 січня 2023 р
Будь-який інструмент, який міг би виявити плагіат із майже 100% точністю, швидко вирішив би цю дискусію та зняв би будь-які проблеми. За словами Голдштейна, одним із рішень є вибір великої мовної моделі (LLM) із обмеженої словниковий запас слів, утворюючи білий список, який можна використовувати ШІ, і чорний список слів, які заборонено. Якщо у зразку з’являється неприродно велика кількість слів із білого списку, це означає, що його створив ШІ.
Цей спрощений підхід був би надто обмежувальним, оскільки важко передбачити, які слова можуть знадобитися для обговорення, якщо працювати по одному слову за раз, як це робить більшість LLM. Ґолдштейн припускає, що ChatGPT може мати можливість дивитися вперед, ніж одне слово, щоб він міг спланувати речення, яке можна заповнити словами з білого списку, але все ще мати сенс.
ChatGPT викликав великий фурор, коли він увійшов спільноти, а також може бути чудовим помічником у навчанні. Важливо запровадити штучний інтелект у школах, оскільки це, очевидно, буде важливою технологією зрозуміти в майбутньому, але це й надалі буде суперечливим, поки не буде вирішено питання про плагіат адресовані.
Рекомендації редакції
- Google Bard тепер може говорити, але чи може він заглушити ChatGPT?
- ChatGPT: останні новини, суперечки та поради, які вам потрібно знати
- Функцію перегляду Bing у ChatGPT вимкнено через помилку платного доступу
- OpenAI розкриває місцезнаходження свого першого міжнародного форпосту
- Згідно з опитуванням, 81% вважають, що ChatGPT становить загрозу безпеці
Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.
