ЧатGPT — замечательный инструмент, но у этого продвинутого сервиса ИИ, который может писать как эксперт практически по любой теме, есть темная сторона — плагиат. Когда учащиеся, которые должны демонстрировать свои знания и понимание темы, обманывают, тайно используя ChatGPT, это делает тестирование и оценку недействительными. Навыки искусственного интеллекта — это здорово, но это не единственный предмет, который должны изучать студенты.
Решить эту проблему оказалось непросто. Поскольку ChatGPT был обучен на обширном наборе данных человеческого письма, преподавателю почти невозможно определить, было ли эссе создано студентом или машиной. Было создано несколько инструментов, которые попытаться распознать письмо, созданное ИИ, но точность была слишком низкой, чтобы быть полезной.
Рекомендуемые видео
На фоне растущих опасений со стороны преподавателей и запретов на использование учащимися ChatGPT, Бизнес-инсайдер сообщает, что OpenAI работает над решением этой проблемы. Недавний твит от Тома Гольдштейна, доцента машинного обучения в Университете Мэриленда, объяснил, насколько точным может быть обнаружение текста с водяными знаками, написанного ChatGPT.
#ОткрытыйИИ планирует остановиться #ChatGPT пользователей от создания ботов в социальных сетях и обмана при выполнении домашних заданий с помощью «водяных знаков». Насколько хорошо это может работать? Вот всего 23 слова из 1,3-миллиардного параметра LLM с водяными знаками. Мы обнаружили его с достоверностью 99,999999999994%. Вот как 🧵 pic.twitter.com/pVC9M3qPyQ
— Том Гольдштейн (@tomgoldsteincs) 25 января 2023 г.
Любой инструмент, способный определить плагиат почти со 100% точностью, быстро разрешит этот спор и развеет любые опасения. По словам Гольдштейна, одно из решений состоит в том, чтобы модель большого языка (LLM) выбирала из ограниченного набора языков. словарный запас слов, формируя белый список, который ИИ может использовать, и черный список слов, которые запрещенный. Если в образце появляется неестественно большое количество слов из белого списка, это может означать, что он был сгенерирован искусственным интеллектом.
Этот упрощенный подход был бы слишком ограничительным, поскольку трудно предсказать, какие слова могут понадобиться для обсуждения, работая по одному слову за раз, как это делают большинство LLM. Гольдштейн предполагает, что ChatGPT можно дать возможность заглядывать дальше, чем на одно слово, чтобы он мог планировать предложение, которое может быть заполнено словами из белого списка, но при этом иметь смысл.
ChatGPT произвел фурор, когда появился пул сообщества писателей, а также может быть отличным помощником в обучении. Важно внедрить искусственный интеллект в школах, так как это явно будет важной технологией. понять в будущем, но это будет оставаться спорным, пока не будет решен вопрос о плагиате. адресованный.
Рекомендации редакции
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- ChatGPT: последние новости, споры и советы, которые вам нужно знать
- Функция просмотра Bing в ChatGPT отключена из-за уязвимости платного доступа
- OpenAI раскрывает местоположение своего первого международного аванпоста
- 81% считают, что ChatGPT представляет угрозу безопасности, согласно опросу
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.
