ChatGPT е прекрасен инструмент, но има тъмна страна на тази усъвършенствана AI услуга, която може да пише като експерт по почти всяка тема – плагиатство. Когато учениците, които трябва да демонстрират знанията и разбирането си по дадена тема, мамят, като използват тайно ChatGPT, това обезсилва тестването и оценяването. AI уменията са страхотни, но не са единственият предмет, който учениците трябва да учат.
Решаването на този проблем се оказа трудно. Тъй като ChatGPT е обучен на базата на огромен набор от данни за човешко писане, за инструктор е почти невъзможно да определи дали дадено есе е създадено от ученик или машина. Създадени са няколко инструмента, които опит за разпознаване на писане, генерирано от AI, но точността беше твърде ниска, за да бъде полезна.
Препоръчани видеоклипове
На фона на нарастващата загриженост от страна на преподавателите и забраните на учениците да използват ChatGPT, Business Insider съобщава, че OpenAI работи върху решение на този проблем. Скорошно туит от Том Голдщайн, доцент по машинно обучение в Университета на Мериленд, обясни колко точно може да бъде при откриването на текст с воден знак, който е написан от ChatGPT.
#OpenAI планира да спре #ЧатGPT потребителите да правят ботове в социалните медии и да изневеряват на домашните чрез извеждане на "водни знаци". Колко добре може да работи това? Ето само 23 думи от параметър 1.3B с воден знак LLM. Открихме го с 99,999999999994% увереност. Ето как 🧵 pic.twitter.com/pVC9M3qPyQ
— Том Голдщайн (@tomgoldsteincs) 25 януари 2023 г
Всеки инструмент, който би могъл да идентифицира плагиатство с почти 100% точност, би разрешил тази дискусия бързо и ще облекчи всички опасения. Според Голдщайн, едно от решенията е да накарате големия езиков модел (LLM) да избира от ограничен речник от думи, образувайки бял списък, който е добре да използва ИИ, и черен списък с думи, които са забранен. Ако в извадка се появи неестествено голям брой думи от белия списък, това би означавало, че е генериран от AI.
Този опростен подход би бил твърде ограничителен, тъй като е трудно да се предвиди кои думи може да са необходими за дискусия, когато се работи една дума наведнъж, както правят повечето LLM. Голдщайн предполага, че на ChatGPT може да се даде възможност да гледа напред повече от една дума, така че да може да планира изречение, което може да бъде изпълнено с думи от белия списък, като същевременно има смисъл.
ChatGPT направи голям фурор, когато влезе групата за писане на общността и може да бъде и чудесен помощник в преподаването. Важно е изкуственият интелект да се въведе в училищата, тъй като той очевидно ще бъде важна технология за да разберем в бъдеще, но ще продължи да бъде спорен, докато проблемът с плагиатството не бъде решен адресиран.
Препоръки на редакторите
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Функцията за сърфиране в Bing на ChatGPT е деактивирана поради грешка в достъпа до платена стена
- OpenAI разкрива местоположението на първия си международен пост
- 81% смятат, че ChatGPT е риск за сигурността, установи проучване
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
