ChatGPT je skvělý nástroj, ale tato pokročilá služba umělé inteligence má svou temnou stránku, která dokáže psát jako expert na téměř jakékoli téma – plagiátorství. Když studenti, kteří mají prokazovat své znalosti a porozumění tématu cheatem tajným používáním ChatGPT, znehodnocuje to testování a známkování. Dovednosti umělé inteligence jsou skvělé, ale nejsou jediným předmětem, který by se studenti měli učit.
Dohled nad tímto problémem se ukázal jako obtížný. Vzhledem k tomu, že ChatGPT byl vyškolen na rozsáhlém datovém souboru lidského psaní, je pro instruktora téměř nemožné identifikovat, zda esej vytvořil student nebo stroj. K tomu bylo vytvořeno několik nástrojů pokusit se rozpoznat psaní generované AI, ale přesnost byla příliš nízká na to, aby byla užitečná.
Doporučená videa
Uprostřed rostoucích obav ze strany pedagogů a zákazů studentů používat ChatGPT, Business Insider hlásí, že OpenAI pracuje na řešení tohoto problému. Nedávný tweet od Toma Goldsteina, docenta strojového učení na University of Maryland, vysvětlil, jak přesné by to mohlo být při detekci textu s vodoznakem, který je napsán ChatGPT.
#OpenAI plánuje zastavit #ChatGPT uživatelům vytvářet roboty na sociálních sítích a podvádět domácí úkoly pomocí „vodoznaku“ výstupů. Jak dobře by to mohlo skutečně fungovat? Zde je jen 23 slov z 1,3B parametru LLM s vodoznakem. Zjistili jsme to s 99,999999999994% spolehlivostí. Zde je návod 🧵 pic.twitter.com/pVC9M3qPyQ
— Tom Goldstein (@tomgoldsteincs) 25. ledna 2023
Jakýkoli nástroj, který by dokázal identifikovat plagiát s téměř 100% přesností, by tuto diskusi rychle urovnal a zmírnil jakékoli obavy. Podle Goldsteina je jedním z řešení vybrat velký jazykový model (LLM) z omezených možností slovní zásobu slov, vytvoření bílé listiny, kterou může umělá inteligence používat, a černé listiny slov, která jsou zakázáno. Pokud se ve vzorku objeví nepřirozeně velký počet slov na seznamu povolených, znamená to, že je vygenerovala AI.
Tento zjednodušený přístup by byl příliš omezující, protože je těžké předvídat, která slova mohou být nezbytná pro diskusi, když pracujete po jednom slově, jak to dělá většina LLM. Goldstein navrhuje, že ChatGPT by mohl dostat schopnost dívat se dopředu dál než na jedno slovo, aby mohl naplánovat větu, která může být naplněna slovy ze seznamu povolených, a přitom stále dává smysl.
ChatGPT udělal velký rozruch, když vstoupil komunitní fond pro psaní a může být také skvělým pomocníkem při výuce. Je důležité zavést umělou inteligenci do škol, protože to bude jednoznačně důležitá technologie pochopit v budoucnu, ale bude to i nadále kontroverzní, dokud nebude problém plagiátorství adresovaný.
Doporučení redakce
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
- ChatGPT: nejnovější zprávy, kontroverze a tipy, které potřebujete vědět
- Funkce procházení Bing ChatGPT je deaktivována kvůli chybě v přístupu k paywallu
- OpenAI odhaluje umístění své první mezinárodní základny
- 81 % si myslí, že ChatGPT je bezpečnostní riziko, zjistil průzkum
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
