ChatGPT je úžasný nástroj, ale táto pokročilá služba AI má aj temnú stránku, ktorá dokáže písať ako expert na takmer akúkoľvek tému – plagiát. Keď študenti, ktorí majú demonštrovať svoje vedomosti a porozumenie podvádzaniu témy tajným používaním ChatGPT, testovanie a známkovanie sa rušia. Zručnosti AI sú skvelé, ale nie sú jediným predmetom, ktorý by sa študenti mali naučiť.
Kontrola tohto problému sa ukázala ako náročná. Keďže ChatGPT bol vyškolený na rozsiahlom súbore údajov ľudského písania, pre inštruktora je takmer nemožné zistiť, či esej vytvoril študent alebo stroj. Na to bolo vytvorených niekoľko nástrojov pokúsiť sa rozpoznať písanie generované AI, ale presnosť bola príliš nízka na to, aby bola užitočná.
Odporúčané videá
Uprostred rastúcich obáv zo strany pedagógov a zákazov pre študentov používať ChatGPT, Business Insider uvádza, že OpenAI pracuje na riešení tohto problému. Nedávna pípanie od Toma Goldsteina, docenta strojového učenia na University of Maryland, vysvetlil, aké presné by to mohlo byť pri detekcii textu s vodotlačou, ktorý napísal ChatGPT.
#OpenAI plánuje zastaviť #ChatGPT používateľov z vytvárania robotov sociálnych médií a podvádzania domácich úloh prostredníctvom „vodoznakových“ výstupov. Ako dobre by to mohlo naozaj fungovať? Tu je len 23 slov z 1,3B parametra LLM s vodoznakom. Zistili sme to so spoľahlivosťou 99,999999999994 %. Takto 🧵 pic.twitter.com/pVC9M3qPyQ
— Tom Goldstein (@tomgoldsteincs) 25. januára 2023
Akýkoľvek nástroj, ktorý by dokázal identifikovať plagiát s takmer 100% presnosťou, by túto diskusiu rýchlo vyriešil a zmiernil akékoľvek obavy. Podľa Goldsteina je jedným z riešení výber veľkého jazykového modelu (LLM) z obmedzeného počtu slovnú zásobu slov, vytvorenie bieleho zoznamu, ktorý môže AI použiť, a čierneho zoznamu slov, ktoré sú zakázané. Ak sa vo vzorke objaví neprirodzene veľký počet slov na bielej listine, naznačuje to, že ich vytvorila AI.
Tento zjednodušený prístup by bol príliš obmedzujúci, pretože je ťažké predpovedať, ktoré slová môžu byť potrebné pre diskusiu, keď pracujete po jednom slove, ako to robí väčšina LLM. Goldstein navrhuje, že ChatGPT by mohla dostať schopnosť pozerať sa dopredu ďalej ako na jedno slovo, aby mohla naplánovať vetu, ktorá môže byť naplnená slovami na bielej listine, pričom bude stále dávať zmysel.
ChatGPT urobil veľký rozruch, keď vstúpil komunitný fond na písanie a môže byť aj skvelým pomocníkom pri výučbe. Je dôležité zaviesť umelú inteligenciu do škôl, pretože to bude jednoznačne dôležitá technológia porozumieť v budúcnosti, ale bude to aj naďalej kontroverzné, kým nebude problém plagiátorstva adresované.
Odporúčania redaktorov
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- ChatGPT: najnovšie správy, kontroverzie a tipy, ktoré potrebujete vedieť
- Funkcia prehliadania Bing služby ChatGPT je deaktivovaná kvôli chybe v prístupe k paywallu
- OpenAI odhaľuje umiestnenie svojej prvej medzinárodnej základne
- 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
