ChatGPT er et vidunderligt værktøj, men der er en mørk side ved denne avancerede AI-tjeneste, der kan skrive som en ekspert om næsten ethvert emne - plagiat. Når elever, der formodes at demonstrere deres viden og forståelse af et emne snyder ved hemmeligt at bruge ChatGPT, ugyldiggør det testning og karaktergivning. AI-færdigheder er gode, men er ikke det eneste emne, som eleverne bør lære.
Det har vist sig at være vanskeligt at politisere dette problem. Da ChatGPT er blevet trænet i et stort datasæt af menneskelig skrivning, er det næsten umuligt for en instruktør at identificere, om et essay er lavet af en studerende eller en maskine. Det er der lavet flere værktøjer til forsøg på at genkende AI-genereret skrift, men nøjagtigheden var for lav til at være nyttig.
Anbefalede videoer
Midt i stigende bekymringer fra undervisere og forbud mod, at elever bruger ChatGPT, Business Insider rapporterer, at OpenAI arbejder på en løsning på dette problem. En nylig tweet fra Tom Goldstein, lektor i maskinlæring ved University of Maryland, forklarede, hvor nøjagtig den kan være til at opdage vandmærket tekst, der er skrevet af ChatGPT.
#OpenAI planlægger at stoppe #ChatGPT brugere fra at lave sociale medier-bots og snyde lektier ved at "vandmærke" output. Hvor godt kunne dette egentlig fungere? Her er kun 23 ord fra en 1,3B parameter vandmærket LLM. Vi opdagede det med 99,999999999994 % sikkerhed. Sådan gør du 🧵 pic.twitter.com/pVC9M3qPyQ
— Tom Goldstein (@tomgoldsteincs) 25. januar 2023
Ethvert værktøj, der kunne identificere plagiat med næsten 100 % nøjagtighed, ville løse denne diskussion hurtigt og afhjælpe eventuelle bekymringer. Ifølge Goldstein er en løsning at få den store sprogmodel (LLM) til at vælge fra et begrænset ordforråd, der danner en hvidliste, der er i orden for AI at bruge, og en sortliste over ord, der er forbudt. Hvis et unaturligt stort antal hvidlisteord dukker op i en prøve, tyder det på, at det er genereret af AI.
Denne forenklede tilgang ville være for restriktiv, da det er svært at forudsige, hvilke ord der kan være nødvendige for en diskussion, når man arbejder med et ord ad gangen, som de fleste LLM'er gør. Goldstein foreslår, at ChatGPT kunne få mulighed for at se længere frem end ét ord, så det kan planlægge en sætning, der kan fyldes med hvidlistede ord, mens den stadig giver mening.
ChatGPT lavede et stort sprøjt, da det kom ind fællesskabets skrivepulje og kan også være en god undervisningshjælp. Det er vigtigt at indføre kunstig intelligens i skolerne, da det helt klart vil være en vigtig teknologi at forstå i fremtiden, men det vil fortsætte med at være kontroversielt, indtil spørgsmålet om plagiat er adresseret.
Redaktørens anbefalinger
- Google Bard kan nu tale, men kan den overdøve ChatGPT?
- ChatGPT: de seneste nyheder, kontroverser og tips, du har brug for at vide
- ChatGPTs Bing-browsing-funktion deaktiveret på grund af adgangsfejl i betalingsvæggen
- OpenAI afslører placeringen af sin første internationale forpost
- 81 % mener, at ChatGPT er en sikkerhedsrisiko, viser undersøgelsen
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
