ChatGPT is een geweldige tool, maar er is een donkere kant aan deze geavanceerde AI-service die als een expert over bijna elk onderwerp kan schrijven: plagiaat. Wanneer studenten die geacht worden hun kennis en begrip van een onderwerp te demonstreren vals spelen door in het geheim ChatGPT te gebruiken, maakt dit het testen en beoordelen ongeldig. AI-vaardigheden zijn geweldig, maar zijn niet het enige onderwerp dat studenten moeten leren.
Het is gebleken dat de politie dit probleem moeilijk aanpakt. Omdat ChatGPT is getraind op een enorme dataset van menselijk schrijven, is het voor een instructeur bijna onmogelijk om vast te stellen of een essay is gemaakt door een student of door een machine. Daar zijn verschillende tools voor gemaakt poging om AI-gegenereerd schrijven te herkennen, maar de nauwkeurigheid was te laag om bruikbaar te zijn.
Aanbevolen video's
Te midden van toenemende zorgen van onderwijzers en verbodsbepalingen voor studenten die ChatGPT gebruiken, Business insider meldt dat OpenAI werkt aan een oplossing voor dit probleem. Een recent
tweeten van Tom Goldstein, universitair hoofddocent machine learning aan de Universiteit van Maryland, legde uit hoe nauwkeurig het zou kunnen zijn bij het detecteren van tekst met een watermerk die is geschreven door ChatGPT.#OpenAI is van plan te stoppen #ChatGPT gebruikers van het maken van bots voor sociale media en het bedriegen van huiswerk door "watermerken" -uitvoer. Hoe goed zou dit echt kunnen werken? Hier zijn slechts 23 woorden van een 1.3B parameter watermerk LLM. We hebben het gedetecteerd met een betrouwbaarheid van 99,999999999994%. Hier is hoe 🧵 pic.twitter.com/pVC9M3qPyQ
— Tom Goldstein (@tomgoldsteincs) 25 januari 2023
Elke tool die plagiaat met bijna 100% nauwkeurigheid zou kunnen identificeren, zou deze discussie snel kunnen beslechten en eventuele zorgen wegnemen. Volgens Goldstein is een oplossing om het grote taalmodel (LLM) te laten kiezen uit een beperkt vocabulaire van woorden, een witte lijst vormen die oké is voor de AI om te gebruiken en een zwarte lijst met woorden die dat wel zijn verboden. Als een onnatuurlijk groot aantal woorden op de witte lijst in een voorbeeld voorkomt, zou dat kunnen suggereren dat het door de AI is gegenereerd.
Deze simplistische benadering zou te beperkend zijn, omdat het moeilijk te voorspellen is welke woorden nodig kunnen zijn voor een discussie wanneer je woord voor woord werkt, zoals de meeste LLM's doen. Goldstein suggereert dat ChatGPT de mogelijkheid zou kunnen krijgen om verder dan één woord vooruit te kijken, zodat het een zin kan plannen die kan worden gevuld met woorden op de witte lijst terwijl deze nog steeds logisch is.
ChatGPT maakte een grote indruk toen het binnenkwam de schrijfpool van de gemeenschap en kan ook een geweldige leerhulp zijn. Het is belangrijk om kunstmatige intelligentie op scholen te introduceren, aangezien het duidelijk een belangrijke technologie zal zijn om in de toekomst te begrijpen, maar het zal controversieel blijven totdat de kwestie van plagiaat is opgelost aangesproken.
Aanbevelingen van de redactie
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- ChatGPT: het laatste nieuws, controverses en tips die u moet weten
- De Bing-browsefunctie van ChatGPT is uitgeschakeld vanwege een toegangsfout in de betaalmuur
- OpenAI onthult de locatie van zijn eerste internationale buitenpost
- 81% denkt dat ChatGPT een beveiligingsrisico vormt, zo blijkt uit onderzoek
Upgrade je levensstijlDigital Trends helpt lezers de snelle wereld van technologie in de gaten te houden met het laatste nieuws, leuke productrecensies, verhelderende hoofdartikelen en unieke sneak peeks.
