ChatGPT är ett underbart verktyg men det finns en mörk sida av denna avancerade AI-tjänst som kan skriva som en expert på nästan vilket ämne som helst - plagiat. När elever som ska visa sin kunskap och förståelse för ett ämne fuskar genom att i hemlighet använda ChatGPT, ogiltigförklarar det testning och betygsättning. AI-färdigheter är fantastiska men är inte det enda ämne som eleverna bör lära sig.
Att bevaka detta problem har visat sig vara svårt. Eftersom ChatGPT har tränats på ett stort dataset av mänskligt skrivande, är det nästan omöjligt för en instruktör att identifiera om en uppsats skapades av en student eller en maskin. Flera verktyg har skapats som försök att känna igen AI-genererad skrift, men noggrannheten var för låg för att vara användbar.
Rekommenderade videor
Mitt i stigande oro från pedagoger och förbud för elever att använda ChatGPT, Business Insider rapporterar att OpenAI arbetar på en lösning på detta problem. En nyligen tweeta från Tom Goldstein, docent i maskininlärning vid University of Maryland, förklarade hur exakt det kan vara när det gäller att upptäcka vattenmärkt text som är skriven av ChatGPT.
#OpenAI planerar att sluta #ChatGPT användare från att skapa sociala medier-botar och fuska med läxor genom att "vattenmärka" utdata. Hur bra skulle detta kunna fungera egentligen? Här är bara 23 ord från en 1,3B parameter vattenmärkt LLM. Vi upptäckte det med 99,9999999999994 % konfidens. Så här 🧵 pic.twitter.com/pVC9M3qPyQ
— Tom Goldstein (@tomgoldsteincs) 25 januari 2023
Alla verktyg som kan identifiera plagiat med nästan 100 % noggrannhet skulle lösa denna diskussion snabbt och lindra eventuella problem. Enligt Goldstein är en lösning att göra den stora språkmodellen (LLM) välja från en begränsad ordförråd, bildar en vitlista som är okej för AI att använda och en svartlista med ord som är förbjuden. Om ett onaturligt stort antal vitlistasord dyker upp i ett prov, skulle det tyda på att det genererades av AI.
Detta förenklade tillvägagångssätt skulle vara för restriktivt eftersom det är svårt att förutsäga vilka ord som kan vara nödvändiga för en diskussion när man arbetar med ett ord i taget, som de flesta LLM: er gör. Goldstein föreslår att ChatGPT kan ges möjligheten att se längre fram än ett ord så att det kan planera en mening som kan fyllas med vitlistade ord samtidigt som det är vettigt.
ChatGPT gjorde ett stort plask när det kom in gemenskapens skrivpool och kan också vara ett bra läromedel. Det är viktigt att införa artificiell intelligens i skolor eftersom det helt klart kommer att vara en viktig teknik att förstå i framtiden, men det kommer att fortsätta att vara kontroversiellt tills frågan om plagiat är adresserad.
Redaktörens rekommendationer
- Google Bard kan nu tala, men kan det överrösta ChatGPT?
- ChatGPT: de senaste nyheterna, kontroverserna och tipsen du behöver veta
- ChatGPT: s Bing-surffunktion inaktiverad på grund av betalväggsåtkomstfel
- OpenAI avslöjar platsen för sin första internationella utpost
- 81 % tycker att ChatGPT är en säkerhetsrisk, visar undersökningen
Uppgradera din livsstilDigitala trender hjälper läsarna att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
