ChatGPT הוא כלי נפלא אבל יש צד אפל לשירות AI המתקדם הזה שיכול לכתוב כמו מומחה כמעט בכל נושא - פלגיאט. כאשר סטודנטים שאמורים להפגין את הידע וההבנה שלהם בנושא רמאות על ידי שימוש בסתר ב-ChatGPT, זה מבטל את תוקף הבדיקות והציונים. מיומנויות בינה מלאכותית הן נהדרות אבל הן לא הנושא היחיד שתלמידים צריכים ללמוד.
שיטור בעיה זו הוכח כקשה. מכיוון ש-ChatGPT הוכשר על מערך נתונים עצום של כתיבה אנושית, זה כמעט בלתי אפשרי עבור מדריך לזהות אם חיבור נוצר על ידי תלמיד או מכונה. נוצרו מספר כלים לכך ניסיון לזהות כתיבה שנוצרה בינה מלאכותית, אבל הדיוק היה נמוך מכדי להיות שימושי.
סרטונים מומלצים
על רקע החששות העולים מצד מחנכים ואיסורים על תלמידים להשתמש ב-ChatGPT, Business Insider מדווח ש-OpenAI עובדת על פתרון לבעיה זו. לאחרונה צִיוּץ מ-Tom Goldstein, פרופסור חבר ללמידת מכונה באוניברסיטת מרילנד, הסביר עד כמה זה יכול להיות מדויק בזיהוי טקסט עם סימן מים שנכתב על ידי ChatGPT.
#OpenAI מתכנן להפסיק #ChatGPT משתמשים מיצירת בוטים של מדיה חברתית ומרמה בשיעורי בית על ידי פלטי "סימון מים". עד כמה זה באמת יכול לעבוד? הנה רק 23 מילים מפרמטר 1.3B עם סימן מים LLM. זיהינו את זה עם 99.9999999999994% ביטחון. הנה איך 🧵
pic.twitter.com/pVC9M3qPyQ- טום גולדשטיין (@tomgoldsteincs) 25 בינואר 2023
כל כלי שיכול לזהות פלגיאט בדיוק של כמעט 100% יסדיר את הדיון הזה במהירות ויקל על כל דאגה. לדברי גולדשטיין, פתרון אחד הוא להפוך את מודל השפה הגדול (LLM) לבחור מתוך מוגבל אוצר מילים של מילים, יצירת רשימה לבנה שמתאים ל-AI להשתמש ורשימה שחורה של מילים אסור. אם כמות לא טבעית של מילים ברשימת הלבנים מופיעה במדגם, זה יצביע על כך שהיא נוצרה על ידי ה-AI.
גישה פשטנית זו תהיה מגבילה מדי מכיוון שקשה לחזות אילו מילים עשויות להיות נחוצות לדיון כאשר עובדים מילה אחת בכל פעם, כפי שעושים רוב ה-LLMs. גולדשטיין מציע שניתן לתת ל-ChatGPT את היכולת להסתכל קדימה יותר ממילה אחת, כך שהוא יכול לתכנן משפט שניתן למלא במילים ברשימת ההיתרים ועדיין הגיוני.
ChatGPT עשה רעש גדול כשנכנס מאגר הכתיבה הקהילתי ויכול להיות גם עוזר הוראה נהדר. חשוב להכניס בינה מלאכותית בבתי ספר מכיוון שברור שזו תהיה טכנולוגיה חשובה להבין בעתיד, אבל זה ימשיך להיות שנוי במחלוקת עד שנושא גניבת דעת יהיה התייחסו.
המלצות עורכים
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
- תכונת הגלישה ב-Bing של ChatGPT מושבתת עקב ליקוי בגישה לקיר התשלום
- OpenAI חושפת את מיקומו של המאחז הבינלאומי הראשון שלה
- 81% חושבים ש-ChatGPT הוא סיכון אבטחה, כך עולה מהסקר
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
