צ'טבוטים הם חומר חם כרגע, ו ChatGPT הוא העיקרי ביניהם. אבל בזכות כמה עוצמתיות ואנושיות התגובות שלה, אנשי אקדמיה, מחנכים ועורכים מתמודדים כולם עם הגאות הגואה של גניבת דעת ורמאויות שנוצרו על ידי בינה מלאכותית. ייתכן שהכלים הישנים שלך לזיהוי גניבת עין לא יספיקו כדי לרחרח את המציאות מהזיוף.
תוכן
- הרבה אפשרויות זיהוי
- מעמיד אותם במבחן
- סְגִירָה
במאמר זה, אני מדבר קצת על הצד המסויט הזה של צ'טבוטים של AI, בדוק כמה כלי זיהוי מקוונים של גניבת עין, וחוקר עד כמה המצב הפך קשה.
הרבה אפשרויות זיהוי
המהדורה האחרונה של נובמבר 2022 של הסטארט-אפ ChatGPT של OpenAI בעצם הכניס את כושר הצ'אטבוט אל אור הזרקורים. זה אפשר לכל ג'ו רגיל (או כל איש מקצוע) ליצור חיבורים או מאמרים חכמים ומובנים, ולפתור בעיות מתמטיות מבוססות טקסט. לקורא הבלתי מודע או חסר הניסיון, התוכן שנוצר בינה מלאכותית יכול די בקלות לעבור ככתבה לגיטימית, וזו הסיבה שתלמידים אוהבים אותו - והמורים שונאים אותו.
קָשׁוּר
- יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן
- תעבורת האתר ChatGPT ירדה לראשונה
- צ'אטבוטי הבינה המלאכותית הטובים ביותר לנסות: ChatGPT, Bard ועוד
אתגר גדול עם כלי כתיבה בינה מלאכותית הוא יכולת החרב הפיפיות שלהם להשתמש בשפה טבעית ו דקדוק לבניית תוכן ייחודי וכמעט אינדיבידואלי גם אם התוכן עצמו נלקח מא מאגר מידע. זה אומר שהמירוץ לנצח רמאות מבוססת בינה מלאכותית נמשך. הנה כמה אפשרויות שמצאתי הזמינות עכשיו בחינם.
סרטונים מומלצים
גלאי פלט GPT-2 מגיע היישר ממפתח ChatGPT OpenAI כדי להדגים שיש לו בוט המסוגל לזהות טקסט של צ'אטבוט. פלט גלאי קל לשימוש - המשתמשים רק צריכים להזין טקסט בשדה טקסט והכלי יספק מיד את ההערכה שלו לגבי הסבירות שהטקסט הגיע מאדם או לא.
שני כלים נוספים שיש להם ממשק משתמש נקי Writer AI Content Detector ו תוכן בקנה מידה. אתה יכול להוסיף כתובת URL כדי לסרוק את התוכן (כותב בלבד) או להוסיף טקסט באופן ידני. לתוצאות ניתן ציון באחוזים של מידת הסבירות שהתוכן נוצר על ידי אדם.
GPTZero הוא כלי בטא ביתי המתארח ב-Streamlit ונוצר על ידי הסטודנט של אוניברסיטת פרינסטון, אדוארד זן. זה שונה מהשאר באופן שבו מודל ה"אלגיאט" (גניבת מידע בעזרת AI) מציג את תוצאותיו. GPTZero מפרק את המדדים לבלבול ולפרץ. התפרצות מודדת אקראיות כוללת עבור כל המשפטים בטקסט, בעוד שתמיהה מודדת אקראיות במשפט. הכלי מקצה מספר לשני המדדים - ככל שהמספר נמוך יותר, כך גדלה הסיכוי שהטקסט נוצר על ידי בוט.
סתם בשביל הכיף, כללתי חדר מבחן ענק של מודל שפה (GLTR), שפותחה על ידי חוקרים ממעבדת MIT-IBM Watson AI וקבוצת עיבוד השפה הטבעית של הרווארד. כמו GPTZero, הוא אינו מציג את התוצאות הסופיות שלו כהבחנה ברורה של "אנושי" או "בוט". GLTR בעצם משתמש בבוטים כדי לזהות טקסט שנכתב על ידי בוטים, מכיוון שבוטים נוטים פחות לבחור מילים בלתי צפויות. לכן, התוצאות מוצגות כהיסטוגרמה מקודדת צבע, המדרגת טקסט שנוצר בינה מלאכותית לעומת טקסט שנוצר על ידי אדם. ככל שכמות הטקסט הבלתי צפויה גדולה יותר, כך גדל הסיכוי שהטקסט מאדם.
מעמיד אותם במבחן
כל האפשרויות הללו עשויות לגרום לך לחשוב שאנחנו במקום טוב עם זיהוי AI. אבל כדי לבדוק את היעילות האמיתית של כל אחד מהכלים האלה, רציתי לנסות את זה בעצמי. אז הרצתי כמה פסקאות לדוגמה שכתבתי בתגובה לשאלות שהצגתי גם, במקרה הזה, ChatGPT.
השאלה הראשונה שלי הייתה פשוטה: מדוע רכישת מחשב בנוי מראש זוועה? הנה איך התשובות שלי בהשוואה לתגובה מ-ChatGPT.
| הכתיבה האמיתית שלי | ChatGPT | |
| גלאי פלט GPT-2 | 1.18% מזויף | 36.57% מזויף |
| סופר AI | 100% אנושי | 99% אנושיים |
| תוכן בקנה מידה | 99% אנושיים | 73% בני אדם |
| GPTZero | 80 תמיהה | 50 תמיהה |
| GLTR | 12 מתוך 66 מילים כנראה על ידי אדם | 15 או 79 מילים כנראה על ידי אדם |
כפי שאתה יכול לראות, רוב האפליקציות הללו יכלו לדעת שהמילים שלי היו אמיתיות, כאשר שלושת הראשונות היו המדויקות ביותר. אבל ChatGPT הטעה את רוב אפליקציות הגלאים הללו גם בתגובתה. הוא קיבל ציון של 99% אנושי באפליקציית Writer AI Content Detector, בתור התחלה, וסומן רק כ-36% מזויף על ידי גלאי מבוסס GPT. GLTR היה העבריין הגדול ביותר, וטען שסביר להניח שהמילים שלי ייכתבו על ידי אדם באותה מידה כמו המילים של ChatGPT.
עם זאת, החלטתי לתת לזה עוד הזדמנות, והפעם, התגובות שופרו משמעותית. ביקשתי מ-ChatGPT לספק סיכום של המחקר של המכון הטכנולוגי הפדרלי השוויצרי על אנטי ערפול באמצעות חלקיקי זהב. בדוגמה זו, אפליקציות הגלאי עשו עבודה הרבה יותר טובה באישור התגובה שלי ובזיהוי ChatGPT.
| הכתיבה האמיתית שלי | ChatGPT | |
| גלאי פלט GPT-2 | 9.28% מזויף | 99.97% מזויף |
| סופר AI | 95% אנושיים | 2% בני אדם |
| תוכן בקנה מידה | 92% בני אדם | 0% (ברור AI) |
| GPTZero | 41 תמיהה | 23 תמיהה |
| GLTR | 15 מתוך 79 מילים כנראה על ידי אדם | 4 מתוך 98 מילים כנראה על ידי אדם |
שלושת המבחנים המובילים באמת הראו את כוחם בתגובה זו. ולמרות ש-GLTR עדיין התקשה לראות את הכתיבה שלי כאנושית, לפחות היא הצליחה לתפוס את ChatGPT הפעם.
סְגִירָה
ברור מהתוצאות של כל שאילתה שגלאי גניבת עין מקוונים אינם מושלמים. לתשובות מורכבות יותר או קטעי כתיבה (כגון במקרה של ההנחיה השנייה שלי), זה קצת יותר קל לאפליקציות אלו לזהות כתיבה מבוססת AI, בעוד שהתגובות הפשוטות יותר קשות הרבה יותר לְהַסִיק. אבל ברור שזה לא מה שהייתי מכנה אמין. מדי פעם, כלי הגלאים הללו יסווגו באופן שגוי מאמרים או חיבורים כ-ChatGPT שנוצרו, וזו בעיה עבור מורים או עורכים שרוצים להסתמך עליהם כדי לתפוס רמאים.
מפתחים מכוונים ללא הרף את הדיוק ואת שיעורי החיוב השקריים, אבל הם גם מתכוננים לקראת הגעתם של GPT-3, שמציג מערך נתונים משופר משמעותית ויכולות מורכבות יותר מ-GPT-2 (שמתוכם ChatGPT מאומן מ).
בשלב זה, על מנת לזהות תוכן שנוצר על ידי AI, עורכים ומחנכים יצטרכו לשלב שיקול דעת ומעט אינטואיציה אנושית עם אחד (או יותר) מגלאי ה-AI הללו. ולמשתמשי צ'טבוט שיש להם או מתפתים להשתמש בצ'אטבוטים כגון Chatsonic, ChatGPT, Notion או YouChat כדי להעביר את ה"עבודה" שלהם כחוקית - נא לא. ייעוד מחדש של תוכן שנוצר על ידי בוט (שמקורו ממקורות קבועים בתוך מסד הנתונים שלו) הוא עדיין גניבה גניבה לא משנה איך מסתכלים על זה.
המלצות עורכים
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
- תכונת הגלישה ב-Bing של ChatGPT מושבתת עקב ליקוי בגישה לקיר התשלום
- 81% חושבים ש-ChatGPT הוא סיכון אבטחה, כך עולה מהסקר
- יריבת ChatGPT של אפל עשויה לכתוב עבורך קוד אוטומטית
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
