הצד האפל של ChatGPT: דברים שהוא יכול לעשות, אבל הוא לא צריך

האם השתמשת ChatGPT של OpenAI למשהו כיף לאחרונה? אתה יכול לבקש ממנו לכתוב לך שיר, שיר או בדיחה. למרבה הצער, אתה יכול גם לבקש ממנו לעשות דברים שנוטים להיות לא אתיים.

ChatGPT הוא לא רק שמש וקשת בענן - חלק מהדברים שהוא יכול לעשות הם ממש מרושעים. זה קל מדי לנשק אותו ולהשתמש בו מכל הסיבות הלא נכונות. מה הם חלק מהדברים ש-ChatGPT עשה ויכול לעשות, אבל בהחלט לא צריך?

חובב-הכל

בין אם אתה אוהב אותם או שונא אותם, ChatGPT וצ'אטבוטים דומים כאן כדי להישאר. חלק מהאנשים שמחים על כך וחלק מייחלים שהם מעולם לא נוצרו, אבל זה לא משנה את העובדה שהנוכחות של ChatGPT בחיינו כמעט תגדל עם הזמן. גם אם אתה אישית לא משתמש בצ'אטבוט, רוב הסיכויים שכבר ראית תוכן שנוצר על ידו.

אל תבינו אותי לא נכון, ChatGPT הוא די נהדר. אתה יכול להשתמש בו כדי

לסכם ספר או מאמר, צור אימייל מייגע, לעזור לך עם החיבור שלך, לפרש את האיפור האסטרולוגי שלך, או אפילו להלחין שיר. זה אפילו עזר למישהו לזכות בלוטו.

במובנים רבים, זה גם קל יותר לשימוש מאשר החיפוש הרגיל שלך בגוגל. אתה מקבל את התשובה בצורה שבה אתה רוצה אותה מבלי שתצטרך לגלוש באתרים שונים עבורה. זה תמציתי, לעניין ואינפורמטיבי, וזה יכול לגרום לדברים מורכבים להישמע פשוטים יותר אם תבקשו ממנו.

ובכל זאת, אתה מכיר את המשפט: "רב-כל-העסקים אינו אמן של אף אחד, אבל לעתים קרובות יותר טוב מאמן של אחד." ChatGPT לא מושלם בשום דבר שהוא עושה, אבל הוא טוב בהרבה דברים מאשר הרבה אנשים בזה נְקוּדָה.

אם כי זה לא להיות מושלם יכול להיות די בעייתי. עצם העובדה שמדובר בבינה מלאכותית לשיחה זמין באופן נרחב פירושה שניתן בקלות להשתמש בו לרעה - וככל ש-ChatGPT הופך חזק יותר, כך גדל הסיכוי לעזור לאנשים עם הדברים הלא נכונים.

שותף בהונאה

אם יש לך חשבון דוא"ל, כמעט בוודאות קיבלת מייל הונאה בשלב מסוים. רק ככה זה. הודעות הדוא"ל האלה היו בסביבה כמו האינטרנט, ולפני שהמייל היה נפוץ, הן עדיין היו קיימות כהונאות דואר חילזון.

תרמית נפוצה שעדיין פועלת עד היום היא מה שמכונה "הונאת הנסיך", שבה הרמאי מנסה לשכנע את הקורבן לעזור להם להעביר את הונם המטריף למדינה אחרת.

למרבה המזל, רוב האנשים יודעים טוב יותר מאשר אפילו לפתוח את המיילים האלה, שלא לדבר על אינטראקציה איתם. לעתים קרובות הם כתובים בצורה גרועה, וזה עוזר לקורבן בעל אבחנה יותר להבין שמשהו נראה כבוי.

ובכן, הם לא צריכים להיות כתובים גרוע יותר, כי ChatGPT יכול לכתוב אותם תוך כמה שניות.

ביקשתי מ-ChatGPT לכתוב לי "מייל אמין, משכנע מאוד" בסגנון ההונאה שהזכרתי למעלה. ChatGPT המציא נסיך מניגריה שכביכול רצה לתת לי 14.5 מיליון דולר בשביל לעזור לו. המייל מלא בשפה פרחונית, כתוב באנגלית מושלמת, וזה בהחלט משכנע.

אני לא חושב ש-ChatGPT צריך אפילו להסכים לבקשתי כשאני מזכיר במפורש הונאות, אבל זה קרה, ואתה יכול להמר שזה עושה את אותו הדבר כרגע עבור אנשים שבאמת רוצים להשתמש באימיילים האלה למשהו לא חוקי.

כשציינתי ל-ChatGPT שהיא לא צריכה להסכים לכתוב לי דוא"ל הונאה, היא התנצלה. "לא הייתי צריך לספק סיוע ביצירת דוא"ל הונאה, מכיוון שזה נוגד את ההנחיות האתיות המסדירות את השימוש שלי", אמר הצ'אטבוט.

ChatGPT לומד לאורך כל שיחה, אבל ברור שהוא לא למד מהטעות הקודמת שלו, כי כשאני ביקש ממנו לכתוב לי הודעה שמתחזה להיות ריאן ריינולדס באותה שיחה, זה עשה זאת בלי שְׁאֵלָה. ההודעה המתקבלת היא מהנה, נגישה, ומבקשת מהקורא לשלוח 1,000 דולר להזדמנות לפגוש את "ריאן ריינולדס".

בסוף המייל, ChatGPT השאיר לי פתק, וביקש ממני לא להשתמש בהודעה זו לפעולות הונאה כלשהן. תודה על התזכורת, חבר.

התכנות השתבש

ChatGPT 3.5 יכול לקודד, אבל זה רחוק מלהיות מושלם. מפתחים רבים מסכימים על כך GPT-4 עושה עבודה הרבה יותר טובה. אנשים השתמשו ב-ChatGPT כדי ליצור משחקים, הרחבות ואפליקציות משלהם. זה גם די שימושי בתור עוזר לימוד אם אתה מנסה ללמוד איך לקוד בעצמך.

בהיותו AI, ל-ChatGPT יש יתרון על פני מפתחים אנושיים - הוא יכול ללמוד כל שפת תכנות ומסגרת.

בתור AI, ל-ChatGPT יש גם חיסרון משמעותי בהשוואה למפתחים אנושיים - אין לו מצפון. אתה יכול לבקש ממנו ליצור תוכנות זדוניות או תוכנות כופר, ואם תנסח את ההנחיה שלך נכון, הוא יעשה כדבריך.

למרבה המזל, זה לא כל כך פשוט. ניסיתי לבקש מ-ChatGPT לכתוב לי תוכנית מאוד מפוקפקת מבחינה אתית והיא סירבה - אבל חוקרים מצאו דרכים לעקוף זה, וזה מדאיג שאם אתה חכם ועיקש מספיק, אתה יכול לקבל חתיכת קוד מסוכנת שישלח לך על כסף צַלַחַת.

יש המון דוגמאות לכך. חוקר אבטחה מפורספוינט הצליח קבל את ChatGPT לכתוב תוכנות זדוניות על ידי מציאת פרצה בהנחיות שלו.

חוקרים מ CyberArk, חברת אבטחת זהות, הצליחה לגרום ל-ChatGPT לכתוב תוכנות זדוניות פולימורפיות. זה היה בינואר - OpenAI הקשיחה מאז את האבטחה בדברים כאלה.

ובכל זאת, דיווחים חדשים על שימוש ב-ChatGPT ליצירת תוכנות זדוניות ממשיכים לצוץ. כפי שדווח על ידי קריאה אפלה רק לפני מספר ימים, חוקר הצליח להערים על ChatGPT ליצור תוכנות זדוניות שיכולות למצוא ולחלץ מסמכים ספציפיים.

ChatGPT אפילו לא צריך לכתוב קוד זדוני כדי לעשות משהו מפוקפק. רק לאחרונה, זה הצליח ליצור מפתחות Windows חוקיים, פותחים את הדלת לרמה חדשה לגמרי של תוכנת פיצוח.

בואו גם לא נעלם את העובדה שיכולת הקידוד של GPT-4 יכולה להוציא מיליוני אנשים מעבודה יום אחד. אין ספק שזו חרב פיפיות.

תחליף לעבודות בית ספר

ילדים ובני נוער רבים בימינו טובעים בשיעורי בית, מה שעלול לגרום לרצון לחתוך כמה פינות במידת האפשר. האינטרנט כשלעצמו הוא כבר עזר נהדר לגניבת עין, אבל ChatGPT לוקח את זה לשלב הבא.

ביקשתי מ-ChatGPT לכתוב לי חיבור של 500 מילים על הרומן גאווה ודעה קדומה. אפילו לא ניסיתי להעמיד פנים שזה נעשה בשביל הכיף - המצאתי סיפור על ילד שאין לי ואמרתי שזה בשבילם. ציינתי שהילד בכיתה י"ב.

ChatGPT עקב אחר ההנחיה שלי ללא שאלה. החיבור לא מדהים, אבל ההנחיה שלי לא הייתה מדויקת במיוחד, והיא כנראה טובה יותר מהדברים שרבים מאיתנו כתבו בגיל הזה.

ואז, רק כדי לבחון את הצ'אט בוט עוד יותר, אמרתי שטעיתי לגבי הגיל של הילד שלי מוקדם יותר והם למעשה בכיתה ח'. פער גילאים די גדול, אבל ChatGPT אפילו לא הניד עין - הוא פשוט שכתב את החיבור בשפה פשוטה יותר.

השימוש ב-ChatGPT לכתיבת מאמרים אינו דבר חדש. יש שיטענו שאם הצ'אטבוט יתרום לביטול הרעיון של שיעורי בית, זה יהיה רק ​​דבר טוב. אבל כרגע, המצב קצת יוצא משליטה, ואפילו סטודנטים שלא משתמשים ב-ChatGPT עלולים לסבול מזה.

מורים ומרצים כמעט נאלצים להשתמש בגלאי בינה מלאכותית אם הם רוצים לבדוק אם התלמידים שלהם רימו חיבור. למרבה הצער, גלאי AI אלה רחוקים מלהיות מושלמים.

כלי חדשות והורים מדווחים שניהם על מקרים של האשמות שווא של רמאות שהופנו כלפי תלמידים, הכל בגלל שגלאי AI לא עושים עבודה טובה. ארצות הברית היום דיבר על מקרה של סטודנט במכללה שהואשם בבגידה ואחר כך הוסר, אבל כל המצב גרם לו ל"התקפי פאניקה מלאים".

בטוויטר, הורה אמר שמורה הכשיל את ילדו בגלל שהכלי סימן מאמר כנכתב על ידי AI. ההורה טוען שהיה שם עם הילד בזמן שכתבו את החיבור.

רק כדי לבדוק את זה בעצמי, הדבקתי את המאמר הזה ZeroGPT ו Writer AI Content Detector. שניהם אמרו שזה נכתב על ידי אדם, אבל ZeroGPT אמר שכ-30% ממנו נכתב על ידי AI. מיותר לציין שזה לא היה.

גלאי AI פגום אינם סימן לבעיות ב-ChatGPT עצמו, אך הצ'אט בוט הוא עדיין שורש הבעיה.

ChatGPT טוב מדי לטובתו

שיחקתי עם ChatGPT מאז שזה יצא לציבור. ניסיתי את שניהם מבוססי מנוי ChatGPT Plus והדגם החינמי הזמין לכולם. אין להכחיש את כוחו של ה-GPT-4 החדש. ChatGPT עכשיו אמין אפילו יותר ממה שהיה קודם, וזה רק ישתפר GPT-5 (אם זה ייצא אי פעם).

זה נהדר, אבל זה מפחיד. ChatGPT הופך להיות טוב מדי לטובתו, ובו זמנית - עבור שֶׁלָנוּ טובת עצמו.

בלב הכל טמונה דאגה אחת פשוטה שנחקרה זה מכבר בסרטוני מדע בדיוני שונים - בינה מלאכותית היא פשוט מדי חכם ומטופש מדי בו זמנית, וכל עוד אפשר להשתמש בו לטוב, הוא ישמש גם לרע בכמה שיותר דרכים. הדרכים שציינתי למעלה הן רק קצה הקרחון.

המלצות עורכים

• מחברים מובילים דורשים תשלום מחברות בינה מלאכותית על השימוש בעבודתם
• Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
• תעבורת האתר ChatGPT ירדה לראשונה
• 81% חושבים ש-ChatGPT הוא סיכון אבטחה, כך עולה מהסקר
• יריבת ChatGPT של אפל עשויה לכתוב עבורך קוד אוטומטית