האם ChatGPT הוא אסון אבטחת סייבר? שאלנו את המומחים

ChatGPT מרגיש די בלתי נמנע עכשיו, עם סיפורים מתפעל מהיכולות שלו לכאורה בכל מקום שאתה מסתכל. ראינו איך הוא יכול לכתוב מוזיקה, להפיק אנימציות תלת-ממדיות ולהלחין מוזיקה. אם אתה יכול לחשוב על זה, ChatGPT כנראה יכול להסתכל על זה.

וזו בדיוק הבעיה. יש כל מיני סחטות יד בקהילת הטכנולוגיה כרגע, כאשר מגיבים דואגים לעתים קרובות ש-AI הוא בערך להוביל לאפוקליפסה של תוכנות זדוניות עם אפילו האקרים בעלי האצבעות הירוקות ביותר מעלים באוב סוסים טרויאניים בלתי ניתנים לעצירה ותוכנות כופר.

אבל האם זה באמת נכון? כדי לברר, דיברתי עם מספר מומחי אבטחת סייבר כדי לראות מה הם עשו מיכולות התוכנות הזדוניות של ChatGPT, האם הם היו מודאגים מהפוטנציאל שלה לשימוש לרעה, ומה אתה יכול לעשות כדי להגן על עצמך בחדש הזה עוֹלָם.

יכולות מפוקפקות

אחת האטרקציות העיקריות של ChatGPT היא היכולת שלו לבצע משימות מסובכות עם כמה הנחיות פשוטות, במיוחד בעולם התכנות. החשש הוא שזה יוריד את חסמי הכניסה ליצירת תוכנות זדוניות, ועלול להסתכן בהתפשטות של כותבי וירוסים המסתמכים על כלי בינה מלאכותית כדי לעשות עבורם את המשימות הכבדות.

ג'ושוע לונג, אנליסט אבטחה ראשי בחברת האבטחה Intego, ממחיש נקודה זו. "כמו כל כלי בעולם הפיזי או הווירטואלי, קוד מחשב יכול לשמש לטוב או לרע", הוא מסביר. "אם אתה מבקש קוד שיכול להצפין קובץ, למשל, בוט כמו ChatGPT לא יכול לדעת את הכוונה האמיתית שלך. אם אתה טוען שאתה צריך קוד הצפנה כדי להגן על הקבצים שלך, הבוט יאמין לך - גם אם המטרה האמיתית שלך היא ליצור תוכנת כופר."

ל-ChatGPT יש אמצעי הגנה שונים כדי להילחם בדברים כאלה, והטריק עבור יוצרי וירוסים הוא לעקוף את מעקות הבטיחות האלה. בקש בבוטות מ-ChatGPT ליצור וירוס יעיל והוא פשוט יסרב, וידרוש ממך להיות יצירתי כדי להערים עליו ולגרום לו לעשות את הצעתך כנגד שיקול דעתו הטוב יותר. בהתחשב במה אנשים מסוגלים לעשות פריצות מאסר ב-ChatGPT, האפשרות ליצור תוכנה זדונית באמצעות AI מרגישה אפשרית בתיאוריה. למעשה, זה כבר הוכח, אז אנחנו יודעים שזה אפשרי.

אבל לא כולם בפאניקה. מרטין Zugec, מנהל הפתרונות הטכניים ב-Bitdefender, חושב שהסיכונים עדיין קטנים למדי. "סביר להניח שרוב כותבי תוכנות זדוניות מתחילים לא יהיו בעלי הכישורים הנדרשים כדי לעקוף את האבטחה הזו אמצעים, ולכן הסיכון הנשקף מתוכנות זדוניות שנוצרו על ידי צ'טבוט נותר נמוך יחסית בשלב זה", הוא אומר.

"תוכנות זדוניות שנוצרו על ידי צ'טבוט היו נושא לדיון פופולרי לאחרונה", ממשיך Zugec, "אבל יש כרגע אין ראיות המצביעות על כך שהוא מהווה איום משמעותי בעתיד הקרוב". ויש לכך סיבה פשוטה. לדברי Zugec, "איכות קוד תוכנה זדונית המיוצר על ידי צ'אטבוטים נוטה להיות נמוכה, מה שהופך אותו לפחות אפשרות אטרקטיבית עבור כותבי תוכנות זדוניות מנוסים שיכולים למצוא דוגמאות טובות יותר בקוד ציבורי מאגרים."

אז, בעוד שקבלת ChatGPT ליצור קוד זדוני בהחלט אפשרי, כל מי שיש לו את הכישורים סביר להניח שנדרש כדי לתפעל את הצ'אטבוט הבינה מלאכותית לא מתרשם מהקוד העלוב שהוא יוצר, Zugec מאמין.

אבל כפי שאתה יכול לנחש, AI גנרטיבי רק מתחיל. ולאורך זמן, זה אומר שסיכוני הפריצה הנשקפים מ-ChatGPT עדיין לא חקוקים באבן.

"ייתכן שהעלייה של רובוטי AI מבוססי LLM עשויה להוביל לעלייה קטנה עד בינונית של תוכנות זדוניות חדשות, או לשיפור בתוכנות זדוניות יכולות והתחמקות מאנטי וירוס", אומר לונג, תוך שימוש בראשי תיבות של דגמי השפה הגדולים שבהם משתמשים כלי AI כמו ChatGPT כדי לבנות את יֶדַע. "בשלב זה, עם זאת, לא ברור כמה השפעה ישירה כלים כמו ChatGPT גורמים, או יעשו, על איומי תוכנות זדוניות בעולם האמיתי."

חבר של דייג

אם כישורי כתיבת הקוד של ChatGPT עדיין לא עדינים, האם זה יכול להוות איום בדרכים אחרות, כמו כתיבת קמפיינים של פישינג והנדסה חברתית יעילים יותר? כאן, האנליסטים מסכימים שיש הרבה יותר פוטנציאל לשימוש לרעה.

עבור חברות רבות, וקטור תקיפה פוטנציאלי אחד הוא עובדי החברה, שניתן להערים עליהם או לתמרן אותם כדי לספק גישה בשוגג היכן שאסור להם. האקרים יודעים את זה, והיו הרבה התקפות הנדסה חברתית בפרופיל גבוה שהתגלו כאסון. לדוגמה, נהוג לחשוב שקבוצת לזרוס של צפון קוריאה התחילה את דרכה חדירת 2014 למערכות של סוני - וכתוצאה מכך דליפת סרטים ומידע אישי שלא פורסמו - על ידי התחזות למגייס עבודה וקבלת עובד סוני לפתוח קובץ נגוע.

זהו תחום אחד שבו ChatGPT יכול לעזור באופן דרמטי להאקרים ודיוגים לשפר את עבודתם. אם אנגלית היא לא שפת האם של שחקן איום, למשל, הם יכולים להשתמש בצ'אט בוט של AI כדי לכתוב עבורם מייל דיוג משכנע שנועד לכוון לדוברי אנגלית. לחלופין, ניתן להשתמש בו כדי ליצור במהירות מספר גדול של מסרים משכנעים בהרבה פחות זמן ממה שיידרש לשחקני איום אנושי לבצע את אותה משימה.

הדברים עלולים להחמיר עוד יותר כשכלי AI אחרים נזרקים לתערובת. כפי שאמרו קארן רנו, מריל וורקנטין וג'ורג' וסטרמן סקירת Sloan Management של MIT, רמאי יכול ליצור סקריפט באמצעות ChatGPT ולהקריא אותו בטלפון על ידי קול מזויף עמוק שמתחזה למנכ"ל החברה. לעובד בחברה שמקבל את השיחה, הקול היה נשמע - ומתנהג - בדיוק כמו הבוס שלו. אם הקול הזה ביקש מהעובד להעביר סכום כסף לחשבון בנק חדש, ייתכן שהעובד ייפול לתחבולה בשל הכבוד שהם משלמים לבוס שלו.

כפי שניסח זאת לונג, "כבר לא [שחקני איום] צריכים להסתמך על כישורי האנגלית (לעיתים קרובות לא מושלמים) שלהם כדי לכתוב דוא"ל הונאה משכנע. הם גם לא חייבים להמציא ניסוח חכם משלהם ולהפעיל אותו דרך גוגל טרנסלייט. במקום זאת, ChatGPT - לגמרי לא מודע לפוטנציאל של כוונת זדון מאחורי הבקשה - יכתוב בשמחה את כל הטקסט של דוא"ל ההונאה בכל שפה רצויה."

וכל מה שנדרש כדי לגרום ל-ChatGPT לעשות זאת בפועל הוא איזו הנחיה חכמה.

האם ChatGPT יכול להגביר את אבטחת הסייבר שלך?

ובכל זאת, לא הכל רע. אותן תכונות שהופכות את ChatGPT לכלי אטרקטיבי עבור גורמי איומים - המהירות שלו, היכולת שלו למצוא פגמים בקוד - הופכות אותו למשאב מועיל עבור חוקרי אבטחת סייבר וחברות אנטי-וירוס.

לונג מציין שחוקרים כבר משתמשים בצ'אטבוטים של בינה מלאכותית כדי למצוא שעדיין לא התגלו ("יום אפס") פגיעויות בקוד, פשוט על ידי העלאת הקוד ובקשת ChatGPT לראות אם הוא יכול לזהות פוטנציאל כלשהו חולשות. זה אומר שאפשר להשתמש באותה מתודולוגיה שיכולה להחליש את ההגנות כדי לחזק אותן.

ובעוד שהמשיכה העיקרית של ChatGPT לגורמי איומים נעוצה ביכולת שלה לכתוב הודעות פישינג סבירות, אותם כישרונות יכולים לעזור להכשיר חברות ומשתמשים ממה להיזהר כדי להימנע מהונאות עצמם. זה יכול לשמש גם להנדסה לאחור של תוכנות זדוניות, לעזור לחוקרים ולחברות אבטחה לפתח במהירות אמצעי נגד.

בסופו של דבר, ChatGPT כשלעצמו אינו טוב או רע מטבעו. כפי שמציין Zugec, "הטענה שבינה מלאכותית יכולה להקל על פיתוח תוכנות זדוניות יכולה לחול על כל טענה אחרת התקדמות טכנולוגית שהועילה למפתחים, כגון תוכנות קוד פתוח או שיתוף קוד פלטפורמות."

במילים אחרות, כל עוד אמצעי ההגנה ממשיכים להשתפר, האיום שמציב אפילו את הצ'אטבוטים הטובים ביותר של AI לעולם לא יהפוך למסוכן כפי שנחזה לאחרונה.

איך לשמור על עצמך

אם אתה מודאג מהאיומים שמציבים צ'אטבוטים של AI ומהתוכנה הזדונית שהם יכולים להיות מנוצלים כדי ליצור, יש כמה צעדים שאתה יכול לנקוט כדי להגן על עצמך. Zugec אומר שחשוב לאמץ "גישת הגנה רב-שכבתית" הכוללת "יישום פתרונות אבטחת נקודות קצה, שמירה על תוכנות ומערכות עדכני, ושמירה על ערנות מפני הודעות או בקשות חשודות."

Long, בינתיים, ממליץ להתרחק מקבצים שאתה מתבקש להתקין באופן אוטומטי בעת ביקור באתר. כשזה מגיע לעדכון או הורדה של אפליקציה, השג אותה מחנות האפליקציות הרשמית או מהאתר של ספק התוכנה. והיזהר בעת לחיצה על תוצאות חיפוש או כניסה לאתר - האקרים יכולים פשוט לשלם כדי למקם את אתרי ההונאה שלהם בראש תוצאות החיפוש ולגנוב את פרטי ההתחברות שלך עם אתרים דמויי מראה מעוצבים בקפידה.

ChatGPT לא הולך לשום מקום, וגם התוכנה הזדונית שגורמת כל כך הרבה נזק בכל העולם. בעוד שהאיום מיכולת הקידוד של ChatGPT עשוי להיות מוגזם לעת עתה, מיומנותו ביצירת הודעות דיוג עלולה לגרום לכל מיני כאבי ראש. עם זאת, זה מאוד אפשרי להגן על עצמך מפני האיום שהוא מהווה ולהבטיח שלא תיפול קורבן. נכון לעכשיו, שפע של זהירות - ואפליקציית אנטי וירוס מוצקה - יכולים לעזור לשמור על בטיחות המכשירים שלך.

המלצות עורכים

• Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
• תעבורת האתר ChatGPT ירדה לראשונה
• יריבת ChatGPT של אפל עשויה לכתוב עבורך קוד אוטומטית
• עורכי דין בניו יורק נקנסו על שימוש בתיקי ChatGPT מזויפים בקצרה משפטית
• דפדפן אינטרנט זה משלב את ChatGPT בצורה חדשה ומרתק