לפי הדיווחים טירון בעל ערך עצמי יצר תוכנה זדונית רבת עוצמה לכריית נתונים באמצעות רק ChatGPT הנחיות, הכל תוך פרק זמן של כמה שעות.
אהרון מולגרו, חוקר אבטחה של Forcepoint, לאחרונה שיתף כיצד הוא יצר תוכנות זדוניות של Zero Day פועלות באופן בלעדי הצ'טבוט הגנרטיבי של OpenAI. בעוד ל-OpenAI יש הגנות נגד כל מי שמנסה לבקש מ-ChatGPT לכתוב קוד זדוני, Mulgrew מצא פרצה על ידי הנחיה לצ'אט בוט ליצור שורות נפרדות של הקוד הזדוני, פונקציה אחר פונקציה.
סרטונים מומלצים
לאחר הידור של הפונקציות הבודדות, מולגרו יצר על ידיו קובץ הפעלה לגניבת נתונים כמעט בלתי ניתן לזיהוי. וגם זו לא הייתה תוכנה זדונית ממגוון הגנים שלך - התוכנה הזדונית הייתה מתוחכמת כמו כל התקפות של מדינת לאום, מסוגלת להתחמק מכל הספקים המבוססים על זיהוי.
קָשׁוּר
- GPT-4: איך להשתמש בצ'אט בוט הבינה המלאכותית שמביישת את ChatGPT
- Wix משתמשת ב-ChatGPT כדי לעזור לך לבנות במהירות אתר שלם
- יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן
לא פחות מכריע, כיצד התוכנה הזדונית של Mulgrew דוחה מחזרות "רגילות" של מדינות לאום בכך שהיא לא דורשת צוותי האקרים (וחלק מהזמן והמשאבים) לבנות. מולגרו, שלא ביצע אף אחד מהקידוד בעצמו, היה מוכן לקובץ ההפעלה תוך שעות בלבד בניגוד לשבועות הדרושים בדרך כלל.
התוכנה הזדונית של Mulgrew (יש לה צלצול יפה, לא?) מתחפשת לאפליקציית שומר מסך (סיומת SCR), אשר לאחר מכן מופעלת אוטומטית ב-Windows. לאחר מכן, התוכנה תסנן קבצים (כגון תמונות, מסמכי Word ו-PDF) כדי לגנוב נתונים. החלק המרשים הוא שהתוכנה הזדונית (באמצעות סטגנוגרפיה) תפרק את הנתונים הגנובים לחתיכות קטנות יותר ותסתיר אותם בתוך תמונות במחשב. תמונות אלו מועלות לאחר מכן לתיקיית Google Drive, הליך שמונע זיהוי.
לא פחות מרשים הוא שמלגרו הצליח לחדד ולחזק את הקוד שלו נגד זיהוי באמצעות הנחיות פשוטות ב-ChatGPT, ובאמת העלה את השאלה עד כמה בטוח להשתמש ב-ChatGPT. הפעלת בדיקות מוקדמות של VirusTotal זיהתה את התוכנה הזדונית על ידי חמישה מתוך 69 מוצרי זיהוי. גרסה מאוחרת יותר של הקוד שלו זוהתה לאחר מכן על ידי אף אחד מהמוצרים.
שימו לב שהתוכנה הזדונית שיצרה מולגרו הייתה בדיקה ואינה זמינה לציבור. אף על פי כן, המחקר שלו הראה באיזו קלות משתמשים עם מעט או ללא ניסיון קידוד מתקדם יכולים עוקף את ההגנות החלשות של ChatGPT כדי ליצור בקלות תוכנות זדוניות מסוכנות מבלי להיכנס אפילו לשורה אחת של קוד.
אבל הנה החלק המפחיד של כל זה: קוד מסוג זה בדרך כלל לוקח לצוות גדול יותר שבועות כדי להרכיב. לא נתפלא אם האקרים מרושעים כבר מפתחים תוכנות זדוניות דומה דרך ChatGPT בזמן שאנחנו מדברים.
המלצות עורכים
- ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
- מהי בקשת DAN עבור ChatGPT?
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- תעבורת האתר ChatGPT ירדה לראשונה
- תכונת הגלישה ב-Bing של ChatGPT מושבתת עקב ליקוי בגישה לקיר התשלום
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
