יורופול פרסם השבוע אזהרה חריפה המדגישה את הסיכונים הנשקפים מהפושעים כשהם מתמודדים עם הגל החדש של צ'טבוטים מתקדמים של AI.
ב פוסט ששותפה באינטרנט השבוע, סוכנות אכיפת החוק באירופה תיארה כיצד כלים כמו ChatGPT של OpenAI ו- GPT-4, ו בארד של גוגל, ישמש יותר ויותר פושעים המחפשים דרכים חדשות להונות את חברי הציבור.
סרטונים מומלצים
הוא זיהה שלושה תחומים ספציפיים שמעסיקים אותו יותר מכל.
קודם כל הם הונאה והנדסה חברתית, שבה מיילים נשלחים ליעדים בתקווה לקבל אותם להוריד קובץ נגוע בתוכנה זדונית או ללחוץ על קישור שמעביר אותם לאתר מסוכן לא פחות.
קָשׁוּר
- ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
- מהי בקשת DAN עבור ChatGPT?
- יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן
דוא"ל פישינג, כפי שהם ידועים, מלאים בדרך כלל בשגיאות דקדוק ושגיאות כתיב ומגיעים לתיקיית הזבל. אפילו אלה שכן מגיעים לתיבת הדואר הנכנס כתובים בצורה כל כך מחרידה שהנמען מסוגל לזרוק אותם במהירות בלי לחשוב פעמיים.
אבל צ'אטבוטים של AI יכולים ליצור הודעות כתובות היטב ללא שגיאות מרושלות, מה שמאפשר לפושעים לשלוח להוציא הודעות דוא"ל משכנעות שמשמעותן שהנמענים יצטרכו לשים לב במיוחד בעת בדיקתם הודעות.
יורופול אמר כי הצ'אטבוטים המתקדמים יכולים "לשחזר דפוסי שפה שניתן להשתמש בהם כדי להתחזות לסגנון הדיבור של אנשים ספציפיים או קבוצות", והוסיפו כי ניתן "לנצל לרעה יכולת כזו בקנה מידה כדי להטעות קורבנות פוטנציאליים לשים את אמונם בידי פושעים שחקנים."
צורה משכנעת יותר של דיסאינפורמציה צפויה גם להתרבות, כאשר הגל החדש של צ'אטבוטים מצטיינים ביצירת טקסט בעל צליל אותנטי במהירות ובקנה מידה, אמר יורופול. והוסיפה: "זה הופך את המודל לאידיאלי למטרות תעמולה ודיסאינפורמציה, מכיוון שהוא מאפשר למשתמשים ליצור ולהפיץ מסרים המשקפים נרטיב ספציפי עם מעט יחסית מַאֲמָץ."
שלישית, יורופול ציין את הקידוד כאזור חדש שנתפס על ידי פושעי סייבר כדי ליצור תוכנה זדונית. "בנוסף ל יצירת שפה דמוית אדם, ChatGPT מסוגלת לייצר קוד במספר שפות תכנות שונות", ציינה הסוכנות. "עבור פושע פוטנציאלי עם מעט ידע טכני, זהו משאב רב ערך להפקת קוד זדוני."
הוא אמר שהמצב "מספק נקודת מבט קודרת" לאלה שנמצאים בצד ימין של החוק, מכיוון שפעילות מרושעת באינטרנט הופכת קשה יותר לזיהוי.
שיגעון הצ'טבוט של הבינה המלאכותית התעורר בנובמבר 2022 כאשר OpenAI הנתמכת על ידי מיקרוסופט שחררה את הכלי ChatGPT המרשים שלה. גרסה משופרת, GPT-4, שוחרר ממש לאחרונה, בעוד גוגל חשפה גם כלי דומה משלה, הנקרא בארד. שלושתם ידועים ביכולתם המרשימה ליצור טקסט בעל צליל טבעי עם כמה הנחיות בלבד, כשהטכנולוגיה עשויה לסייע או אפילו להחליף שלל עבודות שונות בשנים הקרובות.
טכנולוגיה דומה אחרת מבוססת בינה מלאכותית מאפשרת לך ליצור תמונות, סרטונים ואודיו מקוריים עם כמה טקסטים בלבד הנחיות, המדגישות כיצד שום צורה של מדיה לא תחמוק מההשפעה של AI כשהטכנולוגיה ממשיכה להשתפר.
לכמה קולות מובילים יש חששות מובנים לגבי עלייתו המהירה, עם מכתב פתוח לאחרונה חתום על ידי אילון מאסק, מייסד שותף של אפל, סטיב ווזניאק, ומומחים שונים הטוענים שמערכות בינה מלאכותית עם אינטליגנציה אנושית-תחרותית יכולות להוות "סיכונים עמוקים לחברה ולאנושות". המכתב דרש א הפסקה של שישה חודשים כדי לאפשר יצירה והטמעה של פרוטוקולי בטיחות עבור הכלים המתקדמים, והוסיפה כי אם מטופלים בצורה נכונה, "האנושות יכולה ליהנות מעתיד פורח עם AI."
המלצות עורכים
- מחברים מובילים דורשים תשלום מחברות בינה מלאכותית על השימוש בעבודתם
- GPT-4: איך להשתמש בצ'אט בוט הבינה המלאכותית שמביישת את ChatGPT
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- תעבורת האתר ChatGPT ירדה לראשונה
- תכונת הגלישה ב-Bing של ChatGPT מושבתת עקב ליקוי בגישה לקיר התשלום
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
