מטעה רשתות עצביות בעולם הפיזי
בעיתון שלהם, צוות החוקרים של MIT מתאר אלגוריתם שמשנה את המרקם של אובייקט בדיוק מספיק כדי שיוכל לרמות אלגוריתמים של סיווג תמונות. ההוכחה למה שהצוות מכנה "דוגמאות יריבות" מתבררת כמבלבלת את מערכות זיהוי התמונות, ללא קשר לזווית שממנה צופים העצמים - כגון הצב המודפס בתלת-ממד אשר מזוהה באופן עקבי כ רובה. אלו חדשות רעות עבור מערכות אבטחה המשתמשות ב-A.I. לאיתור איומי אבטחה פוטנציאליים.
1 שֶׁל 5
"זה לא רק שהם נמנעים מסיווג נכון - הם מסווגים כיריבים נבחרים בכיתה, אז יכולנו להפוך אותם לכל דבר אחר אם היינו רוצים", אמרה החוקרת אניש אתאליה לדיגיטל טרנדים. "שיעורי הרובה והאספרסו נבחרו באופן אחיד באקראי. הדוגמאות האדוורסריות הופקו באמצעות אלגוריתם בשם Expectation Over Transformation (EOT), אשר מוצג במאמר המחקר שלנו. האלגוריתם קולט כל מודל תלת מימד בעל מרקם, כמו צב, ומוצא דרך לשנות בעדינות את מרקם כזה שמבלבל רשת עצבית נתונה לחשוב שהצב הוא כל מטרה נבחרת מעמד."
קָשׁוּר
- הרובוט ההולך הזעיר של MIT יוכל בסופו של דבר לבנות רובוטים אחרים וגדולים יותר
- מדענים מצליחים להדפיס תלת מימד לב אמיתי באמצעות תאים אנושיים
למרות שזה עשוי להיות מצחיק שצב מודפס בתלת מימד יזוהה כרובה, עם זאת, החוקרים מציינים שההשלכות די מפחידות. תארו לעצמכם, למשל, מערכת אבטחה שמשתמשת בבינה מלאכותית כדי לסמן רובים או פצצות, אבל אפשר לרמות אותה לחשוב שהם במקום עגבניות, או כוסות קפה, או אפילו בלתי נראים לחלוטין. זה גם מדגיש את השבריריות בסוג מערכות זיהוי התמונות שעליהן יסתמכו מכוניות בנהיגה עצמית, במהירות גבוהה, כדי להבחין בעולם הסובב אותן.
סרטונים מומלצים
"העבודה שלנו מוכיחה שדוגמאות יריבות הן בעיה גדולה יותר ממה שאנשים רבים חשבו בעבר, והיא מראה שדוגמאות יריבות עבור רשתות עצביות הם דאגה אמיתית בעולם הפיזי", המשיך את'ליה. "הבעיה הזו היא לא רק קוריוז אינטלקטואלי: זו בעיה שצריך לפתור כדי שמערכות מעשיות המשתמשות בלמידה עמוקה יהיו בטוחות מהתקפה".
המלצות עורכים
- פורד יכולה להשתמש בקול שלך כדי להפוך את גלגלי המכונית שלך להגנה מפני גניבה
- פריצת דרך בתחום ההדפסה הביולוגית יכולה לאפשר הדפסה תלת מימדית של איברים חלופיים
- סוף סוף יש דרך להתחקות אחר רובים מודפסים בתלת מימד 'בלתי ניתנים לאיתור'
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
