خداع الشبكات العصبية في العالم المادي
في ورقتهم، يصف فريق من الباحثين في معهد ماساتشوستس للتكنولوجيا خوارزمية تغير نسيج الجسم بما يكفي لخداع خوارزميات تصنيف الصور. تبين أن الدليل على ما يسميه الفريق "الأمثلة العدائية" محير لأنظمة التعرف على الصور، بغض النظر عن الزاوية التي يتم عرض الأشياء منها - مثل السلحفاة المطبوعة ثلاثية الأبعاد والتي يتم التعرف عليها باستمرار بندقية. هذه أخبار سيئة لأنظمة الأمان التي تستخدم الذكاء الاصطناعي. لاكتشاف التهديدات الأمنية المحتملة.
1 ل 5
"الأمر في الواقع لا يقتصر على أنهم يتجنبون التصنيف الصحيح فحسب، بل يتم تصنيفهم على أنهم خصم مختار" وقال الباحث أنيش أثالي لموقع Digital: "كان بإمكاننا تحويلها إلى أي شيء آخر إذا أردنا ذلك". اتجاهات. "تم اختيار فئتي البندقية والإسبريسو بشكل عشوائي. تم إنتاج الأمثلة المتعارضة باستخدام خوارزمية تسمى التوقع على التحول (EOT)، والتي تم تقديمها في ورقتنا البحثية. تأخذ الخوارزمية أي نموذج ثلاثي الأبعاد، مثل السلحفاة، وتجد طريقة لتغيير الشكل بمهارة نسيج بحيث يربك شبكة عصبية معينة وتجعلها تعتقد أن السلحفاة هي أي هدف مختار فصل."
متعلق ب
- يمكن لروبوت المشي الصغير التابع لمعهد ماساتشوستس للتكنولوجيا أن يبني في نهاية المطاف روبوتات أخرى أكبر
- تمكن العلماء من طباعة قلب حقيقي ثلاثي الأبعاد باستخدام الخلايا البشرية
في حين أنه قد يكون من المضحك أن يتم التعرف على سلحفاة مطبوعة ثلاثية الأبعاد كبندقية، إلا أن الباحثين يشيرون إلى أن الآثار المترتبة على ذلك مرعبة للغاية. تخيل، على سبيل المثال، نظامًا أمنيًا يستخدم الذكاء الاصطناعي للإبلاغ عن الأسلحة أو القنابل، ولكن يمكن خداعها للاعتقاد بأنها طماطم، أو فناجين قهوة، أو حتى غير مرئية تمامًا. كما أنه يسلط الضوء على هشاشة نوع أنظمة التعرف على الصور التي ستعتمد عليها السيارات ذاتية القيادة، بسرعة عالية، لتمييز العالم من حولها.
مقاطع الفيديو الموصى بها
"يوضح عملنا أن الأمثلة العدائية تمثل مشكلة أكبر مما كان يعتقد الكثير من الناس سابقًا، كما يوضح أن الأمثلة العدائية لـ الشبكات العصبية وتابعت أثالي: "إنها مصدر قلق حقيقي في العالم المادي". "هذه المشكلة ليست مجرد فضول فكري: إنها مشكلة تحتاج إلى حل حتى تكون الأنظمة العملية التي تستخدم التعلم العميق في مأمن من الهجوم."
توصيات المحررين
- تستطيع شركة فورد استخدام صوتك لجعل عجلات سيارتك مقاومة للسرقة
- قد يؤدي التقدم في الطباعة الحيوية إلى تمكين الطباعة ثلاثية الأبعاد للأعضاء البديلة
- هناك أخيرًا طريقة لتتبع الأسلحة المطبوعة ثلاثية الأبعاد "التي لا يمكن تعقبها".
ترقية نمط حياتكتساعد الاتجاهات الرقمية القراء على متابعة عالم التكنولوجيا سريع الخطى من خلال أحدث الأخبار ومراجعات المنتجات الممتعة والمقالات الافتتاحية الثاقبة ونظرات خاطفة فريدة من نوعها.
