เครือข่ายประสาทเทียมที่หลอกลวงในโลกทางกายภาพ
ในกระดาษของพวกเขาทีมนักวิจัยของ MIT อธิบายอัลกอริธึมที่เปลี่ยนพื้นผิวของวัตถุเพียงพอที่จะหลอกอัลกอริธึมการจำแนกภาพได้ การพิสูจน์สิ่งที่ทีมงานเรียกว่า "ตัวอย่างฝ่ายตรงข้าม" กลายเป็นเรื่องน่างงงันกับระบบการจดจำภาพ ไม่ว่าวัตถุจะมองจากมุมใดก็ตาม เช่น เต่าที่พิมพ์ด้วยเครื่องพิมพ์ 3 มิติ ซึ่งได้รับการระบุอย่างต่อเนื่องว่าเป็น ปืนไรเฟิล นั่นเป็นข่าวร้ายสำหรับระบบรักษาความปลอดภัยที่ใช้ A.I. เพื่อตรวจจับภัยคุกคามด้านความปลอดภัยที่อาจเกิดขึ้น
1 ของ 5
“จริงๆ แล้วไม่ใช่แค่ว่าพวกเขากำลังหลีกเลี่ยงการจัดหมวดหมู่ที่ถูกต้องเท่านั้น แต่ยังถูกจัดว่าเป็นฝ่ายตรงข้ามที่ได้รับเลือกอีกด้วย เพื่อที่เราจะได้เปลี่ยนมันให้เป็นอย่างอื่นได้ถ้าเราต้องการ” นักวิจัย Anish Athalye บอกกับ Digital เทรนด์ “คลาสปืนไรเฟิลและเอสเปรสโซถูกเลือกแบบสุ่มอย่างสม่ำเสมอ ตัวอย่างฝ่ายตรงข้ามถูกสร้างขึ้นโดยใช้อัลกอริทึมที่เรียกว่าความคาดหวังเหนือการเปลี่ยนแปลง (EOT) ซึ่งนำเสนอในรายงานการวิจัยของเรา อัลกอริธึมจะใช้โมเดล 3 มิติที่มีพื้นผิวใดๆ เช่น เต่า และค้นหาวิธีในการเปลี่ยนแปลงอย่างละเอียด พื้นผิวที่ทำให้โครงข่ายประสาทเทียมสับสนจนคิดว่าเต่าเป็นเป้าหมายที่เลือก ระดับ."
ที่เกี่ยวข้อง
- หุ่นยนต์เดินตัวเล็กของ MIT สามารถสร้างหุ่นยนต์ตัวอื่นที่ใหญ่กว่าได้ในที่สุด
- นักวิทยาศาสตร์สามารถพิมพ์หัวใจจริงด้วยเครื่องพิมพ์ 3 มิติโดยใช้เซลล์ของมนุษย์ได้
แม้ว่ามันอาจจะตลกที่เต่าที่พิมพ์ด้วยเครื่องพิมพ์ 3 มิติถือเป็นปืนไรเฟิล แต่นักวิจัยชี้ให้เห็นว่าผลกระทบนั้นค่อนข้างน่ากลัว ลองนึกภาพระบบรักษาความปลอดภัยที่ใช้ AI เพื่อติดธงปืนหรือระเบิด แต่อาจถูกหลอกให้คิดว่าเป็นมะเขือเทศหรือถ้วยกาแฟแทน หรือแม้กระทั่งมองไม่เห็นเลย นอกจากนี้ยังเน้นย้ำถึงความเปราะบางของระบบจดจำรูปภาพที่รถยนต์ที่ขับเคลื่อนด้วยตนเองจะต้องพึ่งพาด้วยความเร็วสูงเพื่อแยกแยะโลกรอบตัว
วิดีโอแนะนำ
“งานของเราแสดงให้เห็นว่าตัวอย่างปฏิปักษ์เป็นปัญหาใหญ่กว่าที่หลายคนคิดไว้ก่อนหน้านี้ และแสดงให้เห็นว่าตัวอย่างปฏิปักษ์สำหรับ โครงข่ายประสาทเทียม เป็นปัญหาที่แท้จริงในโลกทางกายภาพ” Athalye กล่าวต่อ “ปัญหานี้ไม่ได้เป็นเพียงความอยากรู้อยากเห็นทางปัญญาเท่านั้น แต่ยังเป็นปัญหาที่ต้องแก้ไขเพื่อให้ระบบเชิงปฏิบัติที่ใช้การเรียนรู้เชิงลึกปลอดภัยจากการถูกโจมตี”
คำแนะนำของบรรณาธิการ
- ฟอร์ดสามารถใช้เสียงของคุณเพื่อทำให้ล้อรถของคุณป้องกันการโจรกรรมได้
- ความก้าวหน้าในการพิมพ์ทางชีวภาพสามารถเปิดใช้งานการพิมพ์อวัยวะทดแทนแบบ 3 มิติได้
- ในที่สุดก็มีวิธีติดตามปืนที่พิมพ์ 3 มิติที่ "ไม่สามารถติดตามได้"
อัพเกรดไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกแห่งเทคโนโลยีที่เปลี่ยนแปลงไปอย่างรวดเร็วด้วยข่าวสารล่าสุด รีวิวผลิตภัณฑ์สนุกๆ บทบรรณาธิการที่เจาะลึก และการแอบดูที่ไม่ซ้ำใคร
