การจดจำภาพ A.I. มีจุดอ่อน. สิ่งนี้สามารถแก้ไขได้

คุณคงจะคุ้นเคย ดีพเฟคซึ่งเป็น “สื่อสังเคราะห์” ที่ได้รับการเปลี่ยนแปลงทางดิจิทัล ซึ่งสามารถหลอกผู้คนให้มองเห็นหรือได้ยินสิ่งที่ไม่เคยเกิดขึ้นจริงได้ ตัวอย่างของฝ่ายตรงข้ามก็เหมือนกับการปลอมแปลงอย่างล้ำลึกสำหรับ A.I. การจดจำภาพ ระบบ — และถึงแม้พวกมันจะไม่ได้ดูแปลกสำหรับเราเลยแม้แต่น้อย แต่มันก็สามารถทำให้เครื่องจักรสับสนได้

เมื่อหลายปีก่อนนักวิจัยจากห้องปฏิบัติการวิทยาการคอมพิวเตอร์และปัญญาประดิษฐ์ (CSAIL) ของสถาบันเทคโนโลยีแมสซาชูเซตส์ พบว่า พวกเขาสามารถหลอกอัลกอริธึมการรู้จำภาพที่ซับซ้อนให้กลายเป็นวัตถุที่น่าสับสนได้ง่ายๆ โดยการเปลี่ยนพื้นผิวเล็กน้อย เนื้อสัมผัส สิ่งเหล่านี้ไม่ใช่การผสมผสานเล็กน้อยเช่นกัน

ในการสาธิตของนักวิจัย พวกเขาแสดงให้เห็นว่าเป็นไปได้ที่จะได้รับโครงข่ายประสาทเทียมที่ล้ำสมัยเพื่อดูเต่าที่พิมพ์แบบ 3 มิติแล้วมองเห็นปืนไรเฟิลแทน หรือมองดูลูกเบสบอลแล้วสรุปว่าเป็นเอสเพรสโซ หากภาวะผิดปกติทางการมองเห็นปรากฏขึ้นในมนุษย์ มันจะเป็นกรณีศึกษาทางระบบประสาทที่อาจพบได้ในหนังสืออย่างเช่น หนังสือคลาสสิกของ Oliver Sacks ชายผู้เข้าใจผิดคิดว่าภรรยาของเขาเป็นหมวก.

ตัวอย่างฝ่ายตรงข้ามแสดงให้เห็นถึงความเปราะบางที่น่าสนใจเมื่อพูดถึงการมองเห็น A.I. ระบบมองโลก แต่อย่างที่คุณคาดหวังได้จากข้อบกพร่องที่ทำให้เต่าของเล่นแปลก ๆ สับสนกับปืนไรเฟิล ถือเป็นสิ่งที่น่าตกใจเช่นกัน เป็นสิ่งที่นักวิจัยพยายามอย่างมากที่จะหาวิธีแก้ไข

ขณะนี้นักวิจัยอีกกลุ่มหนึ่งจาก MIT ได้คิดค้นระบบใหม่ที่สามารถช่วยหลบเลี่ยงอินพุตของ "ฝ่ายตรงข้าม" ได้ ในกระบวนการนี้ พวกเขาจินตนาการถึงกรณีการใช้งานที่น่าสะพรึงกลัวอย่างตรงไปตรงมาสำหรับตัวอย่างที่ขัดแย้งกัน ซึ่งหากแฮกเกอร์นำไปใช้ก็อาจนำไปใช้ให้เกิดผลร้ายแรงได้

สถานการณ์คือ: รถยนต์ขับเคลื่อนอัตโนมัติเริ่มดีขึ้นเรื่อยๆ ในการรับรู้โลกรอบตัว แต่จะเกิดอะไรขึ้นหากจู่ๆ กล้องในรถยนต์ที่ใช้อินพุตภาพในรถยนต์ถูกเรนเดอร์โดยไม่ได้ตั้งใจหรือโดยไม่ได้ตั้งใจ ไม่สามารถระบุสิ่งที่อยู่ข้างหน้าได้ การจัดหมวดหมู่วัตถุบนถนนผิดประเภท เช่น การไม่ระบุและวางคนเดินถนนอย่างถูกต้อง อาจจบลงอย่างเลวร้ายได้อย่างแน่นอน

ป้องกันการโจมตีของฝ่ายตรงข้าม

“กลุ่มของเราทำงานเกี่ยวกับอินเทอร์เฟซของการเรียนรู้เชิงลึก หุ่นยนต์ และทฤษฎีการควบคุมมาหลายปีแล้ว ซึ่งรวมถึงด้วย ทำงานเกี่ยวกับการใช้ RL เชิงลึก [การเรียนรู้แบบเสริมกำลัง] เพื่อฝึกหุ่นยนต์ให้นำทางในลักษณะที่ตระหนักรู้ทางสังคมรอบตัวคนเดินถนน” ไมเคิล เอเวอเรตต์นักวิจัยหลังปริญญาเอกใน MIT Department of Aeronautics and Astronautics กล่าวกับ Digital Trends “ในขณะที่เรากำลังคิดถึงวิธีนำแนวคิดเหล่านั้นมาสู่ยานพาหนะที่ใหญ่ขึ้นและเร็วขึ้น คำถามด้านความปลอดภัยและความทนทานก็กลายเป็นความท้าทายที่ใหญ่ที่สุด เราเห็นโอกาสอันดีในการศึกษาปัญหานี้ในการเรียนรู้เชิงลึกจากมุมมองของการควบคุมที่แข็งแกร่งและการเพิ่มประสิทธิภาพที่แข็งแกร่ง”

การเรียนรู้แบบเสริมกำลังเป็นแนวทางแบบลองผิดลองถูกในการเรียนรู้ของเครื่อง ซึ่งนักวิจัยได้ใช้อย่างมีชื่อเสียงในการ รับคอมพิวเตอร์เพื่อเรียนรู้การเล่นวิดีโอเกม โดยไม่ต้องสอนวิธีอย่างชัดเจน การเรียนรู้การเสริมแรงแบบใหม่ของทีมและอัลกอริธึมที่ใช้โครงข่ายประสาทเทียมเชิงลึกเรียกว่า CARRL ย่อมาจาก Certified Adversarial Robustness for Deep Reinforcement Learning โดยพื้นฐานแล้วมันคือก โครงข่ายประสาทเทียม ด้วยความสงสัยที่เพิ่มมากขึ้นเมื่อพูดถึงสิ่งที่เห็น

ในการสาธิตผลงานครั้งหนึ่งซึ่งได้รับการสนับสนุนโดย Ford Motor Company นักวิจัยได้สร้างอัลกอริธึมการเรียนรู้แบบเสริมที่สามารถเล่นเกม Atari แบบคลาสสิกได้ ปอง. แต่ต่างจากผู้เล่นเกม RL รุ่นก่อนๆ ในเวอร์ชันของพวกเขา พวกเขาใช้การโจมตีของฝ่ายตรงข้ามซึ่งทำให้ A.I. การประเมินตำแหน่งบอลของเกมโดยตัวแทนทำให้คิดว่ามันต่ำกว่าความเป็นจริงสองสามพิกเซล เคยเป็น. โดยปกติแล้ว สิ่งนี้จะทำให้ A.I. ผู้เล่นที่เสียเปรียบอย่างมากทำให้ต้องพ่ายแพ้ให้กับคู่ต่อสู้ทางคอมพิวเตอร์ซ้ำแล้วซ้ำอีก อย่างไรก็ตาม ในกรณีนี้ เจ้าหน้าที่ RL จะพิจารณาตำแหน่งที่ลูกบอลทั้งหมด สามารถ แล้ววางไม้พายไว้ในที่ที่มันจะไม่พลาดไม่ว่าจะเปลี่ยนตำแหน่งก็ตาม

แน่นอนว่าเกมนั้นเรียบง่ายกว่าโลกแห่งความเป็นจริงอย่างมาก ดังที่ Everett ยอมรับทันที

“โลกแห่งความเป็นจริงมีความไม่แน่นอนมากกว่าวิดีโอเกม ตั้งแต่เซ็นเซอร์ที่ไม่สมบูรณ์หรือการโจมตีของฝ่ายตรงข้าม ซึ่งเพียงพอที่จะหลอกการเรียนรู้เชิงลึกได้ ระบบในการตัดสินใจที่เป็นอันตราย — [เช่น] การพ่นสีสเปรย์จุดบนถนน (ซึ่งอาจทำให้รถยนต์ที่ขับเคลื่อนด้วยตนเอง) หักเลี้ยวไปเลนอื่น” เขา อธิบาย “งานของเรานำเสนออัลกอริธึม RL แบบลึกซึ่งมีความแข็งแกร่งที่รับรองได้จนถึงการวัดที่ไม่สมบูรณ์ นวัตกรรมที่สำคัญคือ แทนที่จะเชื่อถือการวัดผลอย่างสุ่มสี่สุ่มห้าอย่างที่ทำอยู่ในปัจจุบัน อัลกอริธึมของเราคิด ผ่านการวัดผลที่เป็นไปได้ทั้งหมด และทำการตัดสินใจโดยพิจารณาถึงกรณีที่เลวร้ายที่สุด ผล."

ในการสาธิตอื่น พวกเขาแสดงให้เห็นว่าในบริบทการขับขี่จำลอง อัลกอริธึมสามารถหลีกเลี่ยงการชนได้ แม้ว่าเซ็นเซอร์จะถูกโจมตีโดยฝ่ายตรงข้ามที่ต้องการให้ตัวแทนชนกันก็ตาม “อัลกอริธึมการเรียนรู้เชิงลึกที่แข็งแกร่งประเภทใหม่นี้จะมีความจำเป็นต่อการนำ A.I. เทคนิคสู่โลกแห่งความเป็นจริง” เอเวอเรตต์กล่าว

ยังมีงานที่ต้องทำอีกมาก

ยังเร็วเกินไปสำหรับงานนี้ และยังมีอีกมากที่ต้องทำ นอกจากนี้ยังมีปัญหาที่อาจเกิดขึ้นในบางกรณีอาจทำให้ A.I. ตัวแทนประพฤติตนระมัดระวังเกินไป จึงทำให้ประสิทธิภาพลดลง อย่างไรก็ตาม นี่เป็นงานวิจัยอันทรงคุณค่าที่อาจมีผลกระทบอย่างลึกซึ้งในอนาคต

"[มีโครงการวิจัยอื่น ๆ ] ที่มุ่งเน้นไปที่การป้องกันตัวอย่างฝ่ายตรงข้าม [บางประเภท] ซึ่งหน้าที่ของโครงข่ายประสาทเทียมคือ แยกประเภทรูปภาพแล้วมันถูก [หรือ] ผิด แล้วเรื่องราวก็จบลงตรงนั้น” เอเวอเรตต์กล่าวเมื่อถูกถามเกี่ยวกับเต่าปะทะปืนไรเฟิลสุดคลาสสิก ปัญหา. “งานของเราต่อยอดจากแนวคิดเหล่านั้นบางส่วน แต่มุ่งเน้นไปที่การเรียนรู้แบบเสริมกำลัง โดยที่ตัวแทนจะต้องดำเนินการและได้รับรางวัลหากทำได้ดี ดังนั้นเราจึงกำลังมองหาคำถามระยะยาวว่า "ถ้าฉันบอกว่านี่คือเต่า การตัดสินใจนั้นในอนาคตจะมีผลอย่างไร" และนั่นคือจุดที่อัลกอริทึมของเราสามารถช่วยได้จริงๆ อัลกอริธึมของเราจะคิดถึงผลกระทบที่เลวร้ายที่สุดในอนาคตของการเลือกเต่าหรือปืนไรเฟิลซึ่ง อาจเป็นก้าวสำคัญในการแก้ไขปัญหาด้านความปลอดภัยที่สำคัญเมื่อ A.I. การตัดสินใจของตัวแทนมีระยะยาว ผล."

มีบทความบรรยายการวิจัยคือ พร้อมให้อ่านบนพื้นที่เก็บข้อมูลแบบอิเล็กทรอนิกส์ก่อนพิมพ์ arXiv.

คำแนะนำของบรรณาธิการ

• อะนาล็อกเอไอ? ฟังดูบ้าบอ แต่อาจจะเป็นอนาคตก็ได้
• นี่คือสิ่งที่ A.I. วิเคราะห์แนวโน้ม คิดว่าจะเป็นสิ่งที่ยิ่งใหญ่ต่อไปในเทคโนโลยี
• แคลิฟอร์เนียมีปัญหาไฟดับ แบตเตอรี่กระแสยักษ์อาจเป็นวิธีแก้ปัญหาได้หรือไม่?
• สถาปัตยกรรมอัลกอริทึม: เราควรปล่อยให้ A.I. ออกแบบอาคารให้เราเหรอ?
• A.I. การตรวจจับอารมณ์ มาแล้ว และอาจอยู่ในการสัมภาษณ์งานครั้งถัดไปของคุณ