ทำไมปัญญาประดิษฐ์สัญลักษณ์ประสาทจึงเป็น A.I. แห่งอนาคต

ลองนึกภาพถาด บนถาดมีรูปทรงต่างๆ มากมาย เช่น ลูกบาศก์ และทรงกลมอื่นๆ รูปทรงทำจากวัสดุหลากหลายชนิดและมีหลายขนาด โดยรวมแล้วอาจมีวัตถุแปดชิ้น คำถามของฉัน: “เมื่อมองดูวัตถุ มีสิ่งของขนาดใหญ่และทรงกลมโลหะจำนวนเท่ากันหรือไม่”

สารบัญ

  • การขึ้นและลงของ A.I. เชิงสัญลักษณ์
  • โลกแห่งโครงข่ายประสาทเทียม
  • ไฟไหม้สัญญาณไฟจราจร
  • ไอเดียเสริม
  • AI. การวิจัย: รุ่นต่อไป
รูปร่างของไอบีเอ็ม วัตสัน

มันไม่ใช่คำถามหลอกลวง ความจริงที่ว่ามันฟังดูเหมือนเป็นการพิสูจน์ว่าแท้จริงแล้วมันเรียบง่ายแค่ไหน เป็นคำถามที่เด็กก่อนวัยเรียนมักจะตอบได้อย่างง่ายดาย แต่มันก็เป็นไปไม่ได้เลยสำหรับโครงข่ายประสาทเทียมที่ล้ำสมัยในปัจจุบัน สิ่งนี้จำเป็นต้องเปลี่ยนแปลง และมันจำเป็นต้องเกิดขึ้นโดยการสร้างสรรค์ปัญญาประดิษฐ์ขึ้นมาใหม่ตามที่เรารู้

วิดีโอแนะนำ

นั่นไม่ใช่ความคิดเห็นของฉัน มันเป็นความเห็นของ เดวิด ค็อกซ์ผู้อำนวยการ MIT-IBM Watson A.I. ห้องทดลองในเคมบริดจ์ รัฐแมสซาชูเซตส์ ในชีวิตก่อนหน้านี้ Cox เคยเป็นศาสตราจารย์ที่มหาวิทยาลัยฮาร์วาร์ด ซึ่งทีมของเขาใช้ข้อมูลเชิงลึกจากประสาทวิทยาศาสตร์เพื่อช่วยสร้างระบบคอมพิวเตอร์แมชชีนเลิร์นนิงที่ได้รับแรงบันดาลใจจากสมองที่ดีขึ้น ในบทบาทปัจจุบันของเขาที่ IBM เขาดูแลความร่วมมือที่เป็นเอกลักษณ์ระหว่าง MIT และ IBM ที่กำลังพัฒนา A.I. การวิจัย รวมถึง Watson A.I. แพลตฟอร์ม. วัตสันสำหรับผู้ที่ไม่รู้คือ A.I. ซึ่งเอาชนะผู้เล่นเกมโชว์ชั้นนำสองคนได้อย่างโด่งดัง

ในประวัติศาสตร์ในรายการตอบคำถามทางทีวี อันตราย. วัตสันยังเป็นระบบแมชชีนเลิร์นนิงโดยหลัก ซึ่งได้รับการฝึกฝนโดยใช้ข้อมูลจำนวนมาก ซึ่งตรงข้ามกับกฎที่มนุษย์ได้รับ

David Cox ผู้อำนวยการ IBM MIT-IBM Watson AI Lab
เดวิด ค็อกซ์ – ผู้อำนวยการ IBM, MIT-IBM Watson AI Labห้องปฏิบัติการ AI ของ MIT-IBM Watson AI

ดังนั้นเมื่อ Cox บอกว่าโลกจำเป็นต้องคิดใหม่เกี่ยวกับ A.I. เมื่อก้าวเข้าสู่ทศวรรษใหม่ มันฟังดูแปลกๆ ท้ายที่สุดแล้ว ปี 2010 ถือเป็นทศวรรษที่ประสบความสำเร็จมากที่สุดในด้าน A.I. ประวัติศาสตร์: ช่วงเวลาที่ความก้าวหน้าเกิดขึ้นทุกสัปดาห์ และไม่มีนัยยะที่หนาวจัด AI. ฤดูหนาว ข้อมูลเชิงลึก. นี่คือเหตุผลว่าทำไมเขาถึงคิดว่า A.I. จำเป็นต้องเปลี่ยนแปลงอย่างไรก็ตาม และข้อเสนอแนะของเขาสำหรับการเปลี่ยนแปลงนั้น ซึ่งเป็นคำที่คลุมเครือในปัจจุบันที่เรียกว่า "A.I. ทางระบบประสาท" อาจกลายเป็นหนึ่งในวลีที่เราคุ้นเคยอย่างใกล้ชิดเมื่อถึงเวลาสิ้นสุดปี 2020

การขึ้นและลงของ A.I. เชิงสัญลักษณ์

A.I. สัญลักษณ์ประสาท พูดอย่างเคร่งครัดไม่ใช่วิธีใหม่ในการทำ A.I เป็นการผสมผสานระหว่างสองแนวทางที่มีอยู่ในการสร้างเครื่องจักรแห่งการคิด ซึ่งครั้งหนึ่งเคยเป็นศัตรูกัน

ส่วน “สัญลักษณ์” ของชื่อหมายถึงแนวทางกระแสหลักวิธีแรกในการสร้างปัญญาประดิษฐ์ ตั้งแต่ทศวรรษ 1950 ถึง 1980 A.I. เชิงสัญลักษณ์ ปกครองสูงสุด ถึง A.I. เชิงสัญลักษณ์ นักวิจัยกล่าวว่า ความฉลาดนั้นขึ้นอยู่กับความสามารถของมนุษย์ในการทำความเข้าใจโลกรอบตัวโดยการสร้างสัญลักษณ์แทนภายใน จากนั้นพวกเขาจะสร้างกฎเกณฑ์ในการจัดการกับแนวคิดเหล่านี้ และกฎเหล่านี้สามารถจัดทำอย่างเป็นทางการในลักษณะที่รวบรวมความรู้ในชีวิตประจำวัน

Shakey the Robot: หุ่นยนต์ตัวแรกที่รวบรวมปัญญาประดิษฐ์

หากสมองเปรียบได้กับคอมพิวเตอร์ นั่นหมายความว่าทุกสถานการณ์ที่เราเผชิญนั้นต้องอาศัยการที่เราใช้สมอง โปรแกรมคอมพิวเตอร์ภายในที่อธิบายทีละขั้นตอนวิธีดำเนินการตามทั้งหมด ตรรกะ. โดยมีเงื่อนไขว่าในกรณีนี้ A.I. เชิงสัญลักษณ์ นักวิจัยเชื่อว่ากฎเดียวกันเหล่านั้นเกี่ยวกับ การจัดระเบียบของโลกสามารถถูกค้นพบและประมวลผลในรูปแบบของอัลกอริธึมสำหรับคอมพิวเตอร์ได้ ดำเนินต่อไป.

สัญลักษณ์ A.I. ทำให้เกิดการสาธิตที่น่าประทับใจ ตัวอย่างเช่น ในปี 1964 นักวิทยาศาสตร์คอมพิวเตอร์ เบอร์แทรม ราฟาเอล ได้พัฒนาระบบที่เรียกว่า SIR ซึ่งย่อมาจาก “การดึงข้อมูลความหมาย” SIR เป็นระบบการให้เหตุผลเชิงคำนวณที่ดูเหมือนจะสามารถเรียนรู้ความสัมพันธ์ระหว่างวัตถุในลักษณะที่คล้ายกับสติปัญญาที่แท้จริง เช่น หากคุณจะบอกว่า “จอห์นเป็นเด็กผู้ชาย เด็กชายก็คือบุคคล บุคคลมีสองมือ มือมีห้านิ้ว” จากนั้น SIR จะตอบคำถาม “จอห์นมีนิ้วกี่นิ้ว” ด้วยหมายเลข 10 ที่ถูกต้อง

“…มีรอยแตกร้าวบนกำแพงที่กำลังเริ่มปรากฏให้เห็น”

ระบบคอมพิวเตอร์ที่ใช้สัญลักษณ์ A.I. เข้าสู่จุดสูงสุดของอำนาจ (และความเสื่อมถอย) ในทศวรรษ 1980 นี่เป็นทศวรรษของสิ่งที่เรียกว่า "ระบบผู้เชี่ยวชาญ" ซึ่งพยายามใช้ระบบที่อิงกฎเกณฑ์เพื่อแก้ไขปัญหาในโลกแห่งความเป็นจริง เช่น ช่วยให้นักเคมีอินทรีย์ระบุโมเลกุลอินทรีย์ที่ไม่รู้จักหรือช่วยเหลือแพทย์ในการแนะนำยาปฏิชีวนะในปริมาณที่เหมาะสม การติดเชื้อ

แนวคิดพื้นฐานของระบบผู้เชี่ยวชาญเหล่านี้มีความมั่นคง แต่พวกเขามีปัญหา ระบบมีราคาแพง ต้องมีการอัปเดตอย่างต่อเนื่อง และที่แย่ที่สุดคืออาจมีความแม่นยำน้อยลงหากมีการรวมกฎมากขึ้น

โลกแห่งโครงข่ายประสาทเทียม

ส่วน “นิวโร” ของ A.I. ที่เป็นสัญลักษณ์ประสาท อ้างถึง โครงข่ายประสาทเทียมการเรียนรู้เชิงลึก. โครงข่ายประสาทเทียมเป็นประเภทการคำนวณที่ได้รับแรงบันดาลใจจากสมอง ซึ่งขับเคลื่อนระบบ A.I. ความก้าวหน้าที่เห็นได้ในทศวรรษที่ผ่านมา AI. ที่สามารถขับรถได้เหรอ? ตาข่ายประสาท AI. ซึ่งสามารถแปลข้อความเป็นภาษาต่างๆ ได้หลายภาษา? ตาข่ายประสาท AI. ซึ่งช่วยให้ลำโพงอัจฉริยะในบ้านของคุณเข้าใจเสียงของคุณ? โครงข่ายประสาทเทียมเป็นเทคโนโลยีที่ต้องขอบคุณ

โครงข่ายประสาทเทียมที่ซับซ้อน

โครงข่ายประสาทเทียมทำงานแตกต่างไปจาก A.I. สัญลักษณ์ เพราะมันขับเคลื่อนด้วยข้อมูลมากกว่าอิงตามกฎ เพื่ออธิบายบางสิ่งให้กับ A.I. เชิงสัญลักษณ์ ระบบหมายถึงการให้ข้อมูลทุกอย่างที่จำเป็นอย่างชัดเจนเพื่อให้สามารถระบุตัวตนที่ถูกต้องได้ ในการเปรียบเทียบ ลองจินตนาการถึงการส่งใครสักคนไปรับแม่ของคุณจากสถานีขนส่ง แต่ต้องอธิบายเธอโดยจัดเตรียมกฎเกณฑ์ที่จะให้เพื่อนของคุณเลือกเธอออกจากฝูงชน หากต้องการฝึกโครงข่ายประสาทเทียมให้ทำ คุณเพียงแค่แสดงรูปภาพของวัตถุดังกล่าวหลายพันรูป เมื่อฉลาดเพียงพอแล้ว ไม่เพียงแต่จะสามารถจดจำวัตถุนั้นได้เท่านั้น มันสามารถสร้างวัตถุที่คล้ายกันขึ้นมาเองได้ ไม่เคยมีอยู่ในโลกแห่งความเป็นจริง.

“แน่นอนว่าการเรียนรู้เชิงลึกทำให้เกิดความก้าวหน้าที่น่าทึ่ง” David Cox กล่าวกับ Digital Trends “ในขณะเดียวกันก็มีรอยแตกร้าวบนกำแพงที่กำลังเริ่มปรากฏให้เห็น”

หนึ่งในสิ่งที่เรียกว่าแคร็กนี้ขึ้นอยู่กับสิ่งที่ทำให้โครงข่ายประสาทเทียมในปัจจุบันมีประสิทธิภาพอย่างมาก นั่นก็คือ ข้อมูล เช่นเดียวกับมนุษย์ โครงข่ายประสาทเทียมเรียนรู้ตามตัวอย่าง แต่ในขณะที่มนุษย์อาจต้องการดูตัวอย่างการฝึกอบรมของวัตถุหนึ่งหรือสองตัวอย่างเท่านั้นเพื่อให้สามารถจดจำได้อย่างถูกต้อง แต่ A.I. จะต้องมีอีกมากมายอีกมากมาย ความแม่นยำขึ้นอยู่กับการมีข้อมูลที่มีคำอธิบายประกอบจำนวนมากซึ่งสามารถเรียนรู้งานใหม่แต่ละงานได้

ไฟไหม้สัญญาณไฟจราจร

นั่นทำให้พวกเขาเก่งน้อยลงในเรื่องปัญหา "หงส์ดำ" ที่หาได้ยากทางสถิติ งานหงส์ดำได้รับความนิยมจาก นาสซิม นิโคลัส ทาเลบเป็นกรณีมุมที่หายากทางสถิติ “โซลูชันการเรียนรู้เชิงลึกจำนวนมากของเราในปัจจุบัน – ที่น่าทึ่งก็คือ – เป็นโซลูชันประเภท 80-20” Cox กล่าวต่อ “พวกเขาจะได้รับคดีความที่ถูกต้อง 80% แต่ถ้าคดีสำคัญเหล่านั้นมีความสำคัญ พวกเขาก็จะล้มลง หากคุณเห็นวัตถุที่ปกติไม่อยู่ใน [ในสถานที่ใดสถานที่หนึ่ง] หรือวัตถุที่มีการวางแนวที่แปลกเล็กน้อย แม้แต่ระบบที่น่าทึ่งก็จะล้มลง”

ขอแนะนำออโตมาตาอันชาญฉลาด

ก่อนที่เขาจะมาร่วมงานกับ IBM Cox ได้ร่วมก่อตั้งบริษัท ออโตมาตะที่รับรู้ที่พัฒนาซอฟต์แวร์สำหรับรถยนต์ไร้คนขับ ทีมงานมีช่อง Slack ที่พวกเขาโพสต์ภาพตลกๆ ที่พวกเขาบังเอิญเจอระหว่างการรวบรวมข้อมูล หนึ่งในนั้นถ่ายที่สี่แยกพบสัญญาณไฟจราจรกำลังลุกไหม้ “นี่เป็นหนึ่งในกรณีเหล่านั้นที่คุณอาจไม่เคยเห็นมาก่อนในชีวิต” คอคส์กล่าว “ฉันไม่รู้ว่า Waymo และ Tesla มีภาพสัญญาณไฟจราจรที่ลุกไหม้ในชุดข้อมูลที่พวกเขาใช้หรือไม่ ฝึกฝนโครงข่ายประสาทเทียมของพวกเขา แต่ฉันยินดีเดิมพัน … หากพวกเขามี พวกเขาจะมีเพียงมากเท่านั้น น้อย."

เคสหัวมุมจะต้องเป็นสิ่งที่ไม่มีนัยสำคัญเพราะมันไม่ค่อยเกิดขึ้นและไม่สำคัญมากนักเมื่อมันเกิดขึ้น การได้รับคำแนะนำร้านอาหารที่ไม่ดีอาจไม่เหมาะนัก แต่อาจไม่เพียงพอที่จะทำลายวันของคุณด้วยซ้ำ ตราบใดที่คำแนะนำ 99 ข้อก่อนหน้านี้ที่ระบบสร้างขึ้นนั้นดี ก็ไม่มีสาเหตุที่แท้จริงที่ทำให้หงุดหงิด รถที่ขับเคลื่อนด้วยตนเองไม่ตอบสนองอย่างเหมาะสมที่ทางแยกเนื่องจากสัญญาณไฟจราจรที่ลุกไหม้หรือรถม้าอาจทำอะไรได้มากกว่าทำลายวันของคุณ มันอาจจะไม่น่าจะเกิดขึ้น แต่ถ้าเกิดขึ้น เราต้องการทราบว่าระบบได้รับการออกแบบมาให้สามารถรับมือกับมันได้

“ถ้าคุณมีความสามารถในการให้เหตุผลและคาดการณ์เกินกว่าที่เราเคยเห็นมาก่อน เราสามารถจัดการกับสถานการณ์เหล่านี้ได้” Cox อธิบาย “เรารู้ว่ามนุษย์สามารถทำเช่นนั้นได้ ถ้าผมเห็นไฟจราจรติดไฟ ผมสามารถนำความรู้มากมายมาแบกรับได้ ตัวอย่างเช่น ฉันรู้ว่าแสงไม่ได้บอกฉันว่าฉันควรหยุดหรือไป ฉันรู้ว่าฉันต้องระวังเพราะ [คนขับรอบตัวฉันจะสับสน] ฉันรู้ว่าคนขับที่สวนทางมาอาจมีพฤติกรรมแตกต่างออกไปเพราะไฟของพวกเขาอาจทำงาน ฉันสามารถให้เหตุผลถึงแผนปฏิบัติการที่จะพาฉันไปในที่ที่ฉันต้องไป ในการตั้งค่าที่มีความสำคัญต่อความปลอดภัยและภารกิจสำคัญเหล่านั้น ฉันไม่คิดว่าการเรียนรู้เชิงลึกจะให้บริการเราได้อย่างสมบูรณ์แบบ นั่นเป็นเหตุผลที่เราต้องการโซลูชั่นเพิ่มเติม”

ไอเดียเสริม

แนวคิดของ A.I. สัญลักษณ์ทางระบบประสาท คือการนำแนวทางเหล่านี้มารวมกันเพื่อผสมผสานทั้งการเรียนรู้และตรรกะ โครงข่ายประสาทเทียมจะช่วยสร้าง A.I เชิงสัญลักษณ์ ระบบมีความชาญฉลาดมากขึ้นด้วยการแบ่งโลกออกเป็นสัญลักษณ์ แทนที่จะอาศัยโปรแกรมเมอร์ที่เป็นมนุษย์เพื่อทำสิ่งนี้แทน ในขณะเดียวกัน A.I. เชิงสัญลักษณ์ อัลกอริธึมจะช่วยรวมการใช้เหตุผลสามัญสำนึกและความรู้ในโดเมนเข้ากับการเรียนรู้เชิงลึก ผลลัพธ์อาจนำไปสู่ความก้าวหน้าที่สำคัญใน A.I. ระบบที่จัดการกับงานที่ซับซ้อน ซึ่งเกี่ยวข้องกับทุกสิ่งตั้งแต่รถยนต์ที่ขับเคลื่อนด้วยตนเองไปจนถึงการประมวลผลภาษาธรรมชาติ และในขณะเดียวกันก็ต้องการข้อมูลในการฝึกอบรมน้อยกว่ามาก

อธิบาย AI ทางระบบประสาท

“โครงข่ายประสาทเทียมและแนวคิดเชิงสัญลักษณ์เป็นสิ่งเสริมซึ่งกันและกันอย่างน่าอัศจรรย์” Cox กล่าว “เพราะว่าโครงข่ายประสาทเทียมให้คำตอบแก่คุณในการหลุดพ้นจากความยุ่งเหยิงในโลกแห่งความเป็นจริงมาสู่การเป็นตัวแทนเชิงสัญลักษณ์ของโลก โดยค้นหาความสัมพันธ์ทั้งหมดภายในภาพ เมื่อคุณมีการนำเสนอเชิงสัญลักษณ์แล้ว คุณสามารถทำสิ่งมหัศจรรย์ในแง่ของการให้เหตุผลได้”

ตัวอย่างเช่น ในตัวอย่างรูปทรงที่ฉันเริ่มบทความนี้ ระบบสัญลักษณ์ประสาทจะใช้ความสามารถในการจดจำรูปแบบของโครงข่ายประสาทเทียมเพื่อระบุวัตถุ จากนั้นมันจะอาศัย A.I เชิงสัญลักษณ์ เพื่อใช้ตรรกะและการใช้เหตุผลเชิงความหมายเพื่อเปิดเผยความสัมพันธ์ใหม่ๆ ระบบดังกล่าวได้ ได้รับการพิสูจน์แล้วว่าทำงานได้อย่างมีประสิทธิภาพ.

ไม่ใช่แค่กรณีหัวมุมเท่านั้นที่จะมีประโยชน์เช่นกัน สิ่งสำคัญมากขึ้นเรื่อยๆ ที่ A.I. ระบบสามารถอธิบายได้เมื่อจำเป็น โครงข่ายประสาทเทียมสามารถทำงานบางอย่างได้ดีเป็นพิเศษ แต่เหตุผลภายในส่วนใหญ่คือ "กล่องดำ" ซึ่งไม่อาจเข้าใจได้สำหรับผู้ที่ต้องการทราบวิธีการตัดสินใจ ขอย้ำอีกครั้งว่าสิ่งนี้ไม่สำคัญมากนักหากเป็นบอทที่แนะนำแทร็กที่ผิดบน Spotify แต่ถ้าคุณถูกปฏิเสธการกู้ยืมเงินจากธนาคาร ปฏิเสธการสมัครงาน หรือมีคนได้รับบาดเจ็บใน กรณีที่เกี่ยวข้องกับรถยนต์ขับเคลื่อนอัตโนมัติ คุณควรอธิบายได้ดีกว่าว่าเหตุใดจึงได้รับคำแนะนำบางประการ ทำ. นั่นคือสิ่งที่ A.I. ซึ่งเป็นสัญลักษณ์ของระบบประสาท สามารถเข้ามาได้

AI. การวิจัย: รุ่นต่อไป

ไม่กี่ทศวรรษที่ผ่านมา โลกแห่งสัญลักษณ์ A.I. และโครงข่ายประสาทเทียมขัดแย้งกัน บุคคลที่มีชื่อเสียงซึ่งสนับสนุนแนวทางดังกล่าวไม่เพียงแต่เชื่อว่าแนวทางของพวกเขาถูกต้องเท่านั้น พวกเขาเชื่อว่านี่หมายความว่าแนวทางอื่นนั้นผิด พวกเขาไม่จำเป็นต้องไม่ถูกต้องในการทำเช่นนั้น แข่งขันกันเพื่อแก้ไขปัญหาเดียวกัน และมีเงินทุนจำกัด ทั้งสองโรงเรียนของ A.I. ปรากฏเป็นศัตรูกันโดยพื้นฐาน วันนี้ดูเหมือนว่าสิ่งที่ตรงกันข้ามจะกลายเป็นจริง

“เป็นเรื่องน่าทึ่งมากที่ได้เห็นคนรุ่นใหม่” ค็อกซ์กล่าว “[คนจำนวนมากในทีมของฉัน] เป็นผู้ที่อายุน้อย สดชื่น ตื่นเต้น และเพิ่งจะจบปริญญาเอก พวกเขาไม่มีประวัติแบบนั้นเลย พวกเขาไม่สนใจ [เกี่ยวกับทั้งสองแนวทางที่เผชิญหน้ากัน] และการไม่ใส่ใจนั้นทรงพลังมากเพราะมันเปิดใจให้คุณและกำจัดอคติเหล่านั้น พวกเขามีความสุขที่ได้สำรวจทางแยก… พวกเขาแค่อยากทำอะไรเจ๋งๆ ด้วย A.I”

หากทุกอย่างเป็นไปตามแผนเราทุกคนก็จะได้รับประโยชน์จากผลลัพธ์

คำแนะนำของบรรณาธิการ

  • อะนาล็อกเอไอ? ฟังดูบ้าบอ แต่อาจจะเป็นอนาคตก็ได้
  • อ่าน 'พระคัมภีร์สังเคราะห์' ที่สวยงามน่าขนลุกของ A.I. ที่คิดว่าเป็นพระเจ้า
  • สถาปัตยกรรมอัลกอริทึม: เราควรปล่อยให้ A.I. ออกแบบอาคารให้เราเหรอ?
  • นางแบบภาษา: GPT-3 เปิดตัว A.I. อย่างเงียบ ๆ ได้อย่างไร การปฎิวัติ
  • Women with Byte: แผนการของวิเวียน หมิงในการแก้ปัญหา 'ปัญหายุ่งวุ่นวายของมนุษย์' ด้วย A.I.

หมวดหมู่

ล่าสุด

Unreal Engine 4 ของ Epic Games ขับเคลื่อนการปรับแต่งรถ Chevrolet ใหม่

Unreal Engine 4 ของ Epic Games ขับเคลื่อนการปรับแต่งรถ Chevrolet ใหม่

เทคโนโลยีวิดีโอเกมแบบเดียวกับที่ขับเคลื่อน Micr...

CES 2017: VirZoom คิดว่าการแข่งขันอาจเป็นอนาคตของการออกกำลังกาย

CES 2017: VirZoom คิดว่าการแข่งขันอาจเป็นอนาคตของการออกกำลังกาย

ในช่วงปีใหม่ หลายๆ คนให้ความสำคัญกับการออกกำลัง...

Alan Tudyk ของ 'Rogue One' พูดถึงชีวิตในชุด Star Wars

Alan Tudyk ของ 'Rogue One' พูดถึงชีวิตในชุด Star Wars

Alan Tudyk มีอยู่ทุกที่ในทุกวันนี้ ดาราลัทธิไซไ...