ทำไม AI ถึงไม่มีวันครองโลก

เรียกมันว่าสมมติฐาน Skynet, Artificial General Intelligence หรือการมาถึงของ Singularity เป็นเวลาหลายปีที่ผู้เชี่ยวชาญด้าน AI และ ผู้ที่ไม่ใช่ผู้เชี่ยวชาญต่างก็รู้สึกไม่สบายใจ (และสำหรับกลุ่มเล็ก ๆ ก็เฉลิมฉลอง) แนวคิดที่ว่าปัญญาประดิษฐ์อาจจะฉลาดขึ้นสักวันหนึ่ง กว่ามนุษย์

ตามทฤษฎีแล้ว ความก้าวหน้าใน AI โดยเฉพาะประเภทการเรียนรู้ของเครื่องที่สามารถสร้างสิ่งใหม่ได้ ข้อมูลและเขียนโค้ดใหม่ตามลำดับ - ในที่สุดก็จะทันกับชุดเปียกของสิ่งมีชีวิต สมอง. ในการตีความเหตุการณ์นี้ AI ทุกตัวก้าวหน้ามาจาก อันตราย-ชนะรางวัลเครื่อง IBM สู่ โมเดลภาษา AI ขนาดใหญ่ GPT-3 กำลังนำมนุษยชาติเข้าใกล้ภัยคุกคามที่มีอยู่อีกก้าวหนึ่ง เรากำลังสร้างของเราอย่างแท้จริง ผู้สืบสันดานในไม่ช้านี้.

วิดีโอแนะนำ

ยกเว้นว่ามันจะไม่เกิดขึ้น อย่างน้อยตามผู้เขียนหนังสือเล่มใหม่ ทำไมเครื่องจักรถึงไม่มีวันครองโลก: ปัญญาประดิษฐ์ที่ปราศจากความกลัว.

ผู้ร่วมเขียนมหาวิทยาลัยที่ศาสตราจารย์ปรัชญาบัฟฟาโล แบร์รี่ สมิธ และ จ็อบส์ท ลันด์เกรบผู้ก่อตั้งบริษัท AI ของเยอรมนี Cognotekt โต้แย้งว่า "เผด็จการอมตะ" จะไม่ครอบงำสติปัญญาของมนุษย์ในเร็วๆ นี้ หรือตลอดไป พวกเขาบอก เทรนด์ดิจิทัล เหตุผลของพวกเขาว่าทำไม

รูปภาพที่แสดง AI โดยมีเซลล์ประสาทแตกแขนงออกมาจากศีรษะของมนุษย์

Digital Trends (DT): หัวข้อนี้เป็นที่รู้จักของคุณได้อย่างไร

จ็อบส์ท ลันด์เกรบ (JL): ฉันเป็นแพทย์และนักชีวเคมีโดยผ่านการฝึกอบรม เมื่อฉันเริ่มต้นอาชีพ ฉันทำการทดลองที่สร้างข้อมูลจำนวนมาก ฉันเริ่มศึกษาคณิตศาสตร์เพื่อให้สามารถตีความข้อมูลเหล่านี้ได้ และพบว่าการจำลองระบบทางชีววิทยาโดยใช้คณิตศาสตร์นั้นยากเพียงใด มีความไม่สอดคล้องกันระหว่างวิธีการทางคณิตศาสตร์และข้อมูลทางชีววิทยาอยู่เสมอ

ในวัยสามสิบกลางๆ ฉันออกจากสถาบันการศึกษาและกลายเป็นที่ปรึกษาทางธุรกิจและผู้ประกอบการที่ทำงานในระบบซอฟต์แวร์ปัญญาประดิษฐ์ ฉันพยายามสร้างระบบ AI เพื่อเลียนแบบสิ่งที่มนุษย์สามารถทำได้ ฉันรู้ว่าฉันกำลังประสบปัญหาเดียวกันกับที่ฉันเคยเจอเมื่อหลายปีก่อนในด้านชีววิทยา

ลูกค้าพูดกับฉันว่า 'ทำไมคุณไม่สร้างแชทบอทล่ะ' ฉันพูดว่า 'เพราะมันใช้งานไม่ได้ เราไม่สามารถจำลองระบบประเภทนี้ได้อย่างถูกต้อง' นั่นทำให้ฉันเขียนหนังสือเล่มนี้ในท้ายที่สุด

ศาสตราจารย์แบร์รี่ สมิธ (BS): ฉันคิดว่ามันเป็นปัญหาที่น่าสนใจมาก ฉันมีปัญหาคล้าย ๆ กันกับ AI อยู่แล้ว แต่ฉันไม่เคยคิดเลย เริ่มแรกเราเขียนบทความชื่อ 'ทำให้ปัญญาประดิษฐ์มีความหมายอีกครั้ง.' (นี่คือยุคของทรัมป์) เป็นเรื่องเกี่ยวกับสาเหตุที่โครงข่ายประสาทเทียมล้มเหลวในการสร้างแบบจำลองภาษา จากนั้นเราจึงตัดสินใจขยายบทความออกเป็นหนังสือที่เจาะลึกหัวข้อนี้ให้ลึกซึ้งยิ่งขึ้น

DT: หนังสือของคุณแสดงความสงสัยเกี่ยวกับวิธีที่โครงข่ายประสาทซึ่งมีความสำคัญต่อการเรียนรู้เชิงลึกสมัยใหม่ เลียนแบบสมองของมนุษย์ เป็นการประมาณแทนที่จะเป็นแบบจำลองที่แม่นยำของการทำงานของสมองทางชีววิทยา แต่คุณยอมรับสมมติฐานหลักที่ว่าเป็นไปได้หรือไม่ว่าถ้าเราจะเข้าใจสมองแบบละเอียด รายละเอียดเพียงพอ มันสามารถจำลองแบบเทียมได้ และสิ่งนี้จะทำให้เกิดความฉลาดหรือ ความรู้สึก?

เจแอล: ชื่อ 'โครงข่ายประสาทเทียม' เป็นการเรียกชื่อผิดโดยสิ้นเชิง โครงข่ายประสาทเทียมที่เรามีตอนนี้ แม้แต่โครงข่ายที่ซับซ้อนที่สุด ก็ไม่เกี่ยวข้องกับวิธีการทำงานของสมองเลย มุมมองที่ว่าสมองคือชุดของโหนดที่เชื่อมต่อถึงกันในลักษณะที่สร้างโครงข่ายประสาทเทียมนั้นไร้เดียงสาโดยสิ้นเชิง

หากคุณดูที่เซลล์แบคทีเรียดึกดำบรรพ์ที่สุด เรายังไม่เข้าใจว่ามันทำงานอย่างไร เราเข้าใจบางแง่มุมของมัน แต่เราไม่มีแบบจำลองวิธีการทำงาน ไม่ต้องพูดถึงเซลล์ประสาทซึ่งซับซ้อนกว่ามาก หรือมีเซลล์ประสาทนับพันล้านที่เชื่อมต่อถึงกัน ฉันเชื่อว่ามันเป็นทางวิทยาศาสตร์ เป็นไปไม่ได้ เพื่อทำความเข้าใจวิธีการทำงานของสมอง เราสามารถเข้าใจได้เฉพาะบางแง่มุมและจัดการกับบางแง่มุมเหล่านี้เท่านั้น เราไม่มีและจะไม่เข้าใจวิธีการทำงานของสมองอย่างถ่องแท้

หากเรามีความเข้าใจอย่างถ่องแท้ว่าแต่ละโมเลกุลของสมองทำงานอย่างไร เราก็อาจจะจำลองมันขึ้นมาได้ นั่นหมายถึงการใส่ทุกอย่างลงในสมการทางคณิตศาสตร์ จากนั้นคุณสามารถทำซ้ำสิ่งนี้ได้โดยใช้คอมพิวเตอร์ ปัญหาคือเราไม่สามารถเขียนและสร้างสมการเหล่านั้นได้

โปรไฟล์ของหัวบนชิปคอมพิวเตอร์ปัญญาประดิษฐ์ — กราฟิกเทรนด์ดิจิทัล

BS: สิ่งที่น่าสนใจที่สุดในโลกหลายอย่างเกิดขึ้นในระดับรายละเอียดที่เราไม่สามารถเข้าถึงได้ เราไม่มีอุปกรณ์สร้างภาพ และเราก็คงไม่มีวันมีอุปกรณ์สร้างภาพ เพื่อจับภาพส่วนใหญ่ที่เกิดขึ้นในระดับที่ละเอียดมากของสมอง

ซึ่งหมายความว่าเราไม่รู้ว่าอะไรเป็นสาเหตุของจิตสำนึก ในความเป็นจริง มีปัญหาทางปรัชญาที่น่าสนใจอยู่หลายชุด ซึ่งตามวิธีการที่เรากำลังติดตามอยู่นั้น มักจะแก้ไขไม่ได้เสมอไป ดังนั้นเราจึงควรเพิกเฉยต่อปัญหาเหล่านั้น

อีกประการหนึ่งคืออิสรภาพแห่งเจตจำนง เราสนับสนุนแนวคิดที่ว่ามนุษย์มีเจตจำนงอย่างยิ่ง เราสามารถมีความตั้งใจ เป้าหมาย และอื่นๆ ได้ แต่เราไม่รู้ว่ามันเป็นเจตจำนงเสรีหรือไม่ นั่นเป็นปัญหาที่เกี่ยวข้องกับฟิสิกส์ของสมอง เท่าที่เกี่ยวข้องกับหลักฐานที่เรามีอยู่ คอมพิวเตอร์ไม่สามารถมีพินัยกรรมได้

DT: คำบรรยายของหนังสือคือ 'ปัญญาประดิษฐ์ที่ไม่มีความกลัว' ความกลัวเฉพาะเจาะจงที่คุณอ้างถึงคืออะไร?

BS: นั่นถูกกระตุ้นโดยวรรณกรรมเกี่ยวกับภาวะเอกฐานซึ่งฉันรู้ว่าคุณคุ้นเคย นิค บอสทรอม, เดวิด ชาลเมอร์ส, อีลอน มัสก์ และอื่นๆ เมื่อเราพูดคุยกับเพื่อนร่วมงานในโลกแห่งความเป็นจริง มันก็ชัดเจนสำหรับเราว่ามีก ความกลัวบางอย่างในหมู่ประชาชนว่าในที่สุด AI จะเข้ามาครอบงำและเปลี่ยนแปลงโลกให้เสียหาย มนุษย์

เรามีหนังสือเกี่ยวกับข้อโต้แย้งประเภท Bostrum ค่อนข้างมาก ข้อโต้แย้งหลักที่ต่อต้านพวกเขาคือ ถ้าเครื่องจักรไม่สามารถมีเจตจำนงได้ มันก็จะไม่มีเจตจำนงที่ชั่วร้ายเช่นกัน หากไม่มีเจตจำนงชั่วร้ายก็ไม่มีอะไรต้องกลัว แน่นอนว่าตอนนี้เรายังคงกลัวเครื่องจักรได้ เช่นเดียวกับที่เรากลัวปืน

แต่นั่นเป็นเพราะเครื่องจักรได้รับการจัดการโดยคนที่มีจุดจบที่ชั่วร้าย แต่ไม่ใช่ AI ที่ชั่วร้าย คือคนที่สร้างและเขียนโปรแกรม AI

DT: เหตุใดแนวคิดเรื่องเอกภาวะหรือปัญญาประดิษฐ์ทั่วไปจึงสนใจผู้คนมากขนาดนี้ ไม่ว่าพวกเขาจะกลัวหรือหลงใหลในสิ่งนี้ มีบางอย่างเกี่ยวกับแนวคิดนี้ที่โดนใจผู้คนในวงกว้าง

เจแอล: มีแนวคิดนี้ซึ่งเริ่มต้นเมื่อต้นศตวรรษที่ 19 และจากนั้นนิทเช่ก็ประกาศเมื่อปลายศตวรรษนั้นว่าพระเจ้าทรงสิ้นพระชนม์แล้ว เนื่องจากชนชั้นสูงในสังคมของเราไม่ใช่คริสเตียนอีกต่อไป พวกเขาจึงต้องมีคนมาทดแทน แม็กซ์ สเตอร์ลิง ซึ่งเหมือนกับคาร์ล มาร์กซ์ ลูกศิษย์ของเฮเกล ได้เขียนหนังสือเกี่ยวกับเรื่องนี้ โดยกล่าวว่า 'ฉันเป็นพระเจ้าของตัวฉันเอง'

หากคุณเป็นพระเจ้า คุณก็อยากเป็นผู้สร้างด้วย หากคุณสามารถสร้างสติปัญญาขั้นสูงได้ คุณก็เป็นเหมือนพระเจ้า ฉันคิดว่ามันเกี่ยวข้องกับแนวโน้มการหลงตัวเองมากเกินไปในวัฒนธรรมของเรา เราไม่ได้พูดถึงเรื่องนี้ในหนังสือ แต่นั่นอธิบายให้ฉันฟังว่าทำไมแนวคิดนี้จึงน่าดึงดูดในยุคของเราซึ่งไม่มีสิ่งเหนือธรรมชาติให้หันไปหาอีกต่อไป

สมองพร้อมข้อความคอมพิวเตอร์เลื่อนปัญญาประดิษฐ์ — Chris DeGraw/แนวโน้มดิจิทัล, Getty Images

ดีที: น่าสนใจ ดังนั้น เพื่อให้เป็นไปตามนั้น แนวคิดที่ว่าการสร้าง AI หรือเป้าหมายในการสร้าง AI ถือเป็นการกระทำที่หลงตัวเอง ในกรณีนั้น แนวคิดที่ว่าการสร้างสรรค์เหล่านี้จะมีพลังมากกว่าเราในทางใดทางหนึ่งนั้นถือเป็นการหักมุมที่เลวร้าย มันเป็นเด็กที่ฆ่าพ่อแม่

เจแอล: นิดนึงก็ใช่ครับ

DT: อะไรคือผลลัพธ์สุดท้ายของหนังสือของคุณหากทุกคนเชื่อมั่นในข้อโต้แย้งของคุณ? อนาคตของการพัฒนา AI จะมีความหมายอย่างไร?

เจแอล: เป็นคำถามที่ดีมาก ฉันสามารถบอกคุณได้อย่างชัดเจนถึงสิ่งที่ฉันคิดว่าจะเกิดขึ้น – และจะเกิดขึ้น ฉันคิดว่าในช่วงกลางภาคเรียน ผู้คนจะยอมรับข้อโต้แย้งของเรา และสิ่งนี้จะสร้างคณิตศาสตร์ประยุกต์ที่ดีขึ้น

สิ่งที่นักคณิตศาสตร์และนักฟิสิกส์ผู้ยิ่งใหญ่ทุกคนตระหนักดีคือข้อจำกัดของสิ่งที่พวกเขาสามารถทำได้ในทางคณิตศาสตร์ เพราะพวกเขาตระหนักถึงสิ่งนี้ พวกเขาจึงมุ่งความสนใจไปที่ปัญหาบางอย่างเท่านั้น หากคุณตระหนักดีถึงข้อจำกัด คุณก็จะท่องโลกกว้างและมองหาปัญหาเหล่านี้และแก้ไข นั่นเป็นวิธีที่ไอน์สไตน์ค้นพบสมการของการเคลื่อนที่แบบบราวเนียน เขาคิดทฤษฎีสัมพัทธภาพขึ้นมาได้อย่างไร พลังค์แก้ไขรังสีวัตถุดำได้อย่างไรและได้ริเริ่มทฤษฎีควอนตัมของสสาร พวกเขามีสัญชาตญาณที่ดีว่าปัญหาใดสามารถแก้ไขได้ด้วยคณิตศาสตร์ แต่ปัญหาใดที่ไม่สามารถแก้ไขได้

หากผู้คนเรียนรู้ข้อความจากหนังสือของเรา เราเชื่อว่าพวกเขาจะสามารถสร้างระบบที่ดีขึ้นได้ เพราะพวกเขา จะมุ่งความสนใจไปที่สิ่งที่เป็นไปได้อย่างแท้จริง และหยุดเสียเงินและความพยายามในสิ่งที่ทำไม่ได้ ประสบความสำเร็จ

BS: ฉันคิดว่าข้อความบางส่วนกำลังผ่านไปแล้ว ไม่ใช่เพราะสิ่งที่เราพูด แต่เป็นเพราะ ประสบการณ์ที่ผู้คนได้รับเมื่อพวกเขาให้เงินจำนวนมากกับโครงการ AI แล้วโครงการ AI ก็ล้มเหลว ฉันเดาว่าคุณคงรู้จักศูนย์ปัญญาประดิษฐ์ร่วม ฉันจำจำนวนเงินที่แน่นอนไม่ได้ แต่ฉันคิดว่าประมาณ 10,000 ล้านดอลลาร์ที่พวกเขามอบให้กับผู้รับเหมาที่มีชื่อเสียง ในที่สุดพวกเขาก็ไม่ได้อะไรเลย พวกเขายกเลิกสัญญา

(หมายเหตุบรรณาธิการ: JAIC ซึ่งเป็นแผนกย่อยของกองทัพสหรัฐอเมริกา มีจุดมุ่งหมายเพื่อเร่ง "การส่งมอบและการนำ AI มาใช้เพื่อให้บรรลุผลต่อภารกิจ ในระดับ” มันถูกรวมเข้าด้วยกันเป็นองค์กรครบวงจรขนาดใหญ่ นั่นคือ Chief Digital และ Artificial Intelligence Officer และมีสำนักงานอีกสองแห่งในเดือนมิถุนายนปีนี้ JAIC ยุติการเป็นนิติบุคคลของตนเอง)

DT: คุณคิดอย่างไรในแง่ระดับสูง ข้อโต้แย้งที่น่าสนใจที่สุดที่คุณเขียนไว้ในหนังสือเล่มนี้?

BS: ระบบ AI ทุกระบบมีลักษณะทางคณิตศาสตร์ เนื่องจากเราไม่สามารถจำลองจิตสำนึก ความตั้งใจ หรือความฉลาดทางคณิตศาสตร์ได้ จึงไม่สามารถจำลองสิ่งเหล่านี้ได้โดยใช้เครื่องจักร ดังนั้นเครื่องจักรจะไม่กลายเป็นอัจฉริยะ ไม่ต้องพูดถึงอัจฉริยะขั้นสูงเลย

เจแอล: โครงสร้างของสมองของเรามีเพียงแบบจำลองทางธรรมชาติที่จำกัดเท่านั้น ในวิชาฟิสิกส์ เราเลือกชุดย่อยของความเป็นจริงที่เหมาะกับความสามารถในการสร้างแบบจำลองทางคณิตศาสตร์ของเรา นั่นคือวิธีที่ Newton, Maxwell, Einstein หรือ Schrödinger ได้รับแบบจำลองอันโด่งดังและสวยงามของพวกเขา แต่สิ่งเหล่านี้สามารถอธิบายหรือทำนายระบบชุดเล็กๆ เท่านั้น โมเดลที่ดีที่สุดของเราคือโมเดลที่เราใช้เพื่อวิศวกรรมเทคโนโลยี เราไม่สามารถสร้างแบบจำลองทางคณิตศาสตร์ที่สมบูรณ์ของธรรมชาติที่มีชีวิตได้

บทสัมภาษณ์นี้ได้รับการแก้ไขเพื่อความยาวและความชัดเจน