ผลกระทบด้านลบของปัญญาประดิษฐ์

การพัฒนาเครื่องจักรที่สามารถเลียนแบบความคิดของมนุษย์ ก้าวข้ามมัน หรือแม้กระทั่งรู้จักตัวเองได้นั้นเป็นหลักฐานที่ได้รับการสำรวจอย่างดีในนิยายวิทยาศาสตร์ ในภูมิทัศน์ทางเทคโนโลยีในปัจจุบัน การถือกำเนิดของปัญญาประดิษฐ์ - AI - อาจกลายเป็นหนึ่งในสิ่งที่ยิ่งใหญ่ที่สุดของมนุษย์ ความสำเร็จ แต่ตามที่นักฟิสิกส์ชื่อดัง สตีเฟน ฮอว์คิง เตือน "มันอาจจะเป็นสิ่งสุดท้าย เว้นแต่เราจะเรียนรู้ที่จะหลีกเลี่ยง ความเสี่ยง"

เทคโนโลยีที่ล้ำสมัยยังคงฝังตัวอยู่ในสังคมยุคใหม่ ตั้งแต่ผู้ช่วยส่วนตัวแบบดิจิทัลและอัลกอริทึมการค้นหาอัจฉริยะใน Google ไปจนถึงรถยนต์ไร้คนขับรุ่นทดลอง ปัญญาประดิษฐ์ถูกกำหนดให้เป็นคอมพิวเตอร์หรือเครื่องจักรที่สามารถทำ "การหักและการอนุมานเชิงตรรกะ" และ "ตัดสินใจได้" ขึ้นอยู่กับประสบการณ์ในอดีตหรือข้อมูลที่ไม่เพียงพอหรือขัดแย้งกัน" ระดับเทคโนโลยีในปัจจุบันก่อให้เกิดปัญหาทางจริยธรรมที่น่าสยดสยองเช่น ไม่ว่าจะเป็นโดรนทหารหรือระบบหุ่นยนต์อื่น ๆ ควรได้รับการออกแบบให้ใช้กำลังร้ายแรงต่อเป้าหมายที่ไม่มีมนุษย์โดยตรง การมีส่วนร่วม ในปัจจุบัน เครื่องจักรที่ตั้งโปรแกรมไว้สามารถตอบสนองด้วยความเร็วและความแม่นยำที่มากกว่าผู้ปฏิบัติงานที่เป็นมนุษย์ แต่ยังคงสามารถเกิดข้อผิดพลาดร้ายแรงได้โดยไม่มีอคติและสัญชาตญาณของมนุษย์เพื่อเป็นแนวทางในการตัดสินใจ ปัญหาเหล่านี้จะรุนแรงขึ้นหากมีการสร้าง AI ไว้ในระบบดังกล่าว โดยนำเสนอแรงจูงใจอิสระที่อาจคาดเดาไม่ได้อย่างสมบูรณ์หรือขัดแย้งโดยตรงกับความตั้งใจของมนุษย์

การรวมตัวกันของปัญญาประดิษฐ์จะเปลี่ยนแนวความคิดในการทำงานของมนุษย์อย่างมาก ตั้งแต่ยุคอุตสาหกรรม เทคโนโลยีทุกชนิดย่อมทำให้งานจำนวนมากล้าสมัยอย่างหลีกเลี่ยงไม่ได้ในขณะที่สร้างโอกาสใหม่ในสาขาที่เกิดขึ้นใหม่ AI นำเสนออนาคตที่เครื่องจักรทำงานแทนเรา ซึ่งช่วยให้ผู้คนใช้ชีวิตอย่างอิสระ นักเศรษฐศาสตร์ จอห์น เมย์นาร์ด เคนส์ ไปไกลถึงตอนนี้ ย้อนกลับไปในปี 2473 ทำนายสัปดาห์ทำงาน 15 ชั่วโมงภายในปี 2573 ในระดับประชากรในปัจจุบัน ทุกด้านของสังคมจะต้องมีการมองภาพใหม่อย่างรุนแรงทั้งในด้านวัฒนธรรมและเศรษฐกิจ หากระบบอัตโนมัติสร้างความเปลี่ยนแปลงอย่างมากในการใช้ชีวิตของเรา

ภัยคุกคามที่สำคัญอย่างหนึ่งของปัญญาประดิษฐ์คือการเลือกใช้ความสามารถที่ได้รับการปรับปรุงแล้วเพื่อสร้างเครื่องจักรที่มีพลังทางปัญญาที่มากขึ้นหรือไม่ AI รุ่นก้าวหน้าสามารถทำงานเหนือมนุษย์ได้สูงพอๆ กับที่เราทำเหนือสัตว์ และอาจพัฒนาเกินกว่าความสามารถของมนุษย์ที่จะเข้าใจมันได้ ในผลลัพธ์นี้ - เรียกว่าภาวะเอกฐาน (Singularity) โดย Dr. Vernor Vinge สำหรับการประชุมสัมมนา VISION-21 ของ NASA Lewis Research Center ในปี 1993 -- กฎแห่งชีวิตอย่างที่เรารู้ว่ามันจะเปลี่ยนไปตลอดกาล เพราะไม่มีทางที่จะทำนายได้ว่า AI จะตัดสินใจอยู่ร่วมกันหรือเป็นศัตรูต่อมนุษยชาติ

Hawking เน้นว่าการอภิปรายอย่างจริงจังเกี่ยวกับปัญญาประดิษฐ์จะต้องคำนึงถึงภัยคุกคามที่อาจเกิดขึ้นและวิธีจัดการและ เรียกร้องให้มีการวิจัยเชิงสถาบันที่สำคัญยิ่งขึ้น เนื่องจากทรัพยากรองค์กรที่เพิ่มขึ้นทุ่มเทให้กับการตระหนักถึงความก้าวหน้าในการสร้างสิ่งประดิษฐ์ ปัญญา. Vinge ตั้งสมมติฐานว่า AI สามารถควบคุมได้อย่างเข้มงวดโดยกฎเกณฑ์ที่ให้ความเมตตาอย่างมีประสิทธิภาพ พฤติกรรมในหุ่นยนต์อิสระตามที่จินตนาการโดยนักเขียนนิยายวิทยาศาสตร์ Isaac Asimov's Three Laws of วิทยาการหุ่นยนต์ Vinge ยังเตือนด้วยว่าการแข่งขันตามธรรมชาติของมนุษย์จะนำไปสู่การพัฒนาแบบจำลอง AI ที่ไม่จำกัด ดังนั้นแม้การป้องกันดังกล่าวอาจไม่เพียงพอที่จะควบคุมภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะภาวะแล้วค่ะ (Singularity) จะเกิดขึ้นหรือไม่)