เจเนอเรทีฟเอไอได้เคลื่อนไหวด้วยความเร็วที่เหลือเชื่อในช่วงไม่กี่เดือนที่ผ่านมา ด้วยการเปิดตัวเครื่องมือและบอทต่างๆ เช่น ChatGPT ของ OpenAI, กวี Google, และอื่น ๆ. แต่การพัฒนาอย่างรวดเร็วนี้ทำให้เกิดความกังวลอย่างมากในหมู่ทหารผ่านศึกที่ช่ำชองในด้าน AI ดังนั้น มากถึงขนาดที่พวกเขากว่า 1,000 คนได้ลงนามในจดหมายเปิดผนึกเรียกร้องให้นักพัฒนา AI โจมตี เบรค
จดหมายดังกล่าวเผยแพร่บนเว็บไซต์ของ สถาบันอนาคตแห่งชีวิตซึ่งเป็นองค์กรที่มีพันธกิจในการ "ขับเคลื่อนเทคโนโลยีแห่งการเปลี่ยนแปลงไปสู่ประโยชน์ต่อชีวิตและห่างไกลจากความเสี่ยงขนาดใหญ่" ท่ามกลาง ผู้ลงนามคือนักวิชาการและผู้นำด้านเทคโนโลยีที่โดดเด่นหลายคน รวมถึง Steve Wozniak ผู้ร่วมก่อตั้ง Apple, CEO ของ Twitter Elon Musk และนักการเมือง Andrew ยาง.
วิดีโอแนะนำ
บทความนี้เรียกร้องให้ทุกบริษัทที่ทำงานเกี่ยวกับโมเดล AI ที่มีประสิทธิภาพมากกว่า ที่เพิ่งเปิดตัว GPT-4 ให้หยุดงานทันทีเป็นเวลาอย่างน้อยหกเดือน การเลื่อนการชำระหนี้นี้ควรเป็น "สาธารณะและตรวจสอบได้" และจะให้เวลา "ร่วมกันพัฒนาและดำเนินการตามข้อตกลงร่วมกัน โปรโตคอลความปลอดภัยสำหรับการออกแบบและพัฒนา AI ขั้นสูงที่ได้รับการตรวจสอบและดูแลอย่างเข้มงวดโดยองค์กรอิสระภายนอก ผู้เชี่ยวชาญ”
ที่เกี่ยวข้อง
- OpenAI ผู้ผลิต ChatGPT เผชิญการสอบสวน FTC เกี่ยวกับกฎหมายคุ้มครองผู้บริโภค
- คุณลักษณะการเรียกดู Bing ของ ChatGPT ถูกปิดใช้งานเนื่องจากข้อบกพร่องในการเข้าถึงเพย์วอลล์
- คู่แข่ง ChatGPT ของ Apple อาจเขียนโค้ดให้คุณโดยอัตโนมัติ
จดหมายระบุว่าสิ่งนี้จำเป็นเพราะ “ระบบ AI ที่มีปัญญาด้านการแข่งขันของมนุษย์สามารถก่อให้เกิดความเสี่ยงอย่างร้ายแรงต่อสังคมและมนุษยชาติ” เหล่านั้น ความเสี่ยงรวมถึงการแพร่กระจายของการโฆษณาชวนเชื่อ การทำลายงาน การทดแทนที่อาจเกิดขึ้นและความล้าสมัยของชีวิตมนุษย์ และ "การสูญเสียการควบคุม ของอารยธรรมของเรา” ผู้เขียนเสริมว่าการตัดสินใจว่าจะเดินหน้าต่อไปในอนาคตนี้ไม่ควรปล่อยให้เป็น “เทคโนโลยีที่ไม่ได้เลือก ผู้นำ”
AI 'เพื่อประโยชน์ที่ชัดเจนของทุกคน'
จดหมายดังกล่าวมีขึ้นหลังจากมีการอ้างว่า GPT-5 ซึ่งเป็นเวอร์ชันถัดไปของเทคโนโลยีที่ขับเคลื่อนด้วย ChatGPT สามารถบรรลุปัญญาประดิษฐ์ทั่วไป. ถ้าถูกต้องนั่นหมายความว่ามันสามารถเข้าใจและเรียนรู้อะไรก็ได้ที่มนุษย์สามารถเข้าใจได้ นั่นอาจทำให้มันทรงพลังอย่างเหลือเชื่อในรูปแบบที่ยังไม่ได้รับการสำรวจอย่างเต็มที่
นอกจากนี้ จดหมายยังยืนยันว่าการวางแผนและการจัดการที่รับผิดชอบเกี่ยวกับการพัฒนาระบบ AI จะไม่เกิดขึ้น “แม้ว่าช่วงไม่กี่เดือนที่ผ่านมาจะเห็นว่า AI แล็บถูกขังอยู่ในการแข่งขันที่ควบคุมไม่ได้เพื่อพัฒนาและปรับใช้ความคิดดิจิทัลที่ทรงพลังยิ่งขึ้น ซึ่งไม่มีใคร แม้แต่ผู้สร้างก็สามารถเข้าใจ ทำนาย หรือเชื่อถือได้ ควบคุม."
จดหมายระบุว่าต้องสร้างระบบการกำกับดูแลใหม่ที่จะควบคุมการพัฒนา AI ช่วยให้ผู้คนแยกแยะความแตกต่างที่ AI สร้างขึ้นและ เนื้อหาที่มนุษย์สร้างขึ้น จัดให้มีห้องปฏิบัติการ AI เช่น OpenAI เพื่อรับผิดชอบต่ออันตรายใดๆ ที่พวกเขาก่อขึ้น ช่วยให้สังคมสามารถรับมือกับการหยุดชะงักของ AI (โดยเฉพาะต่อประชาธิปไตย) และอื่น ๆ.
ผู้เขียนปิดท้ายด้วยข้อความเชิงบวก โดยอ้างว่า “มนุษยชาติสามารถเพลิดเพลินกับอนาคตที่เฟื่องฟูด้วย AI … ซึ่งเราได้รับผลตอบแทน ออกแบบระบบเหล่านี้เพื่อประโยชน์ที่ชัดเจนของทุกคน และเปิดโอกาสให้สังคมได้ปรับตัว” การกดปุ่มหยุดชั่วคราวบนระบบ AI มีประสิทธิภาพมากขึ้น กว่า จีพีที-4 จะยอมให้สิ่งนี้เกิดขึ้น พวกเขาระบุ
จดหมายจะมีผลตามที่ตั้งใจไว้หรือไม่? มันยากที่จะพูด มีแรงจูงใจที่ชัดเจนสำหรับ OpenAI เพื่อดำเนินการต่อในโมเดลขั้นสูง ทั้งด้านการเงินและชื่อเสียง แต่ด้วยความเสี่ยงที่อาจเกิดขึ้นมากมาย และด้วยความเข้าใจน้อยมาก ผู้เขียนจดหมายจึงรู้สึกชัดเจนว่าสิ่งจูงใจเหล่านั้นอันตรายเกินกว่าจะติดตาม
คำแนะนำของบรรณาธิการ
- Google Bard พูดได้แล้ว แต่จะกลบ ChatGPT ได้ไหม
- ปริมาณการใช้งานเว็บไซต์ ChatGPT ลดลงเป็นครั้งแรก
- 81% คิดว่า ChatGPT มีความเสี่ยงด้านความปลอดภัย ผลสำรวจพบ
- ฉันสอน ChatGPT สอนเกมกระดาน และตอนนี้ฉันจะไม่กลับไปอีก
- ทนายความของนิวยอร์กถูกปรับเพราะใช้คดี ChatGPT ปลอมในบทสรุปทางกฎหมาย
ยกระดับไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกเทคโนโลยีที่เปลี่ยนแปลงอย่างรวดเร็วด้วยข่าวสารล่าสุด บทวิจารณ์ผลิตภัณฑ์สนุกๆ บทบรรณาธิการเชิงลึก และการแอบดูที่ไม่ซ้ำใคร
