หากบุคคลที่อยู่แถวหน้าของเทคโนโลยีปัญญาประดิษฐ์แสดงความคิดเห็นเกี่ยวกับ ผลกระทบที่อาจเกิดขึ้นจากระบบ AI ที่มีความชาญฉลาดสูง จึงควรลุกขึ้นนั่งและรับ สังเกต.
เมื่อสองสามเดือนก่อน เจฟฟรีย์ ฮินตัน ชายคนหนึ่งที่ถือว่าเป็นหนึ่งใน "เจ้าพ่อ" ของ AI สำหรับงานบุกเบิกในภาคสนามของเขา กล่าวว่า การพัฒนาอย่างรวดเร็วของเทคโนโลยี หมายความว่ามัน “นึกไม่ถึง” AI ที่ชาญฉลาดซึ่งถูกพิจารณาว่าเหนือกว่าจิตใจของมนุษย์ อาจจบลงด้วยการกวาดล้างมนุษยชาติ
วิดีโอแนะนำ
และ Sam Altman ซีอีโอของ OpenAI บริษัทที่อยู่เบื้องหลัง Chatbot ChatGPT ไวรัสยอมรับว่า "กลัวเล็กน้อย" เกี่ยวกับผลกระทบที่อาจเกิดขึ้นจากระบบ AI ขั้นสูงต่อสังคม
ที่เกี่ยวข้อง
- OpenAI ผู้ผลิต ChatGPT เผชิญการสอบสวน FTC เกี่ยวกับกฎหมายคุ้มครองผู้บริโภค
- ปริมาณการใช้งานเว็บไซต์ ChatGPT ลดลงเป็นครั้งแรก
- ฉันสอน ChatGPT สอนเกมกระดาน และตอนนี้ฉันจะไม่กลับไปอีก
Altman กังวลมากเมื่อวันพุธที่บริษัทของเขาประกาศว่าจะจัดตั้งหน่วยงานใหม่ชื่อ Superalignment มีจุดมุ่งหมายเพื่อให้มั่นใจว่า AI ที่ฉลาดล้ำจะไม่ก่อให้เกิดความโกลาหลหรืออะไรไปไกล แย่ลง.
“ความฉลาดหลักแหลมจะเป็นเทคโนโลยีที่มีผลกระทบมากที่สุดเท่าที่มนุษยชาติเคยคิดค้นมา และสามารถช่วยเราแก้ปัญหาที่สำคัญที่สุดของโลกได้หลายอย่าง”
OpenAI กล่าวว่า ในโพสต์แนะนำความคิดริเริ่มใหม่ “แต่พลังมหาศาลของความฉลาดหลักแหลมก็อาจเป็นอันตรายได้เช่นกัน และอาจนำไปสู่การลดอำนาจของมนุษยชาติหรือแม้แต่การสูญพันธุ์ของมนุษย์”OpenAI กล่าวว่า แม้ว่า AI ที่ฉลาดล้ำอาจดูเหมือนเป็นทางออก แต่ก็เชื่อว่าจะสามารถพัฒนาได้ภายในปี 2030 และยอมรับอย่างพร้อมเพรียงว่า ณ เวลาปัจจุบัน ไม่มีระบบใด “สำหรับควบคุมหรือควบคุม AI ที่อาจมีความฉลาดล้ำ และป้องกันไม่ให้มันทำงานผิดพลาด”
เพื่อจัดการกับสถานการณ์ OpenAI ต้องการสร้าง "นักวิจัยการจัดตำแหน่งอัตโนมัติระดับมนุษย์โดยประมาณ" ที่จะดำเนินการตรวจสอบความปลอดภัยใน superintelligent AI โดยเสริมว่าการจัดการความเสี่ยงเหล่านี้จะต้องมีสถาบันใหม่สำหรับการกำกับดูแลและการแก้ปัญหาของ superintelligence การจัดตำแหน่ง
เพื่อให้ Superalignment มีผล OpenAI จำเป็นต้องรวบรวมทีมแคร็กของนักวิจัยและวิศวกรด้านแมชชีนเลิร์นนิงชั้นนำ
บริษัทดูตรงไปตรงมามากเกี่ยวกับความพยายาม โดยอธิบายว่าเป็น “เป้าหมายที่ทะเยอทะยานอย่างไม่น่าเชื่อ” ในขณะเดียวกันก็ยอมรับว่า มัน "ไม่รับประกันว่าจะประสบความสำเร็จ" แต่ก็เสริมว่า "มองโลกในแง่ดีว่าความพยายามที่มุ่งเน้นและร่วมมือกันสามารถแก้ปัญหานี้ได้ ปัญหา."
เครื่องมือ AI ใหม่ๆ เช่น ChatGPT ของ OpenAI และ Bard ของ Google และอื่น ๆ อีกมากมาย เป็นการปฏิวัติที่ผู้เชี่ยวชาญมั่นใจ ที่แม้แต่ในระดับก่อนการข่าวกรองนี้ สถานที่ทำงานและสังคมในวงกว้างยังต้องเผชิญกับการเปลี่ยนแปลงขั้นพื้นฐานในอันใกล้นี้ ภาคเรียน.
นั่นเป็นเหตุผลที่รัฐบาลทั่วโลกพยายามดิ้นรนเพื่อไล่ตามและเร่งรีบที่จะกำหนดกฎระเบียบ อุตสาหกรรม AI ที่กำลังพัฒนาอย่างรวดเร็วเพื่อให้แน่ใจว่าเทคโนโลยีได้รับการปรับใช้อย่างปลอดภัยและมีความรับผิดชอบ มารยาท. อย่างไรก็ตาม เว้นแต่จะมีการจัดตั้งองค์กรเดียว แต่ละประเทศจะมีมุมมองของตนเองเกี่ยวกับวิธีที่ดีที่สุดในการใช้เทคโนโลยี ซึ่งหมายความว่ากฎระเบียบเหล่านั้นอาจแตกต่างกันอย่างมากและนำไปสู่ผลลัพธ์ที่แตกต่างกันอย่างเห็นได้ชัด และแนวทางต่างๆ เหล่านี้จะทำให้เป้าหมายของ Superalignment บรรลุเป้าหมายได้ยากขึ้น
คำแนะนำของบรรณาธิการ
- Google Bard พูดได้แล้ว แต่จะกลบ ChatGPT ได้ไหม
- บริษัท AI ใหม่ของ Elon Musk ตั้งเป้าที่จะ 'เข้าใจจักรวาล'
- OpenAI เปิดเผยที่ตั้งของด่านต่างประเทศแห่งแรก
- ทนายความของนิวยอร์กถูกปรับเพราะใช้คดี ChatGPT ปลอมในบทสรุปทางกฎหมาย
- เว็บเบราว์เซอร์นี้รวม ChatGPT ในรูปแบบใหม่ที่น่าสนใจ
ยกระดับไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกเทคโนโลยีที่เปลี่ยนแปลงอย่างรวดเร็วด้วยข่าวสารล่าสุด บทวิจารณ์ผลิตภัณฑ์สนุกๆ บทบรรณาธิการเชิงลึก และการแอบดูที่ไม่ซ้ำใคร
