أوبن إيه آي يبني فريقًا جديدًا لمنع الذكاء الاصطناعي في المستقبل من أن يصبح شريرًا

إذا كان الأفراد الذين هم في طليعة تكنولوجيا الذكاء الاصطناعي يعلقون على الآثار الكارثية المحتملة لأنظمة الذكاء الاصطناعي عالية الذكاء ، فربما يكون من الحكمة الجلوس والاستجابة يلاحظ.

قبل شهرين فقط ، قال جيفري هينتون ، وهو رجل يعتبر أحد "عرابين" الذكاء الاصطناعي لعمله الرائد في هذا المجال ، إن الوتيرة السريعة للتطور التكنولوجي يعني أنه "لا يمكن تصوره" أن الذكاء الاصطناعي الخارق - الذي يعتبر متفوقًا على العقل البشري - يمكن أن ينتهي به الأمر إلى القضاء على الإنسانية.

وسام التمان ، الرئيس التنفيذي لشركة OpenAI ، الشركة التي تقف وراءها روبوت الدردشة ChatGPT الفيروسي، اعترف بأنه "خائف قليلاً" بشأن الآثار المحتملة لأنظمة الذكاء الاصطناعي المتقدمة على المجتمع.

يشعر ألتمان بقلق بالغ لدرجة أن شركته أعلنت يوم الأربعاء أنها تنشئ وحدة جديدة تسمى تهدف التحسينات الفائقة إلى ضمان ألا يؤدي الذكاء الاصطناعي الخارق في نهاية المطاف إلى إحداث فوضى أو شيء بعيد المنال أسوأ.

"الذكاء الخارق سيكون أكثر التقنيات التي اخترعتها البشرية تأثيرًا على الإطلاق ، ويمكن أن تساعدنا في حل العديد من المشكلات الأكثر أهمية في العالم ،" قال OpenAI في منشور يقدم المبادرة الجديدة. "لكن القوة الهائلة للذكاء الخارق يمكن أن تكون أيضًا خطيرة للغاية ، ويمكن أن تؤدي إلى إضعاف البشرية أو حتى انقراض البشر."

قالت شركة OpenAI إنه على الرغم من أن الذكاء الاصطناعي الفائق قد يبدو بعيد المنال ، إلا أنه يعتقد أنه يمكن تطويره بحلول عام 2030. وهي تعترف بسهولة أنه في الوقت الحالي ، لا يوجد نظام "لتوجيه أو التحكم في ذكاء اصطناعي خارق الذكاء ، ومنعها من الوقوع في المارقة".

للتعامل مع الموقف ، تريد شركة OpenAI إنشاء "باحث محاذاة آلي على مستوى الإنسان تقريبًا" من شأنه إجراء فحوصات السلامة على الذكاء الفائق الذكاء الاصطناعي ، مضيفًا أن إدارة هذه المخاطر ستتطلب أيضًا مؤسسات جديدة للحوكمة وحل مشكلة الذكاء الخارق تنسيق.

للحصول على تأثير Superalignment ، تحتاج OpenAI إلى تجميع فريق متصدع من كبار الباحثين والمهندسين في مجال التعلم الآلي.

تبدو الشركة صريحة جدًا بشأن جهودها ، واصفة إياه بأنه "هدف طموح بشكل لا يصدق" مع الاعتراف أيضًا بأن انها "ليست مضمونة للنجاح". لكنها تضيف أنه "متفائل بأن الجهود المركزة والمتضافرة يمكن أن تحل هذه المشكلة مشكلة."

تعتبر أدوات الذكاء الاصطناعي الجديدة مثل ChatGPT من OpenAI و Google Bard ، من بين العديد من الأدوات الأخرى ، ثورية للغاية لدرجة أن الخبراء متأكدين أنه حتى في مستوى ما قبل الذكاء الفائق هذا ، يواجه مكان العمل والمجتمع الأوسع تغييرات أساسية في المستقبل القريب شرط.

هذا هو السبب في أن الحكومات في جميع أنحاء العالم تسعى جاهدة للعب اللحاق بالركب ، وتتحرك على عجل لفرض اللوائح عليها صناعة الذكاء الاصطناعي سريعة التطور في محاولة لضمان نشر التكنولوجيا في مكان آمن ومسؤول طريقة. ومع ذلك ، ما لم يتم تشكيل هيئة واحدة ، سيكون لكل دولة وجهات نظرها الخاصة حول أفضل السبل لاستخدام التكنولوجيا ، مما يعني أن هذه اللوائح يمكن أن تختلف على نطاق واسع وتؤدي إلى نتائج مختلفة بشكل ملحوظ. وهذه الأساليب المختلفة هي التي ستجعل من الصعب تحقيق هدف Superalignment.

توصيات المحررين

• يستطيع Google Bard التحدث الآن ، ولكن هل يمكنه إغراق ChatGPT؟
• تهدف شركة الذكاء الاصطناعي الجديدة التابعة لـ Elon Musk إلى "فهم الكون"
• أوبن إيه آي تكشف عن موقع أول بؤرة أمامية دولية لها
• تغريم محامي نيويورك لاستخدامهم قضايا ChatGPT وهمية في مذكرة قانونية
• يدمج متصفح الويب هذا ChatGPT بطريقة جديدة رائعة

ترقية نمط حياتكتساعد Digital Trends القراء على متابعة عالم التكنولوجيا سريع الخطى من خلال أحدث الأخبار ومراجعات المنتجات الممتعة والافتتاحيات الثاقبة والنظرات الخاطفة الفريدة من نوعها.