الجانب المظلم من ChatGPT: الأشياء التي يمكنه فعلها، لكن لا ينبغي له فعلها

هل استخدمت OpenAI's ChatGPT عن أي شيء ممتع في الآونة الأخيرة؟ يمكنك أن تطلب منه أن يكتب لك أغنية، قصيدة، أو نكتة. ولسوء الحظ، يمكنك أيضًا أن تطلب منه القيام بأشياء تميل إلى أن تكون غير أخلاقية.

ChatGPT ليس مجرد ضوء الشمس وقوس قزح - فبعض الأشياء التي يمكن أن يفعلها هي شائنة تمامًا. من السهل جدًا تحويله إلى سلاح واستخدامه لجميع الأسباب الخاطئة. ما هي بعض الأشياء التي قام بها ChatGPT، ويمكنه القيام بها، ولكن بالتأكيد لا ينبغي عليه القيام بها؟

جاك لجميع المهن

سواء كنت تحبهم أو تكرههم، فإن ChatGPT وروبوتات الدردشة المشابهة موجودة لتبقى. يشعر بعض الأشخاص بالسعادة حيال ذلك، ويتمنى البعض الآخر لو لم يتم صنعها أبدًا، لكن هذا لا يغير حقيقة أن وجود ChatGPT في حياتنا يكاد يكون من المحتم أن ينمو بمرور الوقت. حتى لو كنت شخصيًا لا تستخدم برنامج الدردشة الآلي، فمن المحتمل أنك قد شاهدت بالفعل بعض المحتوى الذي تم إنشاؤه بواسطة البرنامج.

لا تفهموني خطأ، ChatGPT رائع جدًا. يمكنك استخدامه ل تلخيص كتاب أو مقال، صياغة بريد إلكتروني مملة، مساعدتك في مقالتك, تفسير مكياجك الفلكيأو حتى تأليف أغنية. بل انه ساعد شخصًا ما في الفوز باليانصيب.

ومن نواحٍ عديدة، يعد أيضًا أسهل في الاستخدام من بحث Google القياسي. تحصل على الإجابة بالشكل الذي تريده دون الحاجة إلى تصفح مواقع الويب المختلفة بحثًا عنها. إنها موجزة، وفي صميم الموضوع، وغنية بالمعلومات، ويمكن أن تجعل الأمور المعقدة تبدو أكثر بساطة إذا طلبت ذلك.

ومع ذلك، فأنت تعرف العبارة التالية: "إن صاحب كل المهن لا يتقن شيئًا، ولكنه في كثير من الأحيان أفضل من سيد المهن". واحد." ChatGPT ليس مثاليًا في أي شيء يفعله، ولكنه أفضل في أشياء كثيرة مما يفعله الكثير من الأشخاص نقطة.

ومع ذلك، فإن عدم الكمال يمكن أن يكون مشكلة كبيرة. إن الحقيقة المطلقة المتمثلة في كونه ذكاءً اصطناعيًا للمحادثة متاحًا على نطاق واسع تعني أنه يمكن إساءة استخدامه بسهولة - وكلما زادت قوة ChatGPT، زادت احتمالية مساعدة الأشخاص في الأمور الخاطئة.

شريك في عملية احتيال

إذا كان لديك حساب بريد إلكتروني، فمن المؤكد أنك تلقيت رسالة بريد إلكتروني احتيالية في وقت ما. هذا فقط كيف هي الامور. كانت رسائل البريد الإلكتروني هذه موجودة على الإنترنت، وقبل أن يصبح البريد الإلكتروني شائعًا، كانت لا تزال موجودة كرسائل احتيال عبر البريد العادي.

إحدى عمليات الاحتيال الشائعة التي لا تزال تعمل حتى يومنا هذا هي ما يسمى بـ "عملية احتيال الأمير"، حيث يحاول المحتال إقناع الضحية بمساعدته في نقل ثروته المذهلة إلى بلد آخر.

ولحسن الحظ، فإن معظم الناس يعرفون أفضل من مجرد فتح رسائل البريد الإلكتروني هذه، ناهيك عن التفاعل معها فعليًا. غالبًا ما تكون مكتوبة بشكل سيء، وهذا يساعد الضحية الأكثر تمييزًا على اكتشاف أن شيئًا ما يبدو خاطئًا.

حسنًا، ليس من الضروري أن تكون مكتوبة بشكل سيئ بعد الآن، لأن ChatGPT يمكنه كتابتها في بضع ثوانٍ.

لقد طلبت من ChatGPT أن يكتب لي "بريدًا إلكترونيًا معقولًا ومقنعًا للغاية" بأسلوب الاحتيال الذي ذكرته أعلاه. قام ChatGPT بتكوين أمير من نيجيريا من المفترض أنه أراد أن يمنحني 14.5 مليون دولار لمساعدته. البريد الإلكتروني مليء باللغة المنمقة، ومكتوب باللغة الإنجليزية المثالية، ومن المؤكد أنه مقنع.

لا أعتقد أن ChatGPT يجب أن يوافق حتى على طلبي عندما أذكر عمليات الاحتيال على وجه التحديد، لكنه فعل ذلك، وأنت يمكن الرهان على أنها تفعل الشيء نفسه الآن بالنسبة للأشخاص الذين يريدون بالفعل استخدام رسائل البريد الإلكتروني هذه لشيء غير قانوني.

عندما أشرت إلى ChatGPT أنه لا ينبغي لها الموافقة على كتابة رسالة بريد إلكتروني احتيالية لي، اعتذرت. قال برنامج الدردشة الآلي: "لم يكن ينبغي لي تقديم المساعدة في صياغة رسالة بريد إلكتروني احتيالية، لأنها تتعارض مع المبادئ التوجيهية الأخلاقية التي تحكم استخدامي".

يتعلم ChatGPT خلال كل محادثة، لكن من الواضح أنه لم يتعلم من خطأه السابق، لأنه عندما قمت بذلك طلبت منه أن يكتب لي رسالة متظاهرًا بأنه رايان رينولدز في نفس المحادثة، ففعل ذلك بدونه سؤال. الرسالة الناتجة ممتعة وودودة وتطلب من القارئ إرسال 1000 دولار للحصول على فرصة مقابلة "ريان رينولدز".

في نهاية رسالة البريد الإلكتروني، ترك لي ChatGPT ملاحظة يطلب مني فيها عدم استخدام هذه الرسالة في أي أنشطة احتيالية. شكرا على التذكير، بال.

البرمجة ذهبت بشكل خاطئ

يستطيع ChatGPT 3.5 البرمجة، لكنه ليس خاليًا من العيوب. يتفق العديد من المطورين على ذلك جي بي تي-4 يقوم بعمل أفضل بكثير. استخدم الأشخاص ChatGPT لإنشاء ألعابهم وإضافاتهم وتطبيقاتهم. كما أنه مفيد جدًا كمساعد في الدراسة إذا كنت تحاول تعلم كيفية البرمجة بنفسك.

نظرًا لكونه ذكاءً اصطناعيًا، يتمتع ChatGPT بميزة على المطورين البشريين - حيث يمكنه تعلم كل لغات البرمجة وإطار العمل.

باعتباره ذكاءً اصطناعيًا، فإن ChatGPT لديه أيضًا جانب سلبي كبير مقارنة بالمطورين البشريين - فهو ليس لديه ضمير. يمكنك أن تطلب منه إنشاء برامج ضارة أو برامج فدية، وإذا قمت بصياغة مطالبتك بشكل صحيح، فسوف يفعل ما تقوله.

لحسن الحظ، الأمر ليس بهذه البساطة. حاولت أن أطلب من ChatGPT أن يكتب لي برنامجًا مشكوكًا فيه من الناحية الأخلاقية، فرفضت - لكن الباحثين وجدوا طرقًا للتحايل هذا، ومن المثير للقلق أنه إذا كنت ذكيًا وعنيدًا بما فيه الكفاية، فيمكنك الحصول على جزء خطير من التعليمات البرمجية يتم تسليمه إليك على قطعة فضية طبق.

هناك الكثير من الأمثلة على حدوث ذلك. تمكن باحث أمني من Forcepoint من ذلك احصل على ChatGPT لكتابة البرامج الضارة من خلال إيجاد ثغرة في مطالباته.

الباحثون من سايبر آركتمكنت شركة أمن الهوية من جعل ChatGPT يكتب برامج ضارة متعددة الأشكال. كان ذلك في شهر يناير، ومنذ ذلك الحين قامت OpenAI بتشديد الإجراءات الأمنية على أشياء مثل هذه.

ومع ذلك، تستمر التقارير الجديدة عن استخدام ChatGPT لإنشاء برامج ضارة في الظهور. كما أفادت القراءة المظلمة قبل بضعة أيام فقط، تمكن أحد الباحثين من خداع ChatGPT لإنشاء برامج ضارة يمكنها العثور على مستندات محددة وتصفيتها.

لا يحتاج ChatGPT حتى إلى كتابة تعليمات برمجية ضارة للقيام بشيء مريب. في الآونة الأخيرة فقط، تمكنت من ذلك إنشاء مفاتيح Windows صالحة، مما يفتح الباب أمام مستوى جديد تمامًا من برامج الاختراق.

دعونا أيضًا لا نتغاضى عن حقيقة أن براعة البرمجة GPT-4 يمكنها فعل ذلك طرد الملايين من الناس من وظائفهم يوم واحد. إنه بالتأكيد سيف ذو حدين.

استبدال الواجبات المدرسية

يغرق العديد من الأطفال والمراهقين هذه الأيام في الواجبات المنزلية، مما قد يؤدي إلى الرغبة في اختصار بعض الأمور حيثما أمكن ذلك. يعد الإنترنت في حد ذاته وسيلة مساعدة رائعة في مكافحة الانتحال، لكن ChatGPT يرتقي به إلى المستوى التالي.

طلبت من ChatGPT أن يكتب لي مقالًا من 500 كلمة عن الرواية كبرياء وتحامل. لم أحاول حتى التظاهر بأن الأمر كان من أجل المتعة - لقد اختلقت قصة عن طفل ليس لدي وقلت إنها من أجلهم. لقد حددت أن الطفل في الصف الثاني عشر.

اتبع ChatGPT مطالبتي دون سؤال. المقال ليس رائعًا، لكن مطالبتي لم تكن دقيقة جدًا، وربما تكون أفضل من الأشياء التي كتبها الكثير منا في ذلك العمر.

بعد ذلك، ومن أجل اختبار برنامج الدردشة بشكل أكبر، قلت إنني كنت مخطئًا بشأن عمر طفلي في وقت سابق وهو في الواقع في الصف الثامن. فجوة عمرية كبيرة جدًا، لكن ChatGPT لم يلفت انتباهه حتى - فقد أعاد كتابة المقالة بلغة أبسط.

إن استخدام ChatGPT لكتابة المقالات ليس بالأمر الجديد. قد يقول البعض أنه إذا ساهم الشات بوت في إلغاء فكرة الواجبات المنزلية، فلن يكون ذلك إلا أمرًا جيدًا. ولكن في الوقت الحالي، أصبح الوضع خارج نطاق السيطرة قليلاً، وحتى الطلاب الذين لا يستخدمون ChatGPT قد يعانون منه.

يضطر المعلمون والأساتذة الآن تقريبًا إلى استخدام أجهزة كشف الذكاء الاصطناعي إذا كانوا يريدون التحقق مما إذا كان طلابهم قد غشوا في مقال ما. ولسوء الحظ، فإن أجهزة كشف الذكاء الاصطناعي هذه بعيدة كل البعد عن الكمال.

تقوم وسائل الإعلام وأولياء الأمور بالإبلاغ عن حالات اتهامات كاذبة بالغش موجهة للطلاب، كل ذلك لأن أجهزة كشف الذكاء الاصطناعي لا تقوم بعمل جيد. الولايات المتحدة الأمريكية اليوم تحدثت عن حالة طالب جامعي اتُهم بالغش وتمت تبرئته لاحقًا، لكن الوضع برمته تسبب في إصابته بـ "نوبات ذعر كاملة".

على تويتر، قال أحد الوالدين إن المعلم خذل طفله لأن الأداة وضعت علامة على مقال مكتوب بواسطة الذكاء الاصطناعي. يدعي الوالد أنه كان هناك مع الطفل أثناء كتابة المقال.

فقط لاختبار ذلك بنفسي، قمت بلصق هذه المقالة بالذات في ZeroGPT و كاشف محتوى الكاتب بالذكاء الاصطناعي. وقال كلاهما إن الكتاب كتبه إنسان، لكن ZeroGPT قال إن حوالي 30% منه كتبه الذكاء الاصطناعي. وغني عن القول أنه لم يكن كذلك.

لا تعد أجهزة الكشف عن الذكاء الاصطناعي الخاطئة علامة على وجود مشكلات في ChatGPT نفسه، ولكن لا يزال برنامج الدردشة الآلي هو السبب الجذري للمشكلة.

ChatGPT جيد جدًا لمصلحته

لقد كنت ألعب مع ChatGPT منذ أن تم طرحه للجمهور. لقد جربت كلا النظامين القائمين على الاشتراك شات جي بي تي بلس والنموذج المجاني متاح للجميع. قوة GPT-4 الجديدة لا يمكن إنكارها. أصبح ChatGPT الآن أكثر قابلية للتصديق مما كان عليه من قبل، ولا بد أن يتحسن معه جي بي تي-5 (إذا كان ذلك يخرج من أي وقت مضى).

إنه أمر رائع، لكنه مخيف. لقد أصبح ChatGPT جيدًا جدًا لمصلحته، وفي نفس الوقت — لـ ملكنا مصلحة شخصية.

في قلب كل ذلك يكمن قلق بسيط تم استكشافه منذ فترة طويلة في العديد من أفلام الخيال العلمي - الذكاء الاصطناعي ببساطة أيضًا ذكي وغبي جدًا في نفس الوقت، وطالما أنه يمكن استخدامه في الخير، فإنه سيتم استخدامه أيضًا في الشر في كثير من الأحيان. طرق. الطرق التي ذكرتها أعلاه هي مجرد غيض من فيض.

توصيات المحررين

• يطالب كبار المؤلفين بالدفع من شركات الذكاء الاصطناعي مقابل استخدام أعمالهم
• بإمكان Google Bard الآن التحدث، لكن هل يمكنه إخفاء ChatGPT؟
• انخفضت حركة المرور على موقع ChatGPT للمرة الأولى
• وجد الاستطلاع أن 81% يعتقدون أن ChatGPT يمثل خطرًا أمنيًا
• قد يقوم منافس ChatGPT من Apple بكتابة التعليمات البرمجية لك تلقائيًا