هل يعد ChatGPT كارثة تتعلق بالأمن السيبراني؟ سألنا الخبراء

الدردشة يشعر أنه لا مفر منه في الوقت الحالي ، مع القصص تتعجب من قدراتها على ما يبدو في كل مكان تنظر إليه. لقد رأينا كيف يمكنها كتابة الموسيقى وتقديم الرسوم المتحركة ثلاثية الأبعاد وتأليف الموسيقى. إذا كنت تستطيع التفكير في الأمر ، فمن المحتمل أن يقوم ChatGPT بالتجربة.

وهذه هي المشكلة بالضبط. هناك كل أنواع التوتر في مجتمع التكنولوجيا في الوقت الحالي ، حيث يشعر المعلقون بالقلق بشكل متكرر من أن الذكاء الاصطناعي يدور حوله لتؤدي إلى نهاية العالم للبرامج الضارة مع حتى أكثر المتسللين ذكاءً الذين يستحضرون أحصنة طروادة وبرامج الفدية التي لا يمكن إيقافها.

لكن هل هذا صحيح بالفعل؟ لمعرفة ذلك ، تحدثت إلى عدد من خبراء الأمن السيبراني لمعرفة ما قدموه من قدرات البرامج الضارة في ChatGPT ، سواء كانوا قلقين بشأن احتمال إساءة استخدامه ، وما يمكنك القيام به لحماية نفسك في هذا الفجر الجديد عالم.

قدرات مشكوك فيها

تتمثل إحدى عوامل الجذب الرئيسية في ChatGPT في قدرته على أداء المهام المعقدة ببضع مطالبات بسيطة ، خاصة في عالم البرمجة. الخوف هو أن هذا من شأنه أن يقلل من الحواجز التي تحول دون الدخول لإنشاء برامج ضارة ، مما قد يؤدي إلى المخاطرة بانتشار كتّاب الفيروسات الذين يعتمدون على أدوات الذكاء الاصطناعي للقيام بالعبء الثقيل نيابة عنهم.

يوضح جوشوا لونج ، كبير محللي الأمن في شركة الأمن Intego ، هذه النقطة. "مثل أي أداة في العالم المادي أو الافتراضي ، يمكن استخدام رمز الكمبيوتر للخير أو للشر" ، يشرح. "إذا طلبت رمزًا يمكنه تشفير ملف ، على سبيل المثال ، لا يستطيع روبوت مثل ChatGPT معرفة هدفك الحقيقي. إذا ادعت أنك بحاجة إلى رمز تشفير لحماية ملفاتك الخاصة ، فسيصدقك الروبوت - حتى لو كان هدفك الحقيقي هو إنشاء برامج الفدية ".

لدى ChatGPT وسائل وقائية مختلفة لمكافحة هذا النوع من الأشياء ، والحيلة بالنسبة لمنشئي الفيروسات هي تجاوز تلك الحواجز. اطلب من ChatGPT بصراحة إنشاء فيروس فعال وسوف يرفض ببساطة ، مما يتطلب منك أن تكون مبدعًا من أجل خداعها وجعلها تقوم بمزايداتك ضد حكمها الأفضل. النظر في ما يمكن أن يفعله الناس كسر الحماية في ChatGPT، فإن إمكانية إنشاء برامج ضارة باستخدام الذكاء الاصطناعي تبدو ممكنة من الناحية النظرية. في الحقيقة، تم عرضه بالفعل، لذلك نعرف أنه ممكن.

لكن لا يشعر الجميع بالذعر. يعتقد Martin Zugec ، مدير الحلول التقنية في Bitdefender ، أن المخاطر لا تزال صغيرة إلى حد ما. "من غير المحتمل أن يمتلك غالبية كتاب البرامج الضارة المبتدئين المهارات المطلوبة لتجاوز هذه الإجراءات الأمنية وبالتالي ، فإن المخاطر التي تشكلها البرامج الضارة الناتجة عن برامج الدردشة الآلية تظل منخفضة نسبيًا في هذا الوقت " يقول.

يتابع Zugec: "أصبحت البرامج الضارة التي ينشئها Chatbot موضوعًا شائعًا للمناقشة مؤخرًا ، ولكن هناك حاليًا لا يوجد دليل يشير إلى أنها تشكل تهديدًا كبيرًا في المستقبل القريب ". وهناك سبب بسيط لذلك. وفقًا لـ Zugec ، "تميل جودة شفرات البرامج الضارة التي تنتجها روبوتات المحادثة إلى الانخفاض ، مما يجعلها أقل خيار جذاب لكتاب البرامج الضارة ذوي الخبرة الذين يمكنهم العثور على أمثلة أفضل في التعليمات البرمجية العامة المستودعات. "

لذلك ، في حين أن جعل ChatGPT يصنع تعليمات برمجية ضارة أمر ممكن بالتأكيد ، فإن أي شخص لديه المهارات المطلوب للتلاعب في روبوت الدردشة بالذكاء الاصطناعي ، من المحتمل ألا يكون متأثرًا بالشفرة الضعيفة التي ينشئها ، Zugec يعتقد.

ولكن كما قد تتخيل ، فإن الذكاء الاصطناعي التوليدي بدأ للتو. وبالنسبة لفترة طويلة ، فإن هذا يعني أن مخاطر القرصنة التي يمثلها ChatGPT لم يتم تحديدها بعد.

"من الممكن أن يؤدي ظهور روبوتات الذكاء الاصطناعي المستندة إلى LLM إلى زيادة طفيفة إلى متوسطة في البرامج الضارة الجديدة ، أو تحسين البرامج الضارة يقول لونج ، باستخدام اختصار لنماذج اللغات الكبيرة التي تستخدمها أدوات الذكاء الاصطناعي مثل ChatGPT لبناء معرفة. "في هذه المرحلة ، على الرغم من ذلك ، ليس من الواضح مدى تأثير أدوات التأثير المباشر مثل ChatGPT على تهديدات البرامج الضارة في العالم الحقيقي أو التي ستحدثها."

صديق مخادع

إذا كانت مهارات كتابة الأكواد في ChatGPT ليست كافية بعد ، فهل يمكن أن يمثل تهديدًا بطرق أخرى ، مثل كتابة حملات تصيد وهندسة اجتماعية أكثر فعالية؟ هنا ، يتفق المحللون على أن هناك احتمالية أكبر بكثير لسوء الاستخدام.

بالنسبة للعديد من الشركات ، يتمثل أحد عوامل الهجوم المحتملة في موظفي الشركة ، الذين يمكن خداعهم أو التلاعب بهم لتوفير الوصول عن غير قصد حيث لا ينبغي لهم ذلك. يعرف المتسللون هذا ، وكان هناك الكثير من هجمات الهندسة الاجتماعية رفيعة المستوى التي أثبتت أنها كارثية. على سبيل المثال ، يُعتقد أن شركة Lazarus Group في كوريا الشمالية بدأت عملها 2014 اقتحام أنظمة سوني - مما أدى إلى تسريب أفلام ومعلومات شخصية لم يتم طرحها - عن طريق انتحال صفة مجند وظيفة وجعل أحد موظفي Sony يفتح ملفًا مصابًا.

هذا هو أحد المجالات التي يمكن أن تساعد فيها ChatGPT المتسللين والمخادعين بشكل كبير على تحسين عملهم. إذا لم تكن اللغة الإنجليزية هي اللغة الأم لممثل التهديد ، على سبيل المثال ، فيمكنهم استخدام روبوت محادثة AI لكتابة رسالة بريد إلكتروني تصيد مقنعة لهم والتي تهدف إلى استهداف المتحدثين باللغة الإنجليزية. أو يمكن استخدامه لإنشاء أعداد كبيرة من الرسائل المقنعة بسرعة في وقت أقل بكثير مما قد يتطلبه الأمر من الجهات الفاعلة في التهديد البشري للقيام بنفس المهمة.

يمكن أن تزداد الأمور سوءًا عندما يتم طرح أدوات أخرى للذكاء الاصطناعي في هذا المزيج. كما افترضت كارين رينو وميريل واركنتين وجورج ويسترمان مراجعة إدارة سلون من معهد ماساتشوستس للتكنولوجيا، يمكن للمحتال إنشاء نص برمجي باستخدام ChatGPT وجعله يقرأ عبر الهاتف بصوت مزيف ينتحل شخصية الرئيس التنفيذي للشركة. بالنسبة لموظف الشركة الذي يتلقى المكالمة ، سيبدو الصوت - ويتصرف - تمامًا مثل رئيسه. إذا طلب هذا الصوت من الموظف تحويل مبلغ من المال إلى حساب مصرفي جديد ، فقد يقع الموظف في الحيلة بسبب الاحترام الذي يدفعه لرئيسه.

على حد تعبير لونج ، "لم يعد يتعين على [المهاجمين] الاعتماد على مهاراتهم الإنجليزية (غالبًا ما تكون غير كاملة) لكتابة رسالة بريد إلكتروني احتيالية مقنعة. ولا يجب عليهم حتى التوصل إلى صياغة ذكية خاصة بهم وتشغيلها من خلال خدمة الترجمة من Google. بدلاً من ذلك ، فإن ChatGPT - غير مدرك تمامًا لاحتمال وجود نية خبيثة وراء الطلب - سيسعد بكتابة النص الكامل للبريد الإلكتروني الاحتيالي بأي لغة مرغوبة ".

وكل ما هو مطلوب لجعل ChatGPT يفعل هذا في الواقع هو بعض التحفيز الذكي.

هل يمكن لـ ChatGPT تعزيز الأمن السيبراني الخاص بك؟

ومع ذلك ، ليس كل شيء سيئًا. نفس السمات التي تجعل من ChatGPT أداة جذابة للجهات الفاعلة في مجال التهديد - سرعته وقدرته على اكتشاف العيوب في التعليمات البرمجية - تجعله مصدرًا مفيدًا لباحثي الأمن السيبراني وشركات مكافحة الفيروسات.

يشير لونج إلى أن الباحثين يستخدمون بالفعل روبوتات محادثة تعمل بالذكاء الاصطناعي للعثور على روبوتات محادثة لم يتم اكتشافها بعد ("صفر يوم") نقاط الضعف في الكود ، ببساطة عن طريق تحميل الكود وطلب من ChatGPT معرفة ما إذا كان بإمكانه اكتشاف أي احتمال نقاط الضعف. هذا يعني أنه يمكن استخدام نفس المنهجية التي يمكن أن تضعف الدفاعات لدعمها.

وعلى الرغم من أن عامل الجذب الرئيسي لـ ChatGPT للجهات الفاعلة في التهديد قد يكمن في قدرته على كتابة رسائل تصيد احتيالية معقولة ، يمكن أن تساعد هذه المواهب نفسها في تدريب الشركات والمستخدمين على ما يجب البحث عنه لتجنب التعرض للخداع أنفسهم. يمكن استخدامه أيضًا لعكس هندسة البرامج الضارة ، مما يساعد الباحثين وشركات الأمن على تطوير إجراءات مضادة بسرعة.

في النهاية ، فإن ChatGPT في حد ذاته ليس جيدًا أو سيئًا بطبيعته. كما يشير Zugec ، "الحجة القائلة بأن الذكاء الاصطناعي يمكن أن يسهل تطوير البرامج الضارة يمكن أن تنطبق على أي دولة أخرى التقدم التكنولوجي الذي أفاد المطورين ، مثل البرمجيات مفتوحة المصدر أو مشاركة الكود المنصات. "

بعبارة أخرى ، طالما استمرت الضمانات في التحسن ، فإن التهديد الذي يشكله حتى أفضل روبوتات محادثة AI قد لا تصبح أبدًا بالخطورة التي تم توقعها مؤخرًا.

كيف تحافظ على سلامتك

إذا كنت قلقًا بشأن التهديدات التي تشكلها روبوتات الدردشة للذكاء الاصطناعي والبرامج الضارة التي يمكن إساءة استخدامها في إنشائها ، فهناك بعض الخطوات التي يمكنك اتخاذها لحماية نفسك. يقول Zugec إنه من المهم اعتماد "نهج دفاعي متعدد الطبقات" يتضمن "تنفيذ حلول أمان نقطة النهاية ، والحفاظ على البرامج والأنظمة حتى الآن، واليقظة تجاه الرسائل أو الطلبات المشبوهة ".

في هذه الأثناء ، يوصي Long ، بالابتعاد عن الملفات التي يُطلب منك تثبيتها تلقائيًا عند زيارة أحد مواقع الويب. عندما يتعلق الأمر بتحديث أو تنزيل أحد التطبيقات ، احصل عليه من متجر التطبيقات الرسمي أو موقع الويب الخاص بمورد البرنامج. وكن حذرًا عند النقر فوق نتائج البحث أو تسجيل الدخول إلى موقع ويب - يمكن للمتسللين الدفع ببساطة لوضع مواقع الاحتيال الخاصة بهم أعلى نتائج البحث وسرقة معلومات تسجيل الدخول الخاصة بك باستخدام مواقع الويب المشابهة المصممة بعناية.

لن ينتقل ChatGPT إلى أي مكان ، وكذلك البرامج الضارة التي تسبب الكثير من الضرر في جميع أنحاء العالم. في حين أن التهديد من قدرة الترميز لـ ChatGPT قد يكون مبالغًا فيه في الوقت الحالي ، إلا أن كفاءته في صياغة رسائل البريد الإلكتروني للتصيد الاحتيالي قد تتسبب في جميع أنواع الصداع. ومع ذلك ، فمن الممكن جدًا حماية نفسك من التهديد الذي يمثله والتأكد من عدم وقوعك ضحية. في الوقت الحالي ، يمكن أن يساعد الحذر الشديد - والتطبيق القوي لمكافحة الفيروسات - في الحفاظ على أجهزتك آمنة وسليمة.

توصيات المحررين

• يستطيع Google Bard التحدث الآن ، ولكن هل يمكنه إغراق ChatGPT؟
• انخفضت حركة مرور موقع ChatGPT لأول مرة
• قد يكتب منافس ChatGPT من Apple رمزًا تلقائيًا لك
• تغريم محامي نيويورك لاستخدامهم قضايا ChatGPT وهمية في مذكرة قانونية
• يدمج متصفح الويب هذا ChatGPT بطريقة جديدة رائعة