هل التزييف العميق خطير؟ يختلف المبدعون والمنظمون

على مدى السنوات القليلة الماضية، التزييف العميق ظهرت كأحدث مواقع الميمات والمحتوى الساخرة على الإنترنت.

من السهل معرفة السبب: فهي تمكن المبدعين من ثني قواعد الواقع كما لم تفعل أي تقنية أخرى من قبل. من خلال سحر التزييف العميق، يمكنك المشاهدة جينيفر لورانس تلقي خطابًا من خلال وجه ستيف بوسيمي، انظر ماذا كان رايان رينولدز يبدو مثل ويلي ونكاوحتى الصيد هتلر وستالين يغنيانفيديو قتل النجم الراديو في دويتو.

بالنسبة للمبتدئين، فإن تقنية التزييف العميق هي شكل من أشكال الوسائط الاصطناعية التي تسمح للمستخدمين بتركيب وجه مختلف على وجه شخص آخر بطريقة لا يمكن تمييزها تقريبًا عن الوجه الأصلي. وهو يفعل ذلك من خلال قراءة كميات كبيرة من البيانات لفهم ملامح الوجه وخصائصه الأخرى لمزجها بشكل طبيعي وتحريكها في المشهد.

في هذه المرحلة، ربما تكون قد صادفت مثل هذه المقاطع على منصات مثل TikTok (حيث يحظى الوسم "#deepfake" بحوالي 200 مليون مشاهدة)، ويوتيوب، وأماكن أخرى. سواء كان ذلك لتحقيق خيال المعجبين و إعادة المشاهد مع النجوم إنهم يتمنون أن يكون الفيلم قد قام في الأصل بتمثيل أو وضع شخص ميت في ميم حديث وفيروسي، وقد تم اعتماد التزييف العميق كمنفذ إبداعي لأغراض كانت في السابق أقرب إلى المستحيل.

لقد أدى هذا التحول إلى ظهور مجموعة من المبدعين الجدد مثل Ctrl إزاحة الوجه، والتي تجتذب مقاطع الفيديو المزيفة العميقة ملايين المشاهدات بانتظام وغالبًا ما تكون الموضوع الرئيسي للمناقشة في البرامج الحوارية في وقت متأخر من الليل.

"إنها طريقة جديدة تمامًا لإنشاء مقاطع فيديو مضحكة على الإنترنت، أو رواية قصص لم نشاهدها من قبل،" كما يقول منشئ الأغنية المقيم في هولندا.المنتقمون أوزمقطع مزيف عميق طلب عدم استخدام اسمه الحقيقي. "إنه مزيج جميل من سحر الذكاء الاصطناعي. التكنولوجيا والفكاهة."

ولكن هناك خطر يلوح في الأفق ويهدد مستقبل تكنولوجيا التزييف العميق تمامًا: ألا وهو سمعتها الملوثة.

مع القوة العظيمة تأتي إمكانية إعادة النشر بشكل كبير

لسوء الحظ، بالإضافة إلى إمكاناتها كأداة إبداعية لفناني الفيديو ذوي النوايا الحسنة، تحمل تقنية التزييف العميق أيضًا إمكانية هائلة لإلحاق الضرر.

حديثا دراسة أجراها مركز Dawes للجريمة المستقبلية في معهد UCL Jill Dando للأمن وعلوم الجريمة تم تصنيف Deepfakes على أنها أخطر تهديدات الذكاء الاصطناعي. سين. بن ساسي، وهو جمهوري من ولاية نبراسكا قدم مشروع قانون لتجريم الإنشاء الخبيث للتزييف العميق، حذر في العام الماضي، ذكرت أن التكنولوجيا يمكن أن "تدمر حياة البشر"، و"تعكر صفو الأسواق المالية"، بل وحتى "تثير الصراعات العسكرية في جميع أنحاء العالم".

وإلى حد ما، فإن هذه المخاوف عادلة. ففي نهاية المطاف، أدى انتشار تكنولوجيا التزييف العميق إلى تمكين أشياء مثل إنتاج محتوى مزيف للبالغين يضم مشاهير، وانتحال شخصيات سياسية واقعية بغرض السخرية. في وقت سابق من هذا العام، دان سكافينو، مدير وسائل التواصل الاجتماعي في البيت الأبيض، غرد مقطع تم التلاعب به بشكل سيئ، والذي أعاد الرئيس دونالد ترامب أيضًا تغريده، لمنافس ترامب جو بايدن وهو يطلب من الناس إعادة انتخاب ترامب.

ومع ذلك، سرعان ما تم فضح هذه الخدع غير المقنعة قبل أن تصل إلى الجماهير. والأهم من ذلك، يشير الخبراء إلى أن مقاطع الفيديو المزيفة بعمق لم يكن لها حتى الآن أي تأثير مجتمعي يذكر، وأنها لا تشكل حاليًا أي تهديدات وشيكة. على سبيل المثال، الأبحاث التي أجراها حساسية، وهي شركة للأمن السيبراني تركز على التهديدات المرئية، تدعي أن الغالبية العظمى من مقاطع الفيديو المزيفة بعمق إباحية (96٪) وأن التكنولوجيا لم تشق طريقها بعد إلى أي معلومات مضللة كبيرة الحملات.

وبالمثل، أ تقرير جامعة جورج تاون وخلص إلى أنه على الرغم من أن التزييف العميق يعد "إنجازًا تقنيًا مثيرًا للإعجاب"، إلا أنه لا ينبغي لصناع السياسات أن يتعجلوا في القيام به الضجيج لأن التكنولوجيا ليست مثالية في الوقت الحالي ولا يمكنها التأثير على أحداث العالم الحقيقي فقط حتى الآن.

منشئ قناة التزييف العميق الأكثر شهرة Ctrl Shift Face، والتي يشاهد مقاطع الفيديو الخاصة بها الملايين، يعتقد أن "الهستيريا" إن الدوران حول موضوع التزييف العميق يصرف انتباه المشرعين بعيدًا عن القضايا الحقيقية، مثل الإعلان السيئ التنظيم الشبكات على فيسبوك التي هي في الواقع مسؤولة عن تضليل الناس.

وقال Ctrl Shift Face في مقابلة مع Digital Trends: "إذا كان هناك أي تزييف عميق ضار، فإن فيسبوك هو المكان الذي سينتشر فيه". "في هذه الحالة، ما هي القضية الأكبر؟ الوسيلة أم المنصة؟

مالك بيبي زون، وهي قناة ألعاب على YouTube تضم أكثر من نصف مليون مشترك وغالبًا ما تقوم بتزييف المشاهير بعمق في مقاطع فيديو الألعاب، يردد مخاوف مماثلة: "أعتقد أن التزييف العميق هي تقنية مثل كل التقنيات الأخرى الموجودة التقنيات. يمكن استخدامها لأغراض جيدة ولأغراض سيئة."

حركة إنقاذ التزييف العميق

على مدار العام أو العامين الماضيين، قامت الحكومات وشركات التكنولوجيا بالتحقيق في المخاطر المحتملة لهذا الأمر التكنولوجيا، سارع المدافعون عن التزييف العميق إلى تهدئة هذه المخاوف وإصلاح عامة الناس عن التكنولوجيا صورة. مجتمعات رديت وقد ظهرت محاولات تسعى إلى "تعديل هذه الوصمة"، ويعمل بعض الباحثين المستقلين بنشاط على بناء أنظمة يمكنها اكتشاف التزييف العميق قبل انتشاره على نطاق واسع.

رومان موجيلني، الرئيس التنفيذي والمؤسس المشارك لـ Reface، وهو تطبيق ناجح يتيح لك تبديل وجهك بسرعة إلى أي صورة GIF، يقول إن شركته الناشئة تعمل الآن على تطوير أداة كشف يمكنها معرفة ما إذا كان الفيديو قد تم إنتاجه باستخدام Reface تكنولوجيا. "نحن نؤمن بأن الوصول على نطاق واسع إلى أدوات الوسائط المركبة مثل أدواتنا سيزيد من تعاطف الإنسانية وتعاطفها وقال موجيلني لـ Digital: "سيساعد هذا الابتكار على تغيير مفهوم التكنولوجيا نحو الأفضل". اتجاهات.

لدى إيران داغان، المؤسس والرئيس التنفيذي لشركة Botika، الشركة الناشئة التي تقف وراء تطبيق Jiggy الشهير لتبادل الوجه، وجهة نظر مماثلة. تجاه التزييف العميق والاعتقاد بأنه عندما يصبح أكثر انتشارًا، "سيكون الناس أكثر وعيًا باستخدامهم الإيجابي حالات."

ومع ذلك، ونظرًا للمخاطر المحتملة للتزييف العميق، فمن المحتمل أن يتدخل الكونجرس في النهاية. منصات التكنولوجيا الكبرى بما في ذلك Facebook وTwitter وYouTube، قاموا بالفعل بتحديث سياساتهم للإبلاغ عن الوسائط التي تم التلاعب بها والمصممة للتضليل أو إزالتها. دول متعددة مثل كاليفورنيا وأقرت نيويورك ونيويورك مشاريع قوانين من شأنها معاقبة صانعي التزييف العميق الخادع عن عمد، بالإضافة إلى تلك التي تم إطلاقها دون موافقة الشخص الذي تم استخدام وجهه.

هل ينبغي تنظيم التزييف العميق؟

في حين أن هذه السياسات تستبعد المحتوى الساخر، فإن الخبراء، خوفًا من القوانين غير المحددة أو الحظر الكامل للتكنولوجيا، ما زلنا نعتقد أن الكونجرس يجب أن يظل بعيدًا عن الأمر ويترك التزييف العميق يسير في المسار الطبيعي الذي يسير فيه أي شكل جديد من وسائل الإعلام خلال.

ويقول ديفيد جرين، مدير الحريات المدنية في مؤسسة الحدود الإلكترونية، إن "أي محاولة من جانب الكونجرس لانتهاك القانون هي جريمة". تنظيم التزييف العميق أو أي نوع من التواصل البصري سيكون بمثابة تنظيم للكلام وتورط الأول تعديل.

ويضيف جرين أن هذه القوانين يجب أن تكون دقيقة ويجب - بعبارات محددة جيدًا وسهلة الفهم - أن تعالج الضرر الذي تحاول الحد منه. “ما رأيناه حتى الآن … المحاولات التنظيمية على مستوى الولاية هي قوانين غامضة وفضفاضة ولا تتمتع بالدقة التي يتطلبها التعديل الأول. ليس لديهم استثناءات مطلوبة للمحاكاة الساخرة والتعليقات السياسية.

يرى جورجيو باتريني، الرئيس التنفيذي لشركة Sensity، أن الحظر المفروض على الخوارزميات والبرمجيات "لا معنى له في عصر الإنترنت". يقارن باتريني هذا اللغز بالبرامج الضارة الحماية وكيف أنه من شبه المستحيل وضع حد لجميع فيروسات الكمبيوتر أو مؤلفيها، لذلك من الأفضل الاستثمار ببساطة في آليات مكافحة البرامج الضارة بدلاً من. وقال: "يحتاج المجتمع إلى بناء آليات جديدة للتصديق على ما يمكن الوثوق به، وكيفية منع الآثار السلبية للمحتوى الاصطناعي على الأفراد والمنظمات".

كتب تيم وانج في تقرير جامعة جورج تاون أنه مع تسليع أدوات التزييف العميق، أصبحت تكنولوجيا الكشف والتصفية وبالتالي، فإنها ستتطور تلقائيًا وتصبح أكثر دقة، مما يؤدي إلى تحييد قدرتها على تقديم أي جدية التهديدات.

أطلقت Microsoft مؤخرًا أداة الكشف عن التزييف العميقعلى سبيل المثال، يقوم بتحليل مقاطع الفيديو ليقدم لك درجة ثقة تشير إلى مدى احتمالية تعديل الفيديو.

"إن التزييف العميق هو شكل جديد من أشكال التلاعب بوسائل الإعلام، ولكن ليست المرة الأولى التي نواجه فيها هذا النوع من التحدي. قال متحدث باسم يوتيوب: “نحن نستكشف ونستثمر في طرق لمعالجة الوسائط الاصطناعية”.

الباحثون وراء CtrlShiftLab، وهو برنامج متقدم لإنشاء التزييف العميق يستخدمه الآن العديد من مستخدمي YouTube بما في ذلك Ctrl Shift Face نعمل أيضًا على مشاريع مفتوحة المصدر لرفع مستوى الوعي وبناء كشف أكثر شمولاً خدمات.

"الطريقة الوحيدة لمنع هذا [إساءة استخدام التزييف العميق] هي إنشاء مشروع مفتوح المصدر متعلق بالتزييف العميق وجذب انتباه الجمهور. وقال كونلين ليو، أحد الباحثين في CtrlShiftLab، لـ Digital Trends: "حتى يتمكن مستخدمو الإنترنت من إدراك وجود التزييف العميق".

تحدث العديد من منشئي التزييف العميق في موقع Digital Trends عن تفاؤلهم واعتبروا أن رد البلدان على التزييف العميق سابق لأوانه. وهم متفقون على أن الدور المتنامي للتزييف العميق في الميمات وثقافة المحاكاة الساخرة سيكون له دور فعال في إصلاح السمعة الرديئة لهذه التكنولوجيا الناشئة. وأضافوا أنه طالما أن مقاطع الفيديو تحتوي على إخلاء مسؤولية وتستثمر المنصات في طبقات اكتشاف أكثر فعالية، فإن التزييف العميق موجود لتبقى.

"أعتقد أن سمعة التزييف العميق تتحسن بشكل ملحوظ. قال مبتكر Ctrl Shift Face: "قبل عامين، كانت كلمة Deepfake تعني تلقائيًا الإباحية". "الآن، يعرف معظم الناس التزييف العميق بسبب مقاطع الفيديو المسلية المتداولة عبر الإنترنت."

توصيات المحررين

• جوائز Digital Trends Tech For Change CES 2023
• في مشروع Gucciberg المضحك، يقرأ Gucci Mane المزيف الروايات الكلاسيكية
• كيف يستخدم الفنانون والناشطون تقنية التزييف العميق كقوة من أجل الخير
• تويتر يتحرك لحظر التزييف العميق الذي "يسبب الضرر" قبل انتخابات عام 2020
• كاليفورنيا تتخذ إجراءات صارمة ضد التزييف العميق للسياسة والإباحية