Deepfakes เป็นอันตรายหรือไม่? ผู้สร้างและหน่วยงานกำกับดูแลไม่เห็นด้วย

ในช่วงไม่กี่ปีที่ผ่านมา, ดีพเฟค ได้กลายเป็นกระแสล่าสุดสำหรับเนื้อหามีมและล้อเลียน

ง่ายที่จะดูสาเหตุ: ช่วยให้ผู้สร้างสามารถบิดเบือนกฎแห่งความเป็นจริงได้อย่างที่ไม่เคยมีเทคโนโลยีอื่นมาก่อน คุณสามารถรับชมผ่านความมหัศจรรย์ของดีพเฟคได้ เจนนิเฟอร์ ลอว์เรนซ์ กล่าวสุนทรพจน์ต่อหน้าสตีฟ บุสเชมี, เห็นอะไร Ryan Reynolds จะดูเหมือน Willy Wonkaและแม้กระทั่งจับ ฮิตเลอร์และสตาลินร้องเพลงวิดีโอฆ่าดาราวิทยุ ในเพลงคู่

สำหรับผู้ที่ไม่ได้ฝึกหัด เทคโนโลยี Deepfake คือรูปแบบหนึ่งของสื่อสังเคราะห์ที่ช่วยให้ผู้ใช้สามารถซ้อนใบหน้าที่แตกต่างกันของบุคคลอื่นในลักษณะที่แทบจะแยกไม่ออกจากต้นฉบับ โดยการอ่านข้อมูลจำนวนมากเพื่อทำความเข้าใจรูปทรงของใบหน้าและลักษณะอื่นๆ เพื่อผสมผสานและทำให้เคลื่อนไหวในฉากได้อย่างเป็นธรรมชาติ

ณ จุดนี้ คุณอาจเจอคลิปดังกล่าวบนแพลตฟอร์มเช่น TikTok (โดยที่แฮชแท็ก “#deepfake” มียอดดูประมาณ 200 ล้านครั้ง) YouTube และที่อื่น ๆ ไม่ว่าจะเป็นการเติมเต็มแฟนนิยายและ ทำซ้ำฉากที่มีดวงดาว พวกเขาหวังว่าเดิมทีภาพยนตร์เรื่องนี้จะคัดเลือกนักแสดงหรือนำคนตายมาไว้ในมีมไวรัลสมัยใหม่ Deepfakes ถูกนำมาใช้เป็นช่องทางสร้างสรรค์สำหรับจุดประสงค์ที่ก่อนหน้านี้แทบจะเป็นไปไม่ได้เลย

การเปลี่ยนแปลงนี้ได้ก่อให้เกิดกลุ่มผู้สร้างหน้าใหม่เช่น Ctrl Shift ใบหน้าซึ่งมีวิดีโอ Deepfake ดึงดูดการดูหลายล้านครั้งเป็นประจำ และมักเป็นหัวข้อหลักของการสนทนาในรายการทอล์คโชว์ตอนดึก

“นี่เป็นวิธีใหม่ในการสร้างวิดีโอทางอินเทอร์เน็ตตลกๆ หรือการบอกเล่าเรื่องราวอย่างที่เราไม่เคยเห็นมาก่อน” ผู้สร้างจากเนเธอร์แลนด์ผู้อยู่เบื้องหลังภาพยนตร์ยอดนิยมกล่าว “เวนเจอร์สแห่งออซ” คลิป Deepfake ที่ขอไม่ใช้ชื่อจริง “มันเป็นการผสมผสานที่สวยงามของความหลงใหลสำหรับ A.I. เทคโนโลยีและอารมณ์ขัน”

แต่มีความเสี่ยงที่คุกคามอนาคตของเทคโนโลยี Deepfake โดยสิ้นเชิง: ชื่อเสียงที่เสียไป

ด้วยพลังอันยิ่งใหญ่มาพร้อมกับความสามารถในการส่งซ้ำที่ยอดเยี่ยม

น่าเสียดายที่นอกเหนือจากศักยภาพในการเป็นเครื่องมือสร้างสรรค์สำหรับศิลปินวิดีโอที่มีเจตนาดีแล้ว Deepfakes ยังมีศักยภาพมหาศาลในการทำอันตรายอีกด้วย

เมื่อเร็ว ๆ นี้ การศึกษาโดย Dawes Center for Future Crime ที่ UCL Jill Dando Institute of Security and Crime Science ระบุว่า deepfakes เป็นภัยคุกคามที่เปิดใช้งาน A.I. ที่ร้ายแรงที่สุด ส.ว. Ben Sasse พรรครีพับลิกันจากเนบราสกันผู้เสนอร่างกฎหมายเพื่อเอาผิดกับการสร้าง Deepfakes ที่มุ่งร้าย เตือนแล้ว เมื่อปีที่แล้วว่าเทคโนโลยีสามารถ “ทำลายชีวิตมนุษย์” “ทำลายตลาดการเงิน” และแม้แต่ “กระตุ้นความขัดแย้งทางทหารทั่วโลก”

ในระดับหนึ่ง ข้อกังวลเหล่านี้มีความเป็นธรรม ท้ายที่สุดแล้ว การแพร่กระจายของเทคโนโลยี Deepfake ได้ทำให้เกิดสิ่งต่าง ๆ เช่น การผลิตเนื้อหาสำหรับผู้ใหญ่ปลอมที่มีคนดัง และการเลียนแบบนักการเมืองเหมือนจริงเพื่อล้อเลียน เมื่อต้นปีที่ผ่านมา Dan Scavino ผู้อำนวยการฝ่ายโซเชียลมีเดียของทำเนียบขาว ทวีต คลิปที่มีการจัดการไม่ดี ซึ่งประธานาธิบดีโดนัลด์ ทรัมป์ รีทวีตเกี่ยวกับโจ ไบเดน คู่แข่งของทรัมป์ ขอให้ผู้คนเลือกทรัมป์อีกครั้ง

อย่างไรก็ตาม การหลอกลวงที่ไม่น่าเชื่อถือเหล่านี้ได้ถูกหักล้างอย่างรวดเร็วก่อนที่จะเผยแพร่สู่คนจำนวนมาก ที่สำคัญกว่านั้น ผู้เชี่ยวชาญแนะนำว่าวิดีโอที่มีการปลอมแปลงอย่างลึกซึ้งจนถึงขณะนี้มีผลกระทบต่อสังคมเพียงเล็กน้อยหรือไม่มีเลย และในปัจจุบันวิดีโอเหล่านี้ไม่ได้ก่อให้เกิดภัยคุกคามใดๆ ที่ใกล้จะเกิดขึ้น เช่น งานวิจัยที่จัดทำโดย ความรู้สึกซึ่งเป็นบริษัทรักษาความปลอดภัยทางไซเบอร์ที่มุ่งเน้นไปที่ภัยคุกคามทางภาพ โดยอ้างว่าวิดีโอ Deepfake ส่วนใหญ่นั้นเป็น ภาพลามกอนาจาร (96%) และเทคโนโลยียังไม่เข้าสู่การบิดเบือนข้อมูลที่สำคัญใดๆ แคมเปญ

ในทำนองเดียวกัน ก รายงานของมหาวิทยาลัยจอร์จทาวน์ สรุปว่าแม้ว่า Deepfakes จะเป็น “ความสำเร็จทางเทคนิคที่น่าประทับใจ” ผู้กำหนดนโยบายไม่ควรเร่งรีบ กระแสฮือฮาเนื่องจากเทคโนโลยียังไม่สมบูรณ์แบบในขณะนี้ และไม่สามารถมีอิทธิพลต่อเหตุการณ์ในโลกแห่งความเป็นจริงได้ ยัง.

ผู้สร้างที่อยู่เบื้องหลังช่อง Deepfake ที่ได้รับความนิยมสูงสุด Ctrl Shift Face ซึ่งมีผู้ดูวิดีโอนับล้านคน เชื่อว่า "ฮิสทีเรีย" การวนเวียนอยู่กับหัวข้อ Deepfake กำลังหันเหความสนใจของฝ่ายนิติบัญญัติออกไปจากปัญหาที่แท้จริง เช่น โฆษณาที่มีการควบคุมไม่ดี เครือข่ายเปิดอยู่ เฟสบุ๊ค ที่ทำให้คนเข้าใจผิดจริงๆ

“หากมีเหตุการณ์ Deepfake ที่เป็นอันตรายเกิดขึ้น Facebook คือที่ที่มันจะแพร่กระจาย” Ctrl Shift Face กล่าวในการให้สัมภาษณ์กับ Digital Trends “ในกรณีนั้น อะไรคือปัญหาที่ใหญ่กว่า? สื่อหรือแพลตฟอร์ม?”

เจ้าของ เบบี้โซนซึ่งเป็นช่องเกมบน YouTube ที่มีสมาชิกมากกว่าครึ่งล้านคนที่มักจะแกล้งคนดังให้กลายเป็นวิดีโอ เกมดังกล่าวสะท้อนความกังวลที่คล้ายกัน: “ฉันคิดว่า Deepfakes เป็นเทคโนโลยีเหมือนกับเทคโนโลยีอื่นๆ ที่มีอยู่ เทคโนโลยี สามารถใช้เพื่อวัตถุประสงค์ที่ดีและไม่ดีได้”

การเคลื่อนไหวเพื่อบันทึก Deepfakes

ในช่วงหนึ่งหรือสองปีที่ผ่านมา ในขณะที่รัฐบาลและบริษัทเทคโนโลยีกำลังตรวจสอบความเสี่ยงที่อาจเกิดขึ้นจากเรื่องนี้ เทคโนโลยี ผู้สนับสนุน Deepfake ได้แย่งชิงกันเพื่อบรรเทาความกังวลเหล่านี้และแก้ไขสาธารณะของเทคโนโลยี ภาพ. ชุมชน Reddit ที่พยายาม "ปรับความอัปยศนี้" ได้ปรากฏขึ้น และนักวิจัยอิสระบางคนกำลังสร้างระบบที่สามารถตรวจสอบ Deepfakes ได้ก่อนที่จะแพร่ระบาด

Roman Mogylnyi ซีอีโอและผู้ร่วมก่อตั้ง Reface แอพยอดนิยมที่ให้คุณสลับใบหน้าของคุณเป็น GIF ได้อย่างรวดเร็ว กล่าวว่าสตาร์ทอัพของเขากำลังพัฒนาเครื่องมือตรวจจับที่สามารถบอกได้ว่าวิดีโอนั้นสร้างด้วย Reface หรือไม่ เทคโนโลยี. “เราเชื่อว่าการเข้าถึงเครื่องมือสื่อสังเคราะห์อย่างเราอย่างกว้างขวางจะช่วยเพิ่มความเห็นอกเห็นใจของมนุษยชาติและ ความคิดสร้างสรรค์และจะช่วยเปลี่ยนการรับรู้ของเทคโนโลยีให้ดีขึ้น” Mogylnyi กล่าวกับ Digital เทรนด์

Eran Dagan ผู้ก่อตั้งและซีอีโอของ Botika ซึ่งเป็นสตาร์ทอัพที่อยู่เบื้องหลังแอปแลกเปลี่ยนใบหน้ายอดนิยม Jiggy มีทัศนคติที่คล้ายกัน ไปสู่การดีพเฟคและเชื่อว่าเมื่อพวกเขากลายเป็นกระแสหลักมากขึ้น “ผู้คนจะตระหนักถึงการใช้งานเชิงบวกของพวกเขามากขึ้น กรณี”

เมื่อพิจารณาถึงอันตรายที่อาจเกิดขึ้นจากการปลอมแปลงอย่างล้ำลึก มีแนวโน้มว่าสภาคองเกรสจะเข้ามามีส่วนร่วมในที่สุด แพลตฟอร์มเทคโนโลยีที่สำคัญ รวมถึง Facebook, Twitter และ YouTube ได้อัปเดตนโยบายของตนเพื่อตั้งค่าสถานะหรือลบสื่อที่มีการบิดเบือนซึ่งออกแบบมาเพื่อทำให้เข้าใจผิด หลายรัฐชอบ แคลิฟอร์เนีย และนิวยอร์กได้ผ่านร่างกฎหมายที่จะลงโทษผู้สร้างดีปเฟคที่จงใจหลอกลวง รวมถึงผู้ที่ปล่อยออกมาโดยไม่ได้รับความยินยอมจากบุคคลที่ถูกใช้ใบหน้า

Deepfakes ควรได้รับการควบคุมหรือไม่?

แม้ว่านโยบายเหล่านี้จะไม่รวมเนื้อหาล้อเลียน ผู้เชี่ยวชาญ ความเกรงกลัวกฎหมายที่มีการกำหนดไว้ไม่ดี หรือการห้ามเทคโนโลยีโดยสิ้นเชิง ยังคงเชื่อว่าสภาคองเกรสควรหลีกเลี่ยง และปล่อยให้ Deepfakes ดำเนินไปตามธรรมชาติเหมือนกับที่สื่อรูปแบบใหม่ดำเนินไป ผ่าน.

David Greene ผู้อำนวยการด้านสิทธิพลเมืองของ Electronic Frontier Foundation กล่าวว่า "ความพยายามใดๆ ก็ตามของสภาคองเกรสที่จะทำเช่นนั้น ควบคุมการปลอมแปลงอย่างลึกซึ้งหรือการสื่อสารด้วยภาพทุกประเภทจะเป็นการควบคุมคำพูดและเกี่ยวข้องกับสิ่งแรก การแก้ไข

กรีนกล่าวเสริมว่ากฎหมายเหล่านี้จำเป็นต้องมีความแม่นยำและจะต้องจัดการกับอันตรายที่พวกเขากำลังพยายามจะจำกัดด้วยเงื่อนไขที่มีการกำหนดไว้ชัดเจนและเข้าใจง่าย “สิ่งที่เราได้เห็นมาจนถึงตอนนี้ … ความพยายามด้านกฎระเบียบในระดับรัฐนั้นคลุมเครือและกฎหมายกว้างเกินไปซึ่งไม่มีความแม่นยำตามที่การแก้ไขครั้งแรกต้องการ พวกเขาไม่ต้องการข้อยกเว้นสำหรับการล้อเลียนและการวิจารณ์ทางการเมือง”

Giorgio Patrini ซีอีโอของ Sensity พบว่าการห้ามอัลกอริธึมและซอฟต์แวร์ "ไร้ความหมายในยุคอินเทอร์เน็ต" Patrini เปรียบเทียบปริศนานี้กับมัลแวร์ การป้องกันและการยุติไวรัสคอมพิวเตอร์หรือผู้เขียนไวรัสนั้นเป็นไปไม่ได้เลย ดังนั้นจึงเป็นการดีกว่าที่จะลงทุนในกลไกป้องกันมัลแวร์ แทน. “สังคมจำเป็นต้องสร้างกลไกใหม่ในการรับรองสิ่งที่เชื่อถือได้ และวิธีป้องกันผลกระทบด้านลบของเนื้อหาสังเคราะห์ที่มีต่อบุคคลและองค์กร” เขากล่าว

Tim Whang เขียนในรายงานของมหาวิทยาลัยจอร์จทาวน์ว่าด้วยการนำเครื่องมือ Deepfake มาเป็นสินค้า เทคโนโลยีในการตรวจจับและกรอง มันจะพัฒนาโดยอัตโนมัติและมีความแม่นยำมากขึ้น — ดังนั้นจึงทำให้ความสามารถของพวกเขาเป็นกลางในการนำเสนอเรื่องร้ายแรง ภัยคุกคาม

เครื่องมือตรวจจับ Deepfake ที่เพิ่งเปิดตัวของ Microsoftตัวอย่างเช่น วิเคราะห์วิดีโอเพื่อให้คะแนนความเชื่อมั่นแก่คุณซึ่งบ่งชี้ว่าวิดีโอมีแนวโน้มที่จะได้รับการแก้ไขมากน้อยเพียงใด

“ดีพเฟคเป็นรูปแบบใหม่ของการบิดเบือนสื่อ แต่ไม่ใช่ครั้งแรกที่เราเผชิญกับความท้าทายประเภทนี้ เรากำลังสำรวจและลงทุนในวิธีจัดการกับสื่อสังเคราะห์” โฆษกของ YouTube กล่าว

นักวิจัยที่อยู่เบื้องหลัง CtrlShiftLabซึ่งเป็นซอฟต์แวร์สร้าง Deepfake ขั้นสูงที่ผู้ใช้ YouTube จำนวนมาก รวมถึง Ctrl Shift Face ใช้งานอยู่ในขณะนี้ ยังทำงานในโครงการโอเพ่นซอร์สเพื่อสร้างความตระหนักและสร้างการตรวจจับที่ครอบคลุมมากขึ้น บริการ

“วิธีเดียวที่จะป้องกัน [การละเมิด Deepfake] นี้คือการสร้างโครงการโอเพ่นซอร์สที่เกี่ยวข้องกับ Deepfake และดึงดูดความสนใจของสาธารณชน เพื่อให้ชาวเน็ตสามารถตระหนักได้ว่ามี Deepfakes อยู่” Kunlin Liu หนึ่งในนักวิจัยของ CtrlShiftLab กล่าวกับ Digital Trends

Digital Trends ผู้สร้าง Deepfake หลายคนพูดคุยกันเพื่อให้มองโลกในแง่ดีและพบว่าประเทศต่างๆ ต่อต้าน Deepfake ก่อนวัยอันควร พวกเขาเห็นพ้องกันว่าบทบาทที่เพิ่มขึ้นของ Deepfake ในด้านมีมและวัฒนธรรมการล้อเลียนจะเป็นประโยชน์ในการแก้ไขชื่อเสียงอันเลวร้ายของเทคโนโลยีที่เกิดขึ้นใหม่นี้ และตราบใดที่วิดีโอมีข้อจำกัดความรับผิดชอบและแพลตฟอร์มต่างๆ ลงทุนในเลเยอร์การตรวจจับที่มีประสิทธิภาพมากขึ้น พวกเขากล่าวเสริมว่า Deepfakes จะยังคงอยู่ต่อไป

“ฉันคิดว่าชื่อเสียงของ Deepfakes กำลังดีขึ้นอย่างมาก เมื่อสองปีที่แล้ว คำว่า deepfake หมายถึงสื่อลามกโดยอัตโนมัติ” ผู้สร้าง Ctrl Shift Face กล่าว “ตอนนี้ คนส่วนใหญ่รู้จักดีพเฟคเพราะวิดีโอความบันเทิงเหล่านี้เผยแพร่ไปทั่วอินเทอร์เน็ต”

คำแนะนำของบรรณาธิการ

• รางวัลเทคโนโลยีเพื่อการเปลี่ยนแปลงของ Digital Trends CES 2023
• ใน Project Gucciberg สุดฮา กุชชี่ มาเน่จอมปลอมอ่านนิยายคลาสสิก
• ศิลปินและนักเคลื่อนไหวใช้ดีพเฟคเป็นพลังแห่งความดีได้อย่างไร
• Twitter เดินหน้าแบน Deepfake ที่ก่อให้เกิดอันตราย ก่อนการเลือกตั้งปี 2020
• แคลิฟอร์เนียกำลังปราบปราม Deepfakes ที่เกี่ยวข้องกับการเมืองและสื่อลามก