Apakah Deepfake Berbahaya? Pembuat Konten dan Regulator Tidak Setuju

Selama beberapa tahun terakhir, palsu telah muncul sebagai pilihan terbaru di internet untuk meme dan konten parodi.

Sangat mudah untuk mengetahui alasannya: Teknologi ini memungkinkan para pembuat konten untuk melanggar aturan realitas dengan cara yang belum pernah ada sebelumnya. Melalui keajaiban deepfake, Anda bisa menontonnya Jennifer Lawrence menyampaikan pidato melalui wajah Steve Buscemi, melihat apa Ryan Reynolds akan terlihat seperti Willy Wonka, dan bahkan menangkap Hitler dan Stalin bernyanyiVideo membunuh bintang radio dalam duet.

Bagi yang belum tahu, teknologi deepfake adalah bentuk media sintetis yang memungkinkan pengguna untuk menampilkan wajah berbeda pada wajah orang lain dengan cara yang hampir tidak bisa dibedakan dari aslinya. Ia melakukannya dengan membaca banyak data untuk memahami kontur wajah dan karakteristik lainnya untuk memadukan dan menganimasikannya secara alami ke dalam pemandangan.

Saat ini, Anda mungkin pernah menemukan klip semacam itu di platform seperti TikTok (di mana tagar “#deepfake” ditonton sekitar 200 juta kali), YouTube, dan di tempat lain. Entah itu untuk memenuhi fanfiksi dan ulangi adegan dengan bintang mereka berharap film tersebut awalnya menampilkan atau menampilkan orang mati dalam meme modern yang viral, deepfake telah diadopsi sebagai saluran kreatif untuk tujuan yang sebelumnya hampir mustahil.

Pergeseran ini telah melahirkan banyak pembuat konten baru Ctrl Shift Wajah, yang video deepfake-nya secara rutin menarik jutaan penayangan dan sering kali menjadi topik diskusi utama di acara bincang-bincang larut malam.

“Ini adalah cara baru untuk membuat video lucu di internet, atau menceritakan kisah yang belum pernah kita lihat sebelumnya,” kata pencipta lagu hit yang berbasis di Belanda, “Pembalas Dendam dari Oz” klip deepfake yang meminta agar nama aslinya tidak digunakan. “Ini adalah kombinasi daya tarik yang indah bagi A.I. teknologi dan humor.”

Namun ada risiko yang mengancam masa depan teknologi deepfake: Reputasinya tercemar.

Dengan kekuatan yang besar, muncul pula kemampuan repostabilitas yang besar

Sayangnya, selain potensinya sebagai alat kreatif bagi seniman video yang bermaksud baik, deepfake juga memiliki potensi yang sangat besar untuk menimbulkan kerugian.

Baru baru ini studi oleh Dawes Center for Future Crime di UCL Jill Dando Institute of Security and Crime Science menyebut deepfake sebagai ancaman paling serius yang disebabkan oleh AI. Sen. Ben Sasse, seorang Republikan Nebraskan yang telah memperkenalkan undang-undang yang mengkriminalisasi pembuatan deepfake yang berbahaya, diperingatkan tahun lalu bahwa teknologi tersebut dapat “menghancurkan kehidupan manusia”, “mengguncang pasar keuangan”, dan bahkan “memicu konflik militer di seluruh dunia.”

Sampai batas tertentu, kekhawatiran ini wajar. Lagi pula, perkembangan teknologi deepfake telah memungkinkan hal-hal seperti produksi konten dewasa palsu yang menampilkan selebriti, dan peniruan identitas politisi sebagai sindiran. Awal tahun ini, Dan Scavino, direktur media sosial Gedung Putih, tweet sebuah klip yang dimanipulasi dengan buruk, yang juga di-retweet oleh Presiden Donald Trump, tentang saingan Trump, Joe Biden, yang meminta masyarakat untuk memilih kembali Trump.

Namun, hoax yang kurang meyakinkan ini dengan cepat dibantah sebelum menyebar luas. Yang lebih penting lagi, para ahli berpendapat bahwa video deepfake sejauh ini hanya berdampak kecil atau tidak sama sekali terhadap masyarakat, dan saat ini video tersebut tidak menimbulkan ancaman apa pun. Misalnya penelitian yang dilakukan oleh kepekaan, sebuah perusahaan keamanan siber yang berfokus pada ancaman visual, mengklaim bahwa sebagian besar video deepfake adalah ancaman visual pornografi (96%) dan bahwa teknologi tersebut belum memberikan dampak disinformasi yang signifikan kampanye.

Demikian pula, a Laporan Universitas Georgetown menyimpulkan bahwa meskipun deepfake merupakan “prestasi teknis yang mengesankan”, para pembuat kebijakan tidak boleh terburu-buru melakukannya hype karena teknologi saat ini belum sempurna dan tidak dapat memengaruhi kejadian di dunia nyata begitu saja belum.

Pencipta di balik saluran deepfake paling populer Ctrl Shift Face, yang videonya ditonton jutaan orang, percaya pada “histeria” mengitari topik deepfake mengalihkan perhatian anggota parlemen dari isu-isu sebenarnya, seperti iklan yang diatur dengan buruk jaringan aktif Facebook yang sebenarnya bertanggung jawab untuk menyesatkan orang.

“Jika ada deepfake yang berbahaya, Facebook adalah tempat penyebarannya,” kata Ctrl Shift Face dalam sebuah wawancara dengan Digital Trends. “Kalau begitu, apa masalahnya yang lebih besar? Media atau platformnya?”

Pemilik dari Zona Bayi, saluran game YouTube dengan lebih dari setengah juta pelanggan yang sering memalsukan selebritas ke dalam video games, menyuarakan keprihatinan serupa: “Saya pikir deepfake adalah teknologi yang sama dengan teknologi lainnya yang sudah ada teknologi. Mereka dapat digunakan untuk tujuan baik dan buruk.”

Gerakan untuk menyelamatkan deepfake

Selama satu atau dua tahun terakhir, pemerintah dan perusahaan teknologi sedang menyelidiki potensi risiko dari hal ini teknologi, pendukung deepfake telah berupaya menghilangkan kekhawatiran ini dan memperbaiki masalah teknologi di masyarakat gambar. Komunitas Reddit yang berupaya untuk “menyesuaikan stigma ini” telah bermunculan, dan beberapa peneliti independen secara aktif membangun sistem yang dapat mendeteksi deepfake sebelum menjadi viral.

Roman Mogylnyi, CEO dan salah satu pendiri Reface, aplikasi populer yang memungkinkan Anda menukar wajah Anda dengan cepat menjadi GIF apa pun, mengatakan startupnya kini sedang mengembangkan alat pendeteksi yang dapat mengetahui apakah suatu video dibuat dengan Reface teknologi. “Kami percaya bahwa akses luas terhadap alat media sintesis seperti milik kami akan meningkatkan empati dan rasa kemanusiaan kreatif, dan akan membantu mengubah persepsi terhadap teknologi menjadi lebih baik,” kata Mogylnyi kepada Digital Tren.

Eran Dagan, pendiri dan CEO Botika, startup di balik aplikasi pertukaran wajah populer Jiggy, memiliki pandangan serupa terhadap deepfake dan kepercayaan ketika hal tersebut menjadi lebih umum, “orang akan lebih sadar akan penggunaan positifnya kasus.”

Namun, mengingat potensi bahaya deepfake, kemungkinan besar Kongres pada akhirnya akan turun tangan. Platform teknologi utama termasuk Facebook, Twitter, dan YouTube telah memperbarui kebijakan mereka untuk menandai atau menghapus media yang dimanipulasi dan dirancang untuk menyesatkan. Beberapa negara bagian suka Kalifornia dan New York telah mengeluarkan undang-undang yang akan menghukum pembuat video deepfake yang sengaja menipu, serta video yang dirilis tanpa izin dari orang yang wajahnya digunakan.

Haruskah deepfake diatur?

Meskipun kebijakan ini mengecualikan konten parodi, para ahli, karena takut akan undang-undang yang tidak jelas atau larangan total terhadap teknologi, masih percaya bahwa Kongres tidak boleh terlibat dalam hal ini dan membiarkan deepfake berjalan secara alami seperti yang terjadi pada media baru apa pun melalui.

David Greene, direktur kebebasan sipil di Electronic Frontier Foundation, mengatakan “setiap upaya Kongres untuk melakukan hal tersebut mengatur kepalsuan mendalam atau segala jenis komunikasi visual akan menjadi peraturan ucapan dan berimplikasi pada Yang Pertama Amandemen.

Undang-undang ini, tambah Greene, harus tepat dan harus – dalam istilah yang jelas dan mudah dipahami – mengatasi dampak buruk yang ingin dikurangi. “Apa yang telah kita lihat sejauh ini… upaya pengaturan di tingkat negara bagian adalah undang-undang yang tidak jelas dan terlalu luas serta tidak memiliki ketepatan yang disyaratkan oleh Amandemen Pertama. Mereka tidak memerlukan pengecualian untuk parodi dan komentar politik.”

Giorgio Patrini, CEO Sensity, menganggap larangan algoritma dan perangkat lunak “tidak ada artinya di era internet.” Patrini membandingkan teka-teki ini dengan malware perlindungan dan bagaimana hampir mustahil untuk mengakhiri semua virus komputer atau pembuatnya, jadi lebih baik berinvestasi pada mekanisme anti-malware saja alih-alih. “Masyarakat perlu membangun mekanisme baru untuk mensertifikasi apa yang dapat dipercaya, dan bagaimana mencegah dampak negatif konten sintetis terhadap individu dan organisasi,” ujarnya.

Tim Whang menulis dalam laporan Universitas Georgetown bahwa dengan komodifikasi alat deepfake, teknologi untuk mendeteksi dan memfilter hal tersebut secara otomatis akan berkembang dan menjadi lebih akurat - sehingga menetralisir kemampuan mereka untuk menyajikan sesuatu yang serius ancaman.

Alat pendeteksi deepfake yang baru-baru ini diluncurkan Microsoft, misalnya, menganalisis video untuk memberi Anda skor kepercayaan yang menunjukkan seberapa besar kemungkinan video tersebut dimodifikasi.

“Deepfake adalah bentuk manipulasi media yang baru, namun ini bukan pertama kalinya kita menghadapi tantangan seperti ini. Kami sedang menjajaki dan berinvestasi dalam cara mengatasi media sintetis,” kata juru bicara YouTube.

Para peneliti di belakang CtrlShiftLab, perangkat lunak pembuatan deepfake canggih yang digunakan oleh banyak YouTuber termasuk Ctrl Shift Face juga berupaya mewujudkan proyek sumber terbuka untuk meningkatkan kesadaran dan membangun deteksi yang lebih komprehensif jasa.

“Satu-satunya cara untuk mencegah hal ini [penyalahgunaan deepfake] adalah dengan membuat proyek open source terkait deepfake dan menarik perhatian publik. Jadi netizen publik bisa menyadari bahwa deepfake itu ada,” Kunlin Liu, salah satu peneliti CtrlShiftLab, mengatakan kepada Digital Trends.

Beberapa pencipta deepfake, Digital Trends, menyatakan bahwa mereka tetap optimis dan menganggap penolakan negara-negara terhadap deepfake terlalu dini. Mereka setuju bahwa semakin besarnya peran deepfake dalam meme dan budaya parodi akan berperan penting dalam memperbaiki reputasi buruk teknologi baru ini. Dan selama video memiliki penafian dan platform berinvestasi pada lapisan deteksi yang lebih efektif, mereka menambahkan, deepfake akan tetap ada.

“Saya pikir reputasi deepfake meningkat secara signifikan. Dua tahun lalu, kata deepfake otomatis berarti porno,” kata pencipta Ctrl Shift Face. “Sekarang, kebanyakan orang mengetahui deepfake karena video-video menghibur yang beredar di internet.”

Rekomendasi Editor

• Penghargaan Tech For Change CES 2023 dari Tren Digital
• Dalam Project Gucciberg yang lucu, Gucci Mane yang berpura-pura membaca novel klasik
• Bagaimana seniman dan aktivis menggunakan deepfake sebagai kekuatan untuk kebaikan
• Twitter akan melarang deepfake yang 'menimbulkan kerugian' menjelang pemilu tahun 2020
• California menindak deepfake yang ditujukan untuk politik dan pornografi