Mengapa Deepfakes Akan Segera Menjadi Hal Biasa Seperti Photoshop

Tahukah Anda bahwa Anda dapat membuat video deepfake dari kenyamanan rumah Anda sendiri, atau dari ponsel Anda? Unduh salah satu dari banyak aplikasi pertukaran wajah atau deepfake yang tersedia di toko aplikasi lokal Anda dan Anda juga dapat mempengaruhi pemilu.

Oke, tidak juga, dan kami jelas tidak mendukungnya. Namun dalam hype dan kekhawatiran di sekitar palsu dalam teknologi, dan penyalahgunaannya yang sangat nyata, kebenaran sederhananya adalah bahwa teknologi ini tidak akan hilang. Faktanya, ini akan menjadi hal biasa seperti Photoshop, terutama jika pengembang aplikasi sedang mengerjakannya Teknologi deepfake punya pendapat mengenai hal ini: Kita akan segera melihat iklan yang sangat bertarget dengan wajah kita sendiri mereka.

Roman Mogylnyi, CEO RefaceAI, sebuah startup yang berbasis di Ukraina, mengatakan mereka telah bekerja dengan pembelajaran mesin sejak tahun 2011, dan mulai membuat aplikasi mereka sendiri berdasarkan teknologi deepfake pada tahun 2014. RefaceAI telah merilis aplikasi foto-deepfake bernama Reflect, dan akan segera merilis aplikasi video-deepfake mereka sendiri, serta layanan web yang akan membantu mendeteksi video deepfake.

“Kami melihat sejak awal bahwa teknologi ini disalahgunakan,” kata Mogylnyi. “Kami pikir kami bisa melakukannya dengan lebih baik.”

RefaceAI telah bekerja sama dengan beberapa perusahaan produksi film – meskipun Mogylnyi tidak dapat menyebutkan perusahaan mana – untuk menggunakan teknologinya untuk menukar wajah para aktor ke dalam tubuh ganda, dengan biaya yang jauh lebih murah dibandingkan dengan menerbangkan para aktor kembali ke lokasi syuting dan melakukan syuting ulang adegan-adegan tersebut dalam film. pertanyaan. Hal ini, kata Mogylnyi, adalah apa yang dilihat perusahaan sebagai masa depan deepfake. “Kami ingin menggunakannya untuk pemasaran, untuk personalisasi iklan, untuk gif, untuk materi hiburan secara umum,” ujarnya.

Masa depan media

RefaceAI bukanlah perusahaan yang mencoba menjadi yang terdepan dalam kurva pemasaran yang tak terelakkan ini. Carica, sebuah aplikasi yang berbasis di Korea Selatan, juga mengembangkan GIF dan video deepfake di mana seseorang dapat mencangkokkan wajahnya ke GIF reaksi populer untuk dikirimkan ke teman dan keluarga. Aplikasi ini sudah menampilkan iklan pop-up yang memasukkan wajah pengguna ke dalam foto atau video iklan.

“Kami ingin perusahaan kami menjadi perusahaan media,” kata insinyur Carica Joseph Jang kepada Digital Trends. Deepfake hanyalah permulaannya. “Saya rasa perusahaan media akan mulai mengadopsi fitur ini. Ini akan menjadi pilihan yang Anda miliki, seperti a Saring. Ini akan menjadi hal yang biasa bagi orang-orang.”

Baik Jang maupun Mogylnyi menggunakan proliferasi Photoshop sebagai model yang mereka lihat dalam Deepfakes: Sangat umum hingga biasa-biasa saja, namun masih sedikit kontroversial. Dan bagi keduanya, masalah politik dan etika yang terbungkus dalam deepfake sebenarnya hanyalah masalah biasa saja.

Shamir Allibhai, CEO platform pendeteksi deepfake Amber Video, mengatakan kepada Digital Trends bahwa pandangan utamanya adalah bahwa teknologi deepfake, seperti kebanyakan jenis teknologi lainnya, adalah tidak bermoral.

“Ini seperti mengatakan Microsoft Word tidak bermoral, jahat karena calon teroris akan menggunakannya mendukung ideologi kekerasan dan ekstremis, yang akan menginspirasi orang lain untuk mendukung ideologi ekstremis kekerasan,” katanya dikatakan. “Saya sangat melihat teknologi ini dengan cara yang sama.”

Amber Video adalah platform yang mengiklankan layanannya sebagai upaya memerangi deepfake untuk “mencegah penipuan, hilangnya reputasi, dan ketidakpercayaan pemangku kepentingan.” Allibhai mengatakan dia tidak tahu apakah dia siap membeli sesuatu hanya karena wajahnya tertuju pada benda itu, tapi dia setuju bahwa, pada akhirnya, teknologi itu akan menjadi kenyataan. meresap.

“Ini cerminan masyarakat,” katanya. “Anda bisa melihatnya dalam teknologi seperti platform Twitter. Anda melihat yang terbaik dari umat manusia dan yang terburuk dari kami. Teknologi deepfake juga akan mencerminkan masyarakat. Ada orang yang akan menggunakannya untuk sindiran ringan dan mengolok-olok rezim otoriter. Tapi kami juga akan mencoba menciptakan kekacauan.”

Persenjataan deepfake

Ketakutan terbesar adalah potensi penyalahgunaan dan penggunaan deepfake sebagai senjata. Ketika hal ini menjadi lebih umum, kita bahkan dapat melihatnya digunakan tidak hanya untuk kampanye disinformasi berskala luas, namun juga untuk lelucon atau intimidasi di sekolah. Jika teknologinya cukup mudah diakses, siapa pun bisa menggunakannya.

Carica dan RefaceAI mengatakan bahwa mereka mengambil langkah-langkah untuk mengurangi potensi penyalahgunaan – RefaceAI dengan layanan web deteksi deepfake, dan Carica dengan moderator konten. Saat ini seluruh perusahaan Carica hanya terdiri dari sembilan orang, kata Jang, dan mereka mengabaikan tugas moderasi konten.

“Ini benar-benar pertanyaan pertama yang kami tanyakan pada diri kami sendiri,” kata Mogylnyi dari RefaceAI. “Kami telah menangani hal ini dalam kaitannya dengan skandal politik di Ukraina selama bertahun-tahun. Kami memahami bahwa teknologi kami dapat disalahgunakan. Bahkan Photoshop pun bisa dan telah digunakan untuk penindasan. Namun di sisi lain, kami menyediakan penawarnya. Kami memang memiliki pengguna yang mengunggah konten seksual ke aplikasi kami, dan kami langsung melarang pengguna tersebut.”

Carica adalah aplikasi yang cukup kecil sehingga mereka harus bekerja dengannya saat ini. Namun secara keseluruhan, Jang tidak khawatir.

“Hal ini terjadi dengan semua teknologi baru,” kata Jang. “Pertama, ini didorong oleh penyalahgunaan, tapi kemudian setelah fase itu, ini menjadi tersedia untuk semua orang dan orang-orang menggunakannya untuk hal-hal normal.”

Rekomendasi Editor

• Robot keamanan mungkin datang ke sekolah di dekat Anda
• Amazon menerapkan AI untuk merangkum ulasan produk
• Amazon merencanakan perubahan 'sekali dalam satu generasi' untuk Pencarian, ungkap iklan pekerjaan
• Komputer mini Jetson Orin Nano seharga $200 milik Nvidia 80 kali lebih cepat dari versi sebelumnya
• Google Smart Canvas mendapatkan integrasi yang lebih mendalam antar aplikasi