Di Dalam Perang Antara Detektor Deepfake dan Deepfake

Bayangkan sebuah film yang berliku-liku tentang penjahat ulung yang terlibat perang akal dengan detektif terhebat di dunia.

Penjahat berusaha melakukan trik kepercayaan diri besar-besaran, menggunakan sulap ahli dan kemampuan luar biasa untuk menyamarkan dirinya sebagai siapa pun di planet ini. Dia sangat pandai melakukan apa yang dia lakukan sehingga dia bisa membuat orang percaya bahwa mereka melihat hal-hal yang sebenarnya tidak pernah terjadi.

Tapi kemudian kami bertemu detektif itu. Dia adalah tipe orang yang cerdas, tidak kenal henti, dan mampu mengenali “tanda” pencuri mana pun. Dia tahu persis apa yang harus dicari, dan bahkan perilaku terkecil sekalipun — alis terangkat di sini, vokal turun di sana — sudah cukup untuk mengingatkannya ketika ada sesuatu yang tidak beres. Dia satu-satunya orang yang pernah menangkap antagonis kita, dan sekarang dia mengikuti jejaknya sekali lagi.

Namun, ada masalah: Pencuri kita mengetahui hal itu dia tahu apa yang harus dicari. Akibatnya, dia telah mengubah permainannya, tanpa sang protagonis menyadarinya.

Masalah pemalsuan mendalam

Intinya, inilah kisah deepfake dan deteksi deepfake sejauh ini. Deepfakes, suatu bentuk media sintetis yang dapat mengubah kemiripan seseorang secara digital seperti a Menghadapi pembuatan ulang disutradarai oleh A.I. para peneliti, telah menimbulkan kekhawatiran sejak mereka muncul pada tahun 2017. Meskipun banyak deepfake yang bersifat ringan (menukar Arnie untuk Sly Stallone masuk Terminator), mereka juga menimbulkan potensi ancaman. Deepfake telah digunakan untuk membuat video porno palsu yang tampak nyata dan telah digunakan dalam tipuan politik, serta penipuan keuangan.

Agar hoax tersebut tidak menjadi masalah yang lebih besar, seseorang harus mampu turun tangan dan mengatakan secara pasti kapan deepfake digunakan dan kapan tidak.

Tidak butuh waktu lama hingga detektor deepfake pertama muncul. Pada April 2018, saya meliput salah satu upaya sebelumnya untuk melakukan hal ini, yang dibangun oleh para peneliti di Universitas Teknik Munich Jerman. Sama seperti teknologi deepfake itu sendiri, teknologi ini menggunakan A.I. — hanya saja kali ini pembuatnya menggunakannya bukan untuk membuat produk palsu, namun untuk mengenalinya.

Detektor deepfake bekerja dengan mencari detail deepfake yang sebenarnya tidak ada lumayan dengan menjelajahi gambar bukan hanya untuk menemukan lembah yang menakjubkan, namun juga lubang terkecil yang luar biasa. Mereka memotong data wajah dari gambar dan kemudian meneruskannya melalui jaringan saraf untuk mengetahui keabsahannya. Detail hadiah mungkin mencakup hal-hal seperti kedipan mata yang direproduksi dengan buruk.

Namun kini para peneliti dari Universitas California San Diego telah menemukan cara untuk mengalahkan detektor deepfake dengan memasukkan apa yang disebut contoh permusuhan ke dalam bingkai video. Contoh permusuhan adalah kesalahan yang menarik — namun menakutkan — dalam sistem AI. Matriks. Mereka mampu mengelabui sistem pengenalan yang paling cerdas sekalipun, misalnya, mengira kura-kura adalah senjata, atau espresso adalah bola bisbol. Mereka melakukan ini dengan menambahkan noise secara halus ke dalam gambar sehingga menyebabkan jaringan saraf membuat klasifikasi yang salah.

Seperti salah mengira senapan sebagai reptil bercangkang. Atau video palsu dengan video asli.

Menipu detektor

“Baru-baru ini terdapat peningkatan dalam metode untuk menghasilkan video deepfake yang realistis,” Paarth Neekhara, seorang mahasiswa pascasarjana teknik komputer UC San Diego, mengatakan kepada Digital Trends. “Karena video yang dimanipulasi ini dapat digunakan untuk tujuan jahat, terdapat upaya signifikan dalam mengembangkan detektor yang dapat mendeteksi video deepfake dengan andal. Misalnya, Facebook baru-baru ini meluncurkan Tantangan Deteksi Deepfake untuk mempercepat penelitian pengembangan detektor deepfake. [Tetapi] meskipun metode deteksi ini dapat mencapai akurasi lebih dari 90% pada kumpulan data video palsu dan asli, penelitian kami menunjukkan bahwa metode tersebut dapat dengan mudah dilewati oleh penyerang. Seorang penyerang dapat menyuntikkan suara yang dibuat dengan hati-hati, yang tidak terlihat oleh mata manusia, ke dalam setiap frame video sehingga kesalahan klasifikasi dilakukan oleh detektor korban.”

Penyerang dapat membuat video ini meskipun mereka tidak memiliki pengetahuan khusus tentang arsitektur dan parameter detektor. Serangan-serangan ini juga masih berfungsi setelah video dikompresi, sama seperti jika video tersebut dibagikan secara online di platform seperti YouTube.

Saat diuji, metode ini lebih dari 99% mampu mengelabui sistem deteksi ketika diberi akses ke model detektor. Namun, bahkan pada tingkat keberhasilan yang paling rendah — untuk video terkompresi yang tidak mengetahui informasi tentang model detektornya — ia masih mengalahkannya sebanyak 78,33%. Itu bukan berita bagus.

Para peneliti menolak untuk mempublikasikan kode mereka dengan alasan bahwa kode tersebut dapat disalahgunakan, kata Neekhara. “Video permusuhan yang dihasilkan menggunakan kode kami berpotensi melewati detektor deepfake tak terlihat lainnya yang digunakan dalam produksi oleh beberapa [platform] media sosial,” jelasnya. “Kami berkolaborasi dengan tim yang berupaya membangun sistem deteksi deepfake ini, dan menggunakan penelitian kami untuk membangun sistem deteksi yang lebih kuat.”

Sebuah permainan kucing dan tikus palsu

Tentu saja ini bukanlah akhir dari cerita. Untuk kembali ke analogi film kita, ini masih hanya sekitar 20 menit dalam film. Kita belum sampai pada adegan di mana sang detektif menyadari bahwa si pencuri mengira dia telah membodohinya. Atau sampai si pencuri menyadari bahwa si detektif tahu bahwa dia tahu bahwa dia tahu. Atau.. Anda mendapatkan gambarannya.

Permainan kucing-dan-tikus untuk deteksi deepfake, yang kemungkinan akan terus berlanjut tanpa batas waktu, sudah diketahui oleh siapa saja yang pernah bekerja di bidang keamanan siber. Peretas jahat menemukan kerentanan, yang kemudian diblokir oleh pengembang, sebelum peretas menemukan kerentanan dalam versi yang telah diperbaiki, yang kemudian diubah lagi oleh pengembang. Lanjutkan tanpa batas.

“Ya, sistem pembuatan dan deteksi deepfake mengikuti dinamika virus dan antivirus dengan cermat,” Shehzeen Husain, seorang mahasiswa teknik komputer UC San Diego, Ph.D. mahasiswa, kepada Digital Trends. “Saat ini, pendeteksi deepfake dilatih berdasarkan kumpulan data video asli dan palsu yang dihasilkan menggunakan teknik sintesis deepfake yang ada. Tidak ada jaminan bahwa detektor semacam itu akan sangat aman terhadap sistem generasi deepfake di masa depan… Agar tetap menjadi yang terdepan dalam perlombaan senjata, metode deteksi perlu diperbarui secara berkala dan dilatih mengenai teknik sintesis deepfake yang akan datang. [Mereka] juga perlu dibuat kuat terhadap contoh-contoh permusuhan dengan memasukkan video-video permusuhan selama pelatihan.”

A makalah yang menjelaskan pekerjaan ini, berjudul “Adversarial Deepfakes: Mengevaluasi Kerentanan Detektor Deepfake terhadap Contoh Adversarial,” baru-baru ini dipresentasikan pada konferensi virtual WACV 2021.

Rekomendasi Editor

• AI mengubah Breaking Bad menjadi anime — dan itu menakutkan
• Mengapa AI tidak akan pernah menguasai dunia
• Ilusi optik dapat membantu kita membangun AI generasi berikutnya
• Sentuhan terakhir: Bagaimana para ilmuwan memberi robot indra peraba yang mirip manusia
• AI Analog? Kedengarannya gila, tapi mungkin itu adalah masa depan

Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terkini, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.