Deepfake ve Deepfake Dedektörleri Arasındaki Savaşın İçinde

Dünyanın en iyi dedektifiyle zeka savaşına giren usta bir suçluyu konu alan, dönüşlü bir film hayal edin.

Suçlu, uzman el çabukluğu ve esrarengiz yeteneğini kullanarak kendisini neredeyse gezegendeki herkes gibi gizleyerek büyük bir güven hilesi yapmaya çalışıyor. Yaptığı işte o kadar iyi ki insanları gerçekte hiç olmamış şeyleri gördüklerine inandırabiliyor.

Ama sonra dedektifle tanışıyoruz. O, herhangi bir hırsızın "anlattığını" fark edebilen, hiçbir şeyden çekinmeyen, zeki bir tiptir. Neye bakması gerektiğini biliyor ve en ufak bir davranış bile (burada bir kaş kaldırma, burada bir sesli harf) bir şeyler ters gittiğinde onu uyarmak için yeterli. Düşmanımızı yakalayabilen tek kişi o ve şimdi bir kez daha onun peşinde.

Ancak bir sorun var: Hırsızımız bunu biliyor o ne arayacağını biliyor. Sonuç olarak, kahramanın farkına varmadan oyununu değiştirdi.

Deepfake sorunu

Bu aslında deepfake'lerin ve deepfake tespitinin şu ana kadarki hikayesidir. Deepfakes, insanların benzerliklerinin dijital olarak değiştirilebildiği bir tür sentetik medyadır. Yüz/Kapalı A.I.'nin yönettiği yeniden yapım. araştırmacılar, 2017 yılında ortaya çıktıklarından beri endişe kaynağı oldular. Pek çok deepfake kaygısız olsa da (değişerek Sly Stallone için Arnie Terminatör), ayrıca potansiyel bir tehdit oluştururlar. Deepfake'ler, gerçek gibi görünen sahte pornografik videolar oluşturmak için kullanıldı ve hem siyasi sahtekarlıklarda hem de mali dolandırıcılıkta kullanıldı.

Bu tür aldatmacaların daha da büyük bir sorun haline gelmesin diye, birinin devreye girip deepfake'in ne zaman kullanılıp kullanılmadığını kesin olarak söyleyebilmesi gerekiyor.

İlk deepfake dedektörlerinin ortaya çıkması uzun sürmedi. Nisan 2018'e kadar, bunu yapmaya yönelik daha önceki çabalardan biriAlmanya'nın Münih Teknik Üniversitesi'ndeki araştırmacılar tarafından inşa edildi. Deepfake teknolojisinin kendisi gibi, yapay zekayı kullandı. — ancak bu sefer yaratıcıları bunu sahte ürünler yaratmak için değil, onları tespit etmek için kullanıyorlardı.

Deepfake dedektörleri, deepfake'in gerçek olmayan ayrıntılarını arayarak çalışır. epeyce görüntüleri yalnızca tekinsiz vadileri değil, aynı zamanda en küçük tekinsiz çukurları da tarayarak. Görüntülerden yüz verilerini kırpıyorlar ve ardından meşruiyetini anlamak için bunu bir sinir ağından geçiriyorlar. Çekiliş ayrıntıları, kötü şekilde çoğaltılmış göz kırpma gibi şeyleri içerebilir.

Ancak şimdi California San Diego Üniversitesi'nden araştırmacılar, video karelerine rakip örnekler adı verilen şeyleri yerleştirerek deepfake dedektörlerini yenmenin bir yolunu buldular. Karşıt örnekler, yapay zekadaki büyüleyici ama aynı zamanda dehşet verici bir aksaklıktır. Matris. En akıllı tanıma sistemlerini bile kandırabilirler, örneğin: kaplumbağanın silah olduğunu düşünmekveya bir espresso beyzboldur. Bunu, sinir ağının yanlış sınıflandırma yapmasına neden olacak şekilde bir görüntüye ustaca gürültü ekleyerek yapıyorlar.

Tüfeği kabuklu bir sürüngenle karıştırmak gibi. Veya gerçek bir video yerine sahte bir video.

Dedektörleri kandırmak

"Gerçekçi deepfake videolar oluşturmaya yönelik yöntemlerde son zamanlarda bir artış oldu" Paarth NeekharaUC San Diego bilgisayar mühendisliği yüksek lisans öğrencisi Digital Trends'e şunları söyledi. "Bu manipüle edilmiş videolar kötü amaçlarla kullanılabildiğinden, deepfake videoları güvenilir bir şekilde tespit edebilecek dedektörlerin geliştirilmesi konusunda önemli bir çaba sarfedildi. Örneğin, Facebook yakın zamanda deepfake dedektörleri geliştirmeye yönelik araştırmaları hızlandırmak için Deepfake Detection Challenge'ı başlattı. [Ancak] bu tespit yöntemleri, sahte ve gerçek videolardan oluşan bir veri kümesinde %90'ın üzerinde doğruluk elde edebilse de, çalışmamız bunların bir saldırgan tarafından kolayca atlatılabileceğini gösteriyor. Bir saldırgan, videonun her karesine, insan gözünün neredeyse algılayamayacağı, özenle hazırlanmış bir gürültü enjekte ederek kurban dedektörü tarafından yanlış sınıflandırılabilir.

Saldırganlar, dedektörün mimarisi ve parametreleri hakkında özel bilgiye sahip olmasalar bile bu videoları oluşturabilirler. Bu saldırılar, videolar sıkıştırıldıktan sonra da işe yarıyor; tıpkı YouTube gibi bir platformda çevrimiçi olarak paylaşılsalar olduğu gibi.

Test edildiğinde yöntem, dedektör modeline erişim verildiğinde algılama sistemlerini %99'dan fazla yanıltma kapasitesine sahipti. Bununla birlikte, en düşük başarı seviyelerinde bile (dedektör modelleri hakkında hiçbir bilginin bilinmediği sıkıştırılmış videolar için) yine de onları %78,33 oranında mağlup etti. Bu pek de iyi bir haber değil.

Neekhara, araştırmacıların, kodların kötüye kullanılabileceği gerekçesiyle kodlarını yayınlamayı reddettiklerini belirtti. "Kodumuz kullanılarak oluşturulan düşmanca videolar, bazı sosyal medya [platformları] tarafından üretimde kullanılan diğer görünmeyen deepfake dedektörlerini potansiyel olarak atlayabilir" diye açıkladı. "Bu derin sahte tespit sistemlerini oluşturmaya çalışan ekiplerle işbirliği yapıyoruz ve araştırmalarımızı daha sağlam tespit sistemleri oluşturmak için kullanıyoruz."

Deepfake kedi fare oyunu

Bu hikayenin sonu değil elbette. Film benzetmemize dönecek olursak, bu filmin henüz sadece 20 dakikası civarında olacaktır. Dedektifin, hırsızın kendisini kandırdığını düşündüğünü anladığı olay yerine henüz gelmedik. Veya hırsızın, dedektifin kendisinin bildiğini bildiğini bildiğini anladığı noktaya kadar. Veya.. resmi anladın.

Deepfake tespitine yönelik böyle bir kedi-fare oyununun süresiz olarak devam etmesi muhtemel, siber güvenlik alanında çalışan herkes tarafından iyi bilinmektedir. Kötü niyetli bilgisayar korsanları, bilgisayar korsanları sabit sürümlerinde güvenlik açıkları bulmadan önce geliştiriciler tarafından engellenen güvenlik açıklarını bulur ve daha sonra geliştiriciler tarafından yeniden ayarlanır. Sonsuza kadar devam edin.

"Evet, deepfake oluşturma ve tespit sistemleri virüs ve antivirüs dinamiklerini yakından takip ediyor." Şehzeen HüseyinUC San Diego bilgisayar mühendisliği doktora öğrencisi. öğrencisi Digital Trends'e şunları söyledi: "Şu anda deepfake dedektörleri, mevcut deepfake sentez teknikleri kullanılarak oluşturulan gerçek ve sahte videolardan oluşan bir veri seti üzerinde eğitiliyor. Bu tür dedektörlerin gelecekteki deepfake nesil sistemlere karşı kusursuz olacağının garantisi yok… Önde kalmak için Silahlanma yarışında tespit yöntemlerinin düzenli olarak güncellenmesi ve gelecek deepfake sentez teknikleri konusunda eğitilmesi gerekiyor. [Onların] aynı zamanda eğitim sırasında düşmanca videolar dahil edilerek rakip örneklere karşı dayanıklı hale getirilmesi gerekiyor."

A bu çalışmayı anlatan makale"Çekişmeli Deepfakes: Deepfake Dedektörlerinin Karşıt Örneklere Karşı Savunmasızlığını Değerlendirmek" başlıklı kısa süre önce WACV 2021 sanal konferansında sunuldu.

Editörlerin Önerileri

• Yapay Zeka, Breaking Bad'i bir animeye dönüştürdü ve bu çok korkutucu
• Neden yapay zeka dünyaya asla hükmedemeyecek?
• Optik illüzyonlar yeni nesil yapay zekayı oluşturmamıza yardımcı olabilir
• Son dokunuş: Bilim insanları robotlara insan benzeri dokunma duyularını nasıl veriyor?
• Analog yapay zeka mı? Çılgınca gelebilir ama gelecek olabilir

Yaşam tarzınızı yükseltinDigital Trends, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği olan ön bakışlarla okuyucuların teknolojinin hızlı tempolu dünyasını takip etmelerine yardımcı olur.