Deepfake'ler Tehlikeli mi? Yaratıcılar ve Düzenleyiciler Aynı fikirde değil

Geçtiğimiz birkaç yılda, derin sahtekarlıklar memler ve parodi içeriği için internetin en son tercihi olarak ortaya çıktı.

Nedenini anlamak kolay: İçerik oluşturucuların gerçekliğin kurallarını daha önce hiçbir teknolojide olmadığı kadar esnetmelerine olanak tanıyorlar. Deepfake büyüsü sayesinde izleyebilirsiniz Jennifer Lawrence, Steve Buscemi'nin yüzü aracılığıyla bir konuşma yapıyor, bak ne Ryan Reynolds Willy Wonka'ya benziyorduve hatta yakalayın Hitler ve Stalin şarkı söylüyorVideo Radyo yıldızını öldürdü bir düet halinde.

Deneyimsiz olanlar için deepfake teknolojisi, kullanıcıların başka birinin yüzüne orijinalinden neredeyse ayırt edilemeyecek şekilde farklı bir yüz yerleştirmesine olanak tanıyan bir sentetik medya biçimidir. Bunu, yüzün hatlarını ve diğer özelliklerini anlamak için yığınla veriyi okuyarak ve onu sahneye doğal bir şekilde harmanlayıp canlandırarak yapıyor.

Bu noktada muhtemelen TikTok (“#deepfake” etiketinin yaklaşık 200 milyon izlenme sayısına sahip olduğu), YouTube gibi platformlarda ve başka yerlerde bu tür kliplere rastlamışsınızdır. Hayran kurgusunu gerçekleştirmek için olsun ve yıldızlarla sahneleri yeniden yap Filmin başlangıçta modern, viral bir memede rol almasını veya ölü bir kişiyi koymasını diliyorlar, deepfake'ler daha önce neredeyse imkansız olan amaçlar için yaratıcı bir çıkış noktası olarak benimsenmiş.

Bu değişim, aşağıdaki gibi yeni yaratıcılardan oluşan bir lig ortaya çıkardı: Ctrl Shift YüzüDeepfake videoları düzenli olarak milyonlarca görüntüleme alan ve çoğu zaman gece geç saatlerde yapılan talk şovların ana tartışma konusu olan.

Bu hitin arkasındaki Hollanda merkezli içerik oluşturucu, "Bu, komik internet videoları hazırlamanın veya daha önce hiç görmediğimiz hikayeler anlatmanın tamamen yeni bir yolu" diyor ve şöyle devam ediyor:Oz'un YenilmezleriGerçek adının kullanılmamasını isteyen deepfake klip. “Bu, yapay zeka için büyüleyiciliğin güzel bir birleşimi. teknoloji ve mizah.”

Ancak deepfake teknolojisinin geleceğini tamamen tehdit eden bir risk var: itibarının zedelenmesi.

Büyük güç, büyük yeniden yayınlanabilirliği beraberinde getirir

Ne yazık ki, deepfake'ler iyi niyetli video sanatçıları için yaratıcı bir araç olma potansiyelinin yanı sıra muazzam bir zarar verme potansiyeli de taşıyor.

Yakın zamanda UCL Jill Dando Güvenlik ve Suç Bilimi Enstitüsü'ndeki Dawes Gelecekteki Suçlar Merkezi tarafından yapılan çalışma deepfake'i yapay zekanın etkin olduğu en ciddi tehdit olarak nitelendirdi. You are. Nebraskalı bir Cumhuriyetçi olan Ben Sasse, kötü niyetli deepfake oluşturmayı suç sayan bir yasa tasarısı sundu. uyardı Geçen yıl teknolojinin "insan hayatını mahvedebileceği", "finansal piyasaları sarsabileceği" ve hatta "dünya çapında askeri çatışmaları teşvik edebileceği" söylendi.

Bu endişeler bir dereceye kadar haklıdır. Sonuçta, deepfake teknolojisinin yaygınlaşması, ünlülerin yer aldığı sahte yetişkinlere yönelik içeriklerin üretilmesi ve hiciv amacıyla politikacıların gerçekçi taklitlerinin yapılması gibi şeyleri zaten mümkün kıldı. Bu yılın başlarında Beyaz Saray sosyal medya direktörü Dan Scavino, tweet attı Trump'ın rakibi Joe Biden'ın insanlardan Trump'ı yeniden seçmelerini istediği, kötü manipüle edilmiş bir klip, Başkan Donald Trump tarafından da retweetlendi.

Ancak pek de inandırıcı olmayan bu aldatmacalar kitlelere ulaşmadan hızla çürütüldü. Daha da önemlisi, uzmanlar deepfake videoların şu ana kadar çok az toplumsal etkiye sahip olduğunu veya hiç olmadığını ve şu anda herhangi bir yakın tehdit oluşturmadıklarını öne sürüyor. Örneğin, tarafından yürütülen araştırma DuyarlılıkGörsel tehditlere odaklanan bir siber güvenlik firması, deepfake videoların büyük çoğunluğunun pornografik (%96) ve teknolojinin henüz ciddi bir dezenformasyona yol açmadığı kampanyalar.

Benzer şekilde, bir Georgetown Üniversitesi raporu Deepfake'ler "etkileyici bir teknik başarı" olsa da politika yapıcıların bu konuda acele etmemeleri gerektiği sonucuna varıldı. teknolojinin şu anda mükemmel olmadığı ve gerçek dünyadaki olayları etkileyemeyeceği yönündeki abartılı reklam henüz.

Videoları milyonlarca kişi tarafından izlenen en popüler deepfake kanalı Ctrl Shift Face'in yaratıcısı "histeri"ye inanıyor Deepfake konusunun etrafında dolaşmak, yasa koyucuların dikkatini kötü düzenlenmiş reklamlar gibi gerçek sorunlardan uzaklaştırıyor ağlar açık Facebook aslında insanları yanıltmanın sorumlusu bunlar.

Ctrl Shift Face, Digital Trends ile yaptığı röportajda, "Eğer zararlı bir deepfake olacaksa, bunun yayılacağı yer Facebook'tur" dedi. "Bu durumda en büyük sorun ne? Ortam mı yoksa platform mu?”

Sahibi Bebek Bölgesi, yarım milyondan fazla abonesi olan ve genellikle ünlülerin sahtekarlığını videoya aktaran bir YouTube oyun kanalı oyunları da benzer bir endişeyi yansıtıyor: "Deepfake'in mevcut tüm teknolojiler gibi bir teknoloji olduğunu düşünüyorum. teknolojiler. İyi amaçlar için de, kötü amaçlar için de kullanılabilirler.”

Deepfake'leri kurtarma hareketi

Son bir veya iki yıldır hükümetler ve teknoloji şirketleri bunun potansiyel risklerini araştırırken deepfake savunucuları bu endişeleri gidermek ve teknolojinin kamuya açık sorunlarını düzeltmek için çabaladılar. görüntü. Reddit toplulukları "Bu damgayı düzeltmeye" yönelik girişimler ortaya çıktı ve bazı bağımsız araştırmacılar, derin sahtekarlıkları viral hale gelmeden önce tespit edebilecek sistemler aktif olarak geliştiriyor.

Yüzünüzü hızlı bir şekilde herhangi bir GIF'e dönüştürmenizi sağlayan popüler bir uygulama olan Reface'in CEO'su ve kurucu ortağı Roman Mogylnyi, girişiminin şu anda bir videonun Reface ile yapılıp yapılmadığını anlayabilen bir tespit aracı geliştirdiğini söylüyor teknoloji. “Bizimki gibi sentezlenmiş medya araçlarına geniş erişimin insanlığın empati ve duyarlılığını artıracağına inanıyoruz. Mogylnyi, Digital'e şunları söyledi: "Yaratıcılık ve teknoloji algısını daha iyiye doğru değiştirmeye yardımcı olacak." Trendler.

Popüler yüz değiştirme uygulaması Jiggy'nin arkasındaki girişim olan Botika'nın kurucusu ve CEO'su Eran Dagan da benzer bir bakış açısına sahip deepfake'lere yöneliyor ve bunlar yaygınlaştıkça "insanlar bunların olumlu kullanımının çok daha fazla farkına varacak" vakalar.”

Ancak deepfake'lerin potansiyel tehlikeleri göz önüne alındığında, Kongre'nin eninde sonunda devreye girmesi muhtemeldir. Başlıca teknoloji platformları Facebook, Twitter ve YouTube da dahil olmak üzere, yanıltıcı olmak üzere tasarlanmış manipüle edilmiş medyayı işaretlemek veya kaldırmak için politikalarını zaten güncellediler. Gibi birden fazla eyalet Kaliforniya ve New York, kasıtlı olarak aldatıcı deepfake yapımcılarının yanı sıra yüzü kullanılan kişinin rızası olmadan yayınlananları cezalandıracak yasa tasarılarını kabul etti.

Deepfake'ler düzenlenmeli mi?

Bu politikalar parodi içeriklerini hariç tutarken, uzmanlar, yasaların iyi tanımlanmamasından veya teknolojinin tamamen yasaklanmasından korkarak, hâlâ Kongre'nin bu işin dışında kalması ve deepfake'lerin her türlü yeni medya biçiminin doğal akışında ilerlemesine izin vermesi gerektiğine inanıyorum başından sonuna kadar.

Electronic Frontier Foundation'ın sivil özgürlükler direktörü David Greene şöyle diyor: "Kongre'nin herhangi bir girişimi Derin sahtekarlıkları veya gerçekten her türlü görsel iletişimi düzenlemek, konuşmanın bir düzenlemesi olacak ve İlk'i içerecektir. Değişiklik.

Greene, bu yasaların kesin olması gerektiğini ve iyi tanımlanmış ve kolayca anlaşılabilecek terimlerle, azaltmaya çalıştıkları zararı ele alması gerektiğini ekliyor. “Şu ana kadar gördüklerimiz… eyalet düzeyindeki düzenleyici girişimler, Birinci Değişikliğin gerektirdiği kesinliğe sahip olmayan, belirsiz ve aşırı geniş yasalardır. Parodi ve politik yorumlar için gerekli istisnalara sahip değiller.”

Sensity CEO'su Giorgio Patrini, algoritma ve yazılım yasağını "internet çağında anlamsız" buluyor. Patrini bu açmazı kötü amaçlı yazılımlarla karşılaştırıyor koruma ve tüm bilgisayar virüslerine veya bunların yazarlarına son vermenin neredeyse imkansız olduğu, dolayısıyla kötü amaçlı yazılımdan koruma mekanizmalarına yatırım yapmanın daha iyi olduğu yerine. "Toplumun, neye güvenilebileceğini ve sentetik içeriğin bireyler ve kuruluşlar üzerindeki olumsuz etkilerini nasıl önleyebileceğini belgelemek için yeni mekanizmalar oluşturması gerekiyor" dedi.

Tim Whang, Georgetown Üniversitesi raporunda, deepfake araçlarının metalaştırılmasıyla tespit ve filtreleme teknolojisinin artacağını yazdı. sonuç olarak otomatik olarak gelişecek ve daha doğru hale gelecektir; böylece ciddi herhangi bir şeyi sunma yetenekleri etkisiz hale gelecektir. tehditler.

Microsoft'un yakın zamanda kullanıma sunduğu deepfake tespit aracıÖrneğin, videonun değiştirilme olasılığının ne kadar olduğunu gösteren bir güven puanı sunmak için videoları analiz eder.

"Deepfake'ler medya manipülasyonunun yeni bir biçimi, ancak bu tür zorluklarla ilk kez karşılaşmıyoruz. Bir YouTube sözcüsü, "Sentetik medyayı ele almanın yollarını araştırıyor ve yatırım yapıyoruz" dedi.

Arkasındaki araştırmacılar CtrlShiftLabCtrl Shift Face de dahil olmak üzere pek çok YouTuber'ın kullandığı gelişmiş bir deepfake oluşturma yazılımı artık ayrıca farkındalığı artırmak ve daha kapsamlı tespit oluşturmak için açık kaynaklı projeler üzerinde çalışıyoruz Hizmetler.

“Bunu [deepfake istismarını] önlemenin tek yolu, deepfake ile ilgili açık kaynaklı bir proje kurmak ve kamuoyunun dikkatini çekmek. CtrlShiftLab araştırmacılarından biri olan Kunlin Liu, Digital Trends'e şöyle konuştu: "Böylece halka açık netizenler deepfake'lerin var olduğunu fark edebilirler."

Birkaç deepfake içerik oluşturucusu Digital Trends, iyimser kalmayı ve ülkelerin deepfake'e karşı tepkisini henüz erken bulduğunu belirtti. Deepfake'in memlerde ve parodi kültüründe büyüyen rolünün, bu yeni ortaya çıkan teknolojinin berbat itibarını onarmada etkili olacağı konusunda hemfikirler. Videolarda sorumluluk reddi beyanları olduğu ve platformlar daha etkili tespit katmanlarına yatırım yaptığı sürece, derin sahtekarlıkların kalıcı olacağını eklediler.

“Deepfake'lerin itibarının önemli ölçüde arttığını düşünüyorum. Ctrl Shift Face'in yaratıcısı, "İki yıl önce deepfake kelimesi otomatik olarak porno anlamına geliyordu" dedi. "Artık çoğu insan deepfake'leri internette dolaşan eğlenceli videolar sayesinde biliyor."

Editörlerin Önerileri

• Dijital Trendlerin Değişim İçin Teknolojisi CES 2023 Ödülleri
• Komik Gucciberg Projesi'nde, sahte bir Gucci Mane klasik romanlar okuyor
• Sanatçılar ve aktivistler deepfake'leri iyilik için bir güç olarak nasıl kullanıyor?
• Twitter, 2020 seçimleri öncesinde 'zarar veren' deepfake'leri yasaklamak için harekete geçti
• Kaliforniya siyaset ve porno amaçlı deepfake'lere karşı önlem alıyor