Deepfakes Neden Yakında Photoshop Kadar Sıradan Olacak?

Evinizin rahatlığında veya telefonunuzda deepfake video yapabileceğinizi biliyor muydunuz? Yerel uygulama mağazanızdan ve siz de rahatlıkla bulabileceğiniz çok sayıda yüz değiştirme veya deepfake uygulamasından birini indirin seçimi etkileyebilir.

Tamam, pek değil ve bunu kesinlikle onaylamıyoruz. Ama etraftaki heyecan ve endişe içinde derin sahte teknoloji ve onun gerçekten kötüye kullanılması, basit gerçek şu ki bu teknoloji ortadan kaybolmayacak. Aslında Photoshop kadar sıradan hale gelecek, özellikle de uygulama geliştiricileri üzerinde çalışıyorsa deepfake teknolojisinin bu konuda söyleyecek bir şeyi yok: Yakında kendi yüzümüzün yer aldığı hiper-hedefli reklamları görebiliriz onlara.

Ukrayna merkezli bir girişim olan RefaceAI'nin CEO'su Roman Mogylnyi, 2011'den beri makine öğrenimi üzerinde çalıştıklarını ve 2014'te deepfake teknolojisine dayalı kendi uygulamalarını yapmaya başladıklarını söyledi. RefaceAI halihazırda Reflect adında bir fotoğraf-deepfake uygulaması yayınladı ve hem kendi video-deepfake uygulamasını hem de deepfake videoların tespit edilmesine yardımcı olacak bir web hizmetini yayınlamanın eşiğinde.

Mogylnyi, "En başından beri bu teknolojinin kötüye kullanıldığını gördük" dedi. "Daha iyisini yapabileceğimizi düşündük"

RefaceAI, kendi teknolojisini kullanarak film yapımcılığını değiştirmek için halihazırda bazı film yapım şirketleriyle çalıştı (Mogylnyi hangileri olduğunu söyleyemese de). Oyuncuların yüzlerini vücut kopyalarına aktararak, sahneleri ayarlamak ve yeniden çekmek için oyuncuları geri uçurmaktan çok daha az bir maliyete sahip olursunuz. soru. Mogylnyi, şirketin deepfake'in geleceği olarak gördüğü şeyin bu olduğunu söyledi. "Bunu pazarlama, reklamları kişiselleştirme, gifler ve genel olarak eğlence malzemeleri için kullanmak istiyoruz" dedi.

Medyanın geleceği

RefaceAI, bu kaçınılmaz pazarlama eğrisinin önüne geçmeye çalışan şirket değil. Güney Kore merkezli bir uygulama olan Carica, aynı zamanda kişilerin arkadaşlarına ve ailelerine göndermek üzere yüzlerini popüler bir tepki GIF'ine aşılayabileceği deepfake GIF'ler ve videolar da geliştiriyor. Uygulama zaten kullanıcının yüzünü reklamın fotoğrafına veya videosuna dahil eden açılır reklamlar içeriyor.

Carica mühendisi Joseph Jang, Digital Trends'e "Şirketimizin bir medya şirketi olmasını istiyoruz" dedi. Deepfake'ler tam da başlangıç ​​şeklidir. “Medya şirketlerinin bu özelliği benimsemeye başlayacağını düşünüyorum. Tıpkı bir seçenek gibi, sahip olduğunuz bir seçenek haline gelecektir. filtre. İnsanlar için bu artık çok normal hale gelecek.”

Hem Jang hem de Mogylnyi, Deepfake'in nereye varacağını görmek için Photoshop'un yaygınlaşmasını model olarak kullandılar: O kadar yaygın ki, hala biraz tartışmalı olsa da, dikkat çekici değil. Her ikisi için de deepfake'lerin içine gizlenen siyasi ve etik sorunlar aslında sıradan şeyler.

Deepfake tespit platformu Amber Video'nun CEO'su Shamir Allibhai, Digital Trends'e yaptığı açıklamada, diğer pek çok teknoloji gibi deepfake teknolojisinin de ahlaka aykırı olduğu görüşünün öncelikli olduğunu söyledi.

"Bu, Microsoft Word'ün ahlaka aykırı olduğunu, kötü olduğunu çünkü potansiyel teröristlerin bunu kullanacağını söylemek gibi bir şey. Başkalarına şiddet içeren aşırılıkçı ideolojiyi benimseme konusunda ilham verecek şiddet içeren aşırılıkçı ideolojiyi benimsemek" dedi. söz konusu. “Bu teknolojiyi de aynı damarda görüyorum.”

Amber Video, hizmetlerini "dolandırıcılığı, itibar kaybını ve paydaş güvensizliğini önlemek" için deepfake ile mücadele olarak tanıtan bir platformdur. Allibhai Sırf yüzü olduğu için bir şey almaya hazır olup olmadığını bilmediğini ancak eninde sonunda teknolojinin değişeceği konusunda hemfikir olduğunu söyledi. yaygın.

“Bu toplumun aynasıdır” dedi. “Bunu Twitter platformu gibi teknolojilerde görüyorsunuz. İnsanlığın en iyisini ve en kötümüzü görüyorsunuz. Deepfake teknolojisi aynı zamanda topluma da ayna tutacak. Bunu kaygısız hiciv için kullanacak ve otoriter rejimlerle alay edecek insanlar var. Ama aynı zamanda kaos yaratmaya da çalışacağız.”

Deepfake'lerin silahlandırılması

En büyük korku, deepfake'lerin potansiyel olarak kötüye kullanılması ve silah haline getirilmesi olmaya devam ediyor. Daha yaygın hale geldikçe, bunların yalnızca geniş çaplı dezenformasyon kampanyaları için değil, aynı zamanda şakalar veya lise zorbalığı için de kullanıldığını görebiliriz. Teknoloji yeterince erişilebilir olursa herkes kullanabilir.

Hem Carica hem de RefaceAI, potansiyel suiistimalleri azaltmak için adımlar attıklarını söyledi: Deepfake algılama web hizmetiyle RefaceAI ve içerik moderatörleriyle Carica. Jang, Carica şirketinin tamamının şu anda sadece dokuz kişiden oluştuğunu ve içerik denetleme görevlerinden vazgeçtiklerini söyledi.

RefaceAI'den Mogylnyi, "Bu aslında kendimize sorduğumuz ilk soruydu" dedi. “Ukrayna'daki siyasi skandallar üzerinden yıllardır bu konuyu ele alıyoruz. Teknolojimizin kötüye kullanılabileceğini biliyoruz. Photoshop bile zorbalık için kullanılabilir ve kullanılmıştır. Ama öte yandan buna bir panzehir sağlıyoruz. Uygulamamıza cinsel içerik yükleyen kullanıcılarımız oldu ve bu kullanıcıları hemen yasakladık."

Carica, şimdilik üzerinde çalışmaları gereken yeterince küçük bir uygulama. Ancak genel olarak Jang endişeli değildi.

Jang, "Bu, tüm yeni teknolojilerde oluyor" dedi. "Öncelikle yanlış kullanımdan kaynaklanıyor, ancak bu aşamadan sonra herkesin kullanımına açık hale geliyor ve insanlar bunu normal şeyler için kullanıyor."

Editörlerin Önerileri

• Güvenlik robotları yakınınızdaki bir okula geliyor olabilir
• Amazon, ürün incelemelerini özetlemek için yapay zekayı kullanıyor
• Amazon, Arama için "nesilde bir kez" değişiklikler yapmayı planlıyor, iş ilanı ortaya çıkıyor
• Nvidia'nın 200 Dolarlık Jetson Orin Nano mini bilgisayarı önceki sürümden 80 kat daha hızlı
• Google Smart Canvas, uygulamalar arasında daha derin entegrasyon sağlıyor