Por que os Deepfakes em breve serão tão comuns quanto o Photoshop

Você sabia que pode fazer um vídeo deepfake no conforto da sua casa ou no seu telefone? Baixe um dos muitos aplicativos de troca de rosto ou deepfake disponíveis casualmente na sua loja de aplicativos local e você também pode influenciar uma eleição.

Ok, na verdade não, e definitivamente não endossamos isso. Mas no hype e preocupação em torno deepfake tecnologia e seu uso indevido muito real, a verdade é que essa tecnologia não vai desaparecer. Na verdade, vai se tornar tão comum quanto o Photoshop, especialmente se os desenvolvedores de aplicativos que trabalham A tecnologia deepfake tem algo a dizer sobre isso: em breve poderemos ver anúncios hiper-direcionados com nossos próprios rostos eles.

Roman Mogylnyi, CEO da RefaceAI, uma startup com sede na Ucrânia, disse que trabalha com aprendizado de máquina desde 2011 e começou a criar seus próprios aplicativos baseados em tecnologia deepfake em 2014. RefaceAI já lançou um aplicativo de foto deepfake chamado Reflect e está prestes a lançar seu próprio aplicativo de vídeo deepfake, bem como um serviço da web que ajudará a detectar vídeos deepfake.

“Vimos desde o início que esta tecnologia estava a ser mal utilizada”, disse Mogylnyi. “Pensamos que poderíamos fazer melhor.”

A RefaceAI já trabalhou com algumas produtoras de filmes – embora Mogylnyi não soubesse dizer quais – para usar sua tecnologia para trocar o rostos dos atores em dublês, a um custo muito menor do que teria custado levar os atores de volta ao set e refazer as cenas em pergunta. Isso, disse Mogylnyi, é o que a empresa vê como o futuro dos deepfakes. “Queremos utilizá-lo para marketing, para personalização de anúncios, para gifs, para materiais de entretenimento em geral”, disse.

O futuro da mídia

A RefaceAI não é a empresa que está tentando se antecipar a essa inevitável curva de marketing. Carica, um aplicativo baseado na Coreia do Sul, também está desenvolvendo GIFs e vídeos deepfake nos quais uma pessoa pode enxertar seu rosto em um GIF de reação popular para enviar a amigos e familiares. O aplicativo já apresenta anúncios pop-up que incorporam o rosto do usuário na foto ou vídeo do anúncio.

“Queremos que nossa empresa se torne uma empresa de mídia”, disse Joseph Jang, engenheiro da Carica, à Digital Trends. Deepfakes são exatamente como estão começando. “Acho que as empresas de mídia começarão a adotar esse recurso. Isso se tornará uma opção que você tem, assim como um filtro. Isso se tornará tão normal para as pessoas.”

Tanto Jang quanto Mogylnyi usaram a proliferação do Photoshop como modelo para onde eles veem os Deepfakes: tão comuns que não são dignos de nota, embora ainda um pouco controversos. E para ambos, os problemas políticos e éticos envolvidos em deepfakes são, na verdade, corriqueiros.

Shamir Allibhai, CEO da plataforma de detecção de deepfake Amber Video, disse à Digital Trends que sua visão predominante era que a tecnologia deepfake, como a maioria dos outros tipos de tecnologia, é amoral.

“Seria como dizer que o Microsoft Word é imoral, é mau porque potenciais terroristas irão usá-lo para abraçar a ideologia violenta e extremista, o que inspirará outros a abraçar a ideologia extremista violenta”, disse ele. disse. “Eu vejo essa tecnologia na mesma linha.”

Amber Video é uma plataforma que anuncia seus serviços como combate a deepfakes para “prevenir fraudes, perda de reputação e desconfiança das partes interessadas”. Alibhai disse que não sabia se estava pronto para comprar algo só porque seu rosto estava estampado, mas concordou que, eventualmente, a tecnologia será difundido.

“É um espelho da sociedade”, disse ele. “Você vê isso em tecnologias como a plataforma Twitter. Você vê o melhor da humanidade e o pior de nós. A tecnologia Deepfake também refletirá a sociedade. Há pessoas que o usarão para sátiras alegres e zombarão de regimes autoritários. Mas também tentaremos costurar o caos.”

Armamento de deepfakes

O maior medo continua sendo o potencial abuso e a transformação dos deepfakes em armas. À medida que se tornam mais comuns, poderemos até vê-los utilizados não apenas para campanhas de desinformação em larga escala, mas também para brincadeiras ou intimidação no ensino secundário. Se a tecnologia for suficientemente acessível, qualquer pessoa poderá utilizá-la.

Tanto Carica quanto RefaceAI disseram que estão tomando medidas para mitigar possíveis abusos – RefaceAI com seu serviço web de detecção de deepfake e Carica com moderadores de conteúdo. Toda a empresa Carica é composta por apenas nove pessoas no momento, disse Jang, e eles trocam as funções de moderação de conteúdo.

“Esta foi realmente a primeira pergunta que nos perguntamos”, disse Mogylnyi da RefaceAI. “Há anos que temos lidado com isto em termos de escândalos políticos na Ucrânia. Entendemos que nossa tecnologia pode ser mal utilizada. Até o Photoshop pode e tem sido usado para intimidação. Mas, por outro lado, estamos fornecendo um antídoto para isso. Fizemos com que usuários enviassem conteúdo sexual para nosso aplicativo e os banimos imediatamente.”

Carica é um aplicativo pequeno o suficiente para que eles tenham que trabalhar por enquanto. Mas no geral, Jang não estava preocupado.

“Isso acontece com todas as novas tecnologias”, disse Jang. “Primeiro, é motivado pelo uso indevido, mas depois dessa fase, torna-se disponível para todos e as pessoas usam-no para coisas normais.”

Recomendações dos Editores

• Robôs de segurança podem estar chegando a uma escola perto de você
• Amazon implanta IA para resumir análises de produtos
• Amazon planeja mudanças ‘únicas em uma geração’ para Pesquisa, revela anúncio de emprego
• O minicomputador Jetson Orin Nano de US $ 200 da Nvidia é 80 vezes mais rápido que a versão anterior
• Google Smart Canvas obtém integração mais profunda entre aplicativos