Por qué los deepfakes pronto serán tan comunes como Photoshop

¿Sabías que puedes hacer un video deepfake desde la comodidad de tu hogar o desde tu teléfono? Descargue una de la gran cantidad de aplicaciones de intercambio de caras o deepfake disponibles casualmente en su tienda de aplicaciones local y usted también puede influir en una elección.

Vale, en realidad no, y definitivamente no lo respaldamos. Pero en medio del revuelo y la preocupación en torno profundo tecnología y su mal uso muy real, la simple verdad es que esta tecnología no va a desaparecer. De hecho, se volverá tan común como Photoshop, especialmente si los desarrolladores de aplicaciones que trabajan en él La tecnología deepfake tiene algo que decir al respecto: pronto podríamos ver anuncios hiperdirigidos con nuestras propias caras a ellos.

Roman Mogylnyi, director ejecutivo de RefaceAI, una startup con sede en Ucrania, dijo que han estado trabajando con aprendizaje automático desde 2011 y que en 2014 comenzaron a crear sus propias aplicaciones basadas en tecnología deepfake. RefaceAI ya lanzó una aplicación de fotografías deepfake llamada Reflect y está a punto de lanzar su propia aplicación de videos deepfake, así como un servicio web que ayudará a detectar videos deepfake.

"Desde el principio vimos que se estaba haciendo un mal uso de esta tecnología", afirmó Mogylnyi. "Pensamos que podíamos hacerlo mejor".

RefaceAI ya ha trabajado con algunas productoras cinematográficas, aunque Mogylnyi no pudo decir cuáles, para utilizar su tecnología para intercambiar el rostros de actores en dobles, a un costo mucho menor de lo que habría sido llevar a los actores de regreso al set y volver a filmar las escenas en pregunta. Esto, dijo Mogylnyi, es lo que la compañía ve como el futuro de los deepfakes. "Queremos usarlo para marketing, para personalizar anuncios, para gifs y para materiales de entretenimiento en general", dijo.

El futuro de los medios

RefaceAI no es la empresa que intenta adelantarse a esta inevitable curva de marketing. Carica, una aplicación con sede en Corea del Sur, también está desarrollando GIF y videos falsos en los que una persona puede insertar su rostro en un GIF de reacción popular para enviarlo a amigos y familiares. La aplicación ya incluye anuncios emergentes que incorporan la cara del usuario en la foto o el vídeo del anuncio.

"Queremos que nuestra empresa se convierta en una empresa de medios", dijo el ingeniero de Carica, Joseph Jang, a Digital Trends. Los deepfakes son simplemente la forma en que están comenzando. “Creo que las empresas de medios empezarán a adoptar esta característica. Se convertirá en una opción que tienes, como una filtrar. Se volverá muy normal para la gente”.

Tanto Jang como Mogylnyi utilizaron la proliferación de Photoshop como modelo para determinar hacia dónde ven los Deepfakes: tan comunes que no tienen nada de especial, aunque todavía un poco controvertidos. Y para ambos, los problemas políticos y éticos envueltos en deepfakes son en realidad algo común y corriente.

Shamir Allibhai, director ejecutivo de la plataforma de detección de deepfake Amber Video, dijo a Digital Trends que su opinión predominante era que la tecnología deepfake, como la mayoría de los otros tipos de tecnología, es amoral.

“Sería como decir que Microsoft Word es inmoral, es malvado porque terroristas potenciales lo utilizarán para Adoptar una ideología extremista violenta, que inspirará a otros a abrazar una ideología extremista violenta”, afirmó. dicho. "Veo esta tecnología en la misma línea".

Amber Video es una plataforma que anuncia sus servicios para combatir los deepfakes para "prevenir el fraude, la pérdida de reputación y la desconfianza de las partes interesadas". Allibhai dijo que no sabía si estaba listo para comprar algo sólo porque su cara estaba en ello, pero estuvo de acuerdo en que, eventualmente, la tecnología será penetrante.

"Es un espejo de la sociedad", dijo. “Esto se ve en tecnologías como la plataforma Twitter. Ves lo mejor de la humanidad y lo peor de nosotros. La tecnología deepfake también reflejará a la sociedad. Hay gente que lo utilizará para una sátira alegre y para burlarse de los regímenes autoritarios. Pero también intentaremos sembrar el caos”.

Armamentización de los deepfakes

El mayor temor sigue siendo el posible abuso y la utilización de los deepfakes como armas. A medida que se vuelven más comunes, podríamos incluso verlos utilizados no sólo para campañas de desinformación a gran escala, sino también para bromas pesadas o acoso escolar. Si la tecnología es lo suficientemente accesible, cualquiera puede utilizarla.

Tanto Carica como RefaceAI dijeron que están tomando medidas para mitigar posibles abusos: RefaceAI con su servicio web de detección de deepfake y Carica con moderadores de contenido. Toda la compañía Carica está compuesta por sólo nueve personas en este momento, dijo Jang, y intercambian tareas de moderación de contenido.

"Esta fue realmente la primera pregunta que nos hicimos", dijo Mogylnyi de RefaceAI. “Llevamos años lidiando con esto en términos de escándalos políticos en Ucrania. Entendemos que nuestra tecnología puede ser mal utilizada. Incluso Photoshop puede utilizarse y se ha utilizado para el acoso. Pero, por otro lado, le ofrecemos un antídoto. Hicimos que los usuarios subieran contenido sexual a nuestra aplicación y los prohibimos de inmediato”.

Carica es una aplicación lo suficientemente pequeña como para que tengan que trabajar con eso por ahora. Pero en general, Jang no estaba preocupado.

"Esto sucede con toda la tecnología nueva", dijo Jang. "Primero, se debe al mal uso, pero luego, después de esa fase, está disponible para todos y la gente lo usa para cosas normales".

Recomendaciones de los editores

• Los robots de seguridad podrían llegar a una escuela cercana a ti
• Amazon implementa IA para resumir reseñas de productos
• Amazon planea cambios 'únicos en una generación' para la Búsqueda, según revela un anuncio de trabajo
• La minicomputadora Jetson Orin Nano de Nvidia, de 200 dólares, es 80 veces más rápida que la versión anterior
• Google Smart Canvas obtiene una integración más profunda entre aplicaciones