¿Son peligrosos los deepfakes? Los creadores y los reguladores no están de acuerdo

En los ultimos años, deepfakes se han convertido en la última opción en Internet para memes y contenido de parodia.

Es fácil ver por qué: permiten a los creadores alterar las reglas de la realidad como ninguna otra tecnología antes. A través de la magia de los deepfakes, puedes ver Jennifer Lawrence pronuncia un discurso a través del rostro de Steve Buscemi, mira qué Ryan Reynolds se habría parecido a Willy Wonka, e incluso atrapar Hitler y Stalin cantandoEl vídeo mató a la estrella de radio a dúo.

Para los no iniciados, la tecnología deepfake es una forma de medio sintético que permite a los usuarios superponer una cara diferente a la de otra persona de una manera que es casi indistinguible de la original. Lo hace leyendo una gran cantidad de datos para comprender los contornos del rostro y otras características para mezclarlo y animarlo naturalmente en la escena.

A estas alturas, probablemente te hayas encontrado con clips de este tipo en plataformas como TikTok (donde el hashtag “#deepfake” tiene alrededor de 200 millones de visitas), YouTube y otros lugares. Ya sea para cumplir con fan fiction y rehacer escenas con estrellas Si desearan que la película originalmente hubiera elegido o incluido a una persona muerta en un meme viral moderno, los deepfakes se han adoptado como una salida creativa para propósitos que antes eran casi imposibles.

El cambio ha generado una liga de nuevos creadores como Ctrl Cambiar cara, cuyos vídeos deepfake suelen atraer millones de visitas y, a menudo, son el tema principal de discusión en los programas de entrevistas nocturnos.

"Es una forma completamente nueva de hacer vídeos divertidos en Internet o de contar historias como nunca antes habíamos visto", dice el creador del éxito radicado en los Países Bajos.Los Vengadores de Oz” clip deepfake que pidió que no se usara su nombre real. “Es una hermosa combinación de fascinación por la A.I. tecnología y humor”.

Pero existe un riesgo inminente que amenaza por completo el futuro de la tecnología deepfake: su reputación contaminada.

Un gran poder conlleva una gran repostabilidad

Desafortunadamente, además de su potencial como herramienta creativa para artistas de video bien intencionados, los deepfakes también tienen un tremendo potencial para causar daño.

Un reciente estudio del Centro Dawes para el Crimen Futuro del Instituto Jill Dando de Seguridad y Ciencia del Crimen de la UCL etiquetados como deepfakes como la amenaza más grave habilitada por IA. Sen. Ben Sasse, un republicano de Nebraska que presentó un proyecto de ley para criminalizar la creación maliciosa de deepfakes, prevenido el año pasado que la tecnología podría “destruir vidas humanas”, “agitar los mercados financieros” e incluso “estimular conflictos militares en todo el mundo”.

Hasta cierto punto, estas preocupaciones son justas. Después de todo, la proliferación de la tecnología deepfake ya ha permitido cosas como la producción de contenido falso para adultos con celebridades y personificaciones realistas de políticos con fines satíricos. A principios de este año, Dan Scavino, director de redes sociales de la Casa Blanca, tuiteó un clip mal manipulado, que también fue retuiteado por el presidente Donald Trump, del rival de Trump, Joe Biden, pidiendo a la gente que reelija a Trump.

Sin embargo, estos engaños poco convincentes han sido rápidamente desacreditados antes de llegar a las masas. Más importante aún, los expertos sugieren que hasta ahora los videos deepfake han tenido poco o ningún impacto social y que actualmente no representan ninguna amenaza inminente. Por ejemplo, investigaciones realizadas por sensibilidad, una empresa de ciberseguridad centrada en amenazas visuales, afirma que la gran mayoría de los vídeos deepfake son pornográfico (96%) y que la tecnología aún no se ha abierto paso en ninguna desinformación significativa. campañas.

De manera similar, un Informe de la Universidad de Georgetown concluyó que, si bien los deepfakes son una "hazaña técnica impresionante", los responsables de la formulación de políticas no deberían apresurarse a hacerlo. el revuelo porque la tecnología no es perfecta en este momento y no puede influir en los eventos del mundo real simplemente todavía.

El creador del popular canal deepfake Ctrl Shift Face, cuyos vídeos son vistos por millones, cree en la “histeria” Dar vueltas en torno al tema de los deepfake está desviando la atención de los legisladores de los problemas reales, como la publicidad mal regulada. redes en Facebook que son realmente responsables de engañar a la gente.

"Si alguna vez habrá un deepfake dañino, Facebook es el lugar donde se propagará", dijo Ctrl Shift Face en una entrevista con Digital Trends. “En ese caso, ¿cuál es el problema más importante? ¿El medio o la plataforma?

El propietario de zonabebe, un canal de juegos de YouTube con más de medio millón de suscriptores que a menudo convierte a celebridades en vídeos juegos, se hace eco de una preocupación similar: “Creo que los deepfakes son una tecnología como todas las demás existentes tecnologías. Se pueden utilizar para buenos y para malos propósitos”.

El movimiento para salvar los deepfakes

Durante los últimos dos años, mientras los gobiernos y las empresas de tecnología investigan los riesgos potenciales de esto tecnología, los defensores de los deepfake se han apresurado a disipar estas preocupaciones y solucionar el problema público de la tecnología. imagen. Comunidades Reddit Han surgido iniciativas que buscan “ajustar este estigma”, y algunos investigadores independientes están construyendo activamente sistemas que puedan detectar deepfakes antes de que se vuelvan virales.

Roman Mogylnyi, director ejecutivo y cofundador de Reface, una exitosa aplicación que te permite cambiar rápidamente tu cara a cualquier GIF. dice que su startup ahora está desarrollando una herramienta de detección que puede determinar si un video se hizo con Reface tecnología. “Creemos que un amplio acceso a herramientas de medios sintetizados como la nuestra aumentará la empatía de la humanidad y creatividad y ayudará a cambiar la percepción de la tecnología para mejor”, dijo Mogylnyi a Digital. Tendencias.

Eran Dagan, fundador y director ejecutivo de Botika, la startup detrás de la popular aplicación de intercambio de rostros Jiggy, tiene una perspectiva similar. hacia los deepfakes y cree que a medida que se vuelvan más comunes, “la gente será mucho más consciente de su uso positivo casos."

Sin embargo, dados los peligros potenciales de los deepfakes, es probable que el Congreso finalmente intervenga. Principales plataformas tecnológicas incluidos Facebook, Twitter y YouTube ya han actualizado sus políticas para marcar o eliminar medios manipulados diseñados para engañar. Múltiples estados como California y Nueva York han aprobado proyectos de ley que castigarán a los creadores de deepfakes intencionalmente engañosos, así como a los publicados sin el consentimiento de la persona cuyo rostro se utiliza.

¿Deberían regularse los deepfakes?

Si bien estas políticas excluyen el contenido de parodia, los expertos, por temor a leyes mal definidas o una prohibición total de la tecnología, Todavía creo que el Congreso debería mantenerse al margen y dejar que los deepfakes sigan el curso natural que sigue cualquier nueva forma de medio. a través de.

David Greene, director de libertades civiles de la Electronic Frontier Foundation, dice que “cualquier intento del Congreso de regular los deep fakes o realmente cualquier tipo de comunicación visual será una regulación del discurso e implicará a la Primera Enmienda.

Estas leyes, añade Greene, deben ser precisas y abordar (en términos bien definidos y fáciles de entender) el daño que intentan reducir. “Lo que hemos visto hasta ahora… los intentos regulatorios a nivel estatal son leyes vagas y demasiado amplias que no tienen la precisión que requiere la Primera Enmienda. No han requerido excepciones para parodias y comentarios políticos”.

Giorgio Patrini, director ejecutivo de Sensity, considera que la prohibición de algoritmos y software “carece de sentido en la era de Internet”. Patrini compara este enigma con el malware protección y cómo es casi imposible poner fin a todos los virus informáticos o a sus autores, por lo que es mejor simplemente invertir en mecanismos anti-malware en cambio. "La sociedad necesita construir nuevos mecanismos para certificar en qué se puede confiar y cómo prevenir los impactos negativos del contenido sintético en individuos y organizaciones", dijo.

Tim Whang escribió en el informe de la Universidad de Georgetown que con la mercantilización de las herramientas deepfake, la tecnología para detectar y filtrar En consecuencia, evolucionará y se volverá más preciso, neutralizando así su capacidad de presentar cualquier problema grave. amenazas.

La herramienta de detección de deepfakes lanzada recientemente por Microsoft, por ejemplo, analiza los vídeos para ofrecerle una puntuación de confianza que indica la probabilidad de que el vídeo haya sido modificado.

“Los deepfakes son una nueva forma de manipulación de los medios, pero no es la primera vez que nos enfrentamos a este tipo de desafío. Estamos explorando e invirtiendo en formas de abordar los medios sintéticos”, dijo un portavoz de YouTube.

Los investigadores detrás CtrlShiftLab, un software avanzado de creación de deepfake que emplean muchos YouTubers, incluido Ctrl Shift Face, ahora está También estamos trabajando en proyectos de código abierto para crear conciencia y crear una detección más completa. servicios.

“La única forma de prevenir esto [el abuso de los deepfakes] es establecer un proyecto de código abierto relacionado con los deepfakes y atraer la atención del público. Para que los internautas públicos puedan darse cuenta de que existen deepfakes”, dijo a Digital Trends Kunlin Liu, uno de los investigadores de CtrlShiftLab.

Varios creadores de deepfakes con los que Digital Trends habló se mantienen optimistas y consideran prematuro el rechazo de los países contra los deepfakes. Están de acuerdo en que el creciente papel de los deepfake en los memes y la cultura de la parodia será fundamental para reparar la mala reputación de esta tecnología emergente. Y mientras los videos tengan exenciones de responsabilidad y las plataformas inviertan en capas de detección más efectivas, agregaron, los deepfakes llegaron para quedarse.

“Creo que la reputación de los deepfakes está mejorando significativamente. Hace dos años, la palabra deepfake automáticamente significaba pornografía”, dijo el creador de Ctrl Shift Face. "Ahora, la mayoría de la gente conoce los deepfakes gracias a estos entretenidos vídeos que circulan por Internet".

Recomendaciones de los editores

• Premios Tech For Change CES 2023 de Digital Trends
• En el divertidísimo Proyecto Gucciberg, un Gucci Mane falsificado lee novelas clásicas
• Cómo los artistas y activistas utilizan los deepfakes como fuerza para el bien
• Twitter toma medidas para prohibir los deepfakes que “causan daño” antes de las elecciones de 2020
• California está tomando medidas enérgicas contra los deepfakes para la política y el porno