¿Preocupado por la advertencia falsa del FBI? Sigue estos consejos de expertos

La semana pasada, la Oficina Federal de Investigaciones (FBI) emitió un anuncio de servicio público sobre el aumento del contenido explícito deepfake y cómo se está utilizando para delitos como extorsión, chantaje y acoso. En los términos más simples, un deepfake es material multimedia sintético que intenta imitar un original. Puede ser una foto, video o clip de audio de generación de IA.

El nombre "deepfake" proviene de la tecnología inherente utilizada en la creación de dichos medios (aprendizaje profundo) que implica entrenar un modelo de IA usando material original y luego modificarlo para generar el deseado resultados. No es exactamente un invento nuevo, pero con

La IA generativa explota en popularidad — y el acceso — los delitos de deepfake están en aumento.

Tal es su popularidad que incluso la campaña del candidato presidencial republicano Ron DeSantis usó imágenes falsas del rival Donald Trump para difamarlo. Los deepfakes también son una de las razones por las que se están planteando en todas partes llamamientos para regular la IA. Según el FBI, el contenido para generar deepfakes generalmente se extrae de las publicaciones en las redes sociales. y clips de videollamadas antes de ser modificados en materiales sexualmente explícitos para extorsión e intimidación.

Lo que dicen los expertos sobre los deepfakes

Entonces, ¿cuál es la solución? Desafortunadamente, no hay solución. Al menos, no sin hacer un compromiso, uno que fundamentalmente cambia todo el significado de "redes sociales" de cabeza.

“Desafortunadamente, la única forma de asegurarse de que ninguna de sus fotos o videos se use para crear falsificaciones profundas es dejar de publicarlos. fotos tuyas en línea, pero eso haría que los usuarios de Internet se divirtieran mucho”, dice Adrianus Warmenhoven, un especialista en seguridad cibernética. asesor en Norte.

“A medida que surjan nuevas y mejores prácticas de seguridad, los actores malintencionados encontrarán la manera de causar daño. Es un juego para ponerse al día y a veces se siente decepcionante”, dice Parteek Saran, un ex-Googler y creador de una herramienta de administración de contraseñas de última generación llamada uno. Además, sugiere que uno debe tratar de adoptar una "filosofía de confianza cero" cuando se trata de publicar contenido en las redes sociales y enfatiza la comunicación efectiva con conocidos para mantenerse alejado de deepfake estafas

“Si bien la IA puede ayudar a abordar las preocupaciones de seguridad digital, no existe una red de seguridad infalible”, dice Yaron Litwin, experto en seguridad digital y CMO de Pabellón. La aplicación homónima de la compañía tiene como objetivo mantener a los niños a salvo de los delitos sexuales en línea y también ofrece un conjunto diverso de controles parentales. Litwin agrega que debe evitar publicar imágenes íntimas o comprometedoras y, al mismo tiempo, reducir la frecuencia de publicación incluso de imágenes normales.

Cómo puedes mantenerte a salvo

Los deepfakes son aterradores y es difícil imaginar el trauma que pueden infligir a una persona y a sus familiares. Pero hay algunas formas en las que los usuarios pueden evitar caer en la trampa, o al menos mantenerse alejados en gran medida.

Para entender qué pasos promedian teléfono inteligente pueden tomar los usuarios con habilidades digitales típicas, contacté a Andrew Gardner, Vicepresidente de Investigación e Innovación de generación digital, una empresa de software que ofrece herramientas de seguridad confiables como Norton, Avast y Avira, entre otras.

Gardner dice que los protocolos de seguridad comienzan en el nivel fundamental. Los usuarios deben comenzar por hacer que sus perfiles sean privados, o al menos cambiar la configuración de visibilidad de las publicaciones para que solo las personas a las que siguen mutuamente puedan ver e interactuar con sus publicaciones. Controles parentales, que ahora están disponibles para casi todas las principales plataformas de redes sociales, deben habilitarse diligentemente para que los tutores puedan vigilar cualquier interacción sospechosa.

Es consejo general que uno solo debe aceptar solicitudes de personas que conoce, pero dar un paso adicional puede ser muy útil. “Si está trabajando en red, verifique las publicaciones y actividades recientes de los invitados para evaluar qué tan reales son”, dice Gardner, y agrega que uno debe tener cuidado con las “cuentas”. con pocos amigos o amigos mutuos.” Otro consejo crucial que tiene que dar el ejecutivo de Gen Digital es controlar y restringir las redes sociales. inicios de sesión

Los usuarios visitan a menudo los servicios en línea y, para evitar la molestia de crear una cuenta, optan por la opción de inicio de sesión en las redes sociales. “Esto le da a las aplicaciones acceso a información personal y, en algunas situaciones, esas aplicaciones venden esa información a terceros”, dice. El escándalo de Cambridge Analytica que involucra a Facebook es un gran ejemplo. Se debe verificar periódicamente qué aplicaciones están conectadas a sus cuentas de redes sociales y, a menos que sea necesario, se debe revocar su acceso.

Los deepfakes son delitos sofisticados impulsados ​​por IA, pero Gardner sugiere que los usuarios aún deben cumplir con algunas pautas básicas de seguridad, como como habilitar la autenticación de dos factores, usar contraseñas seguras, habilitar claves biométricas y evitar cualquier sospechoso o desconocido Enlaces.

Las redes sociales se hacen de manera segura y responsable.

Litwin de Canopy opina que cuanto más compartes, más fácil se vuelve crear deepfakes convincentes. No hay escasez de modelos sombríos de generación de imágenes de IA sin restricciones para crear material explícito. Estas herramientas se basan en entradas de imágenes para entrenar el modelo. Cuantos más datos de entrenamiento se alimentan, más precisos y realistas se vuelven los deepfakes.

Es la táctica estándar implementada por los principales generadores de imágenes de IA como Medio viaje. Si su feed social está abierto y tiene una gran cantidad de fotos y videos, no hay forma de evitar que un mal actor los raspe para crear deepfakes comprometedores. Pero si se encuentra entre las personas que ven valor en las redes sociales como un lugar para preservar sus recuerdos más preciados, existen algunas medidas que debe llevar.

"Tenga cuidado con la información personal que comparte en línea, ajuste la configuración de privacidad en sus cuentas, habilite la autenticación de dos factores y revise cuidadosamente las imágenes en busca de imperfecciones", señala boyd clewis, experto en seguridad cibernética del Consejo de Seguridad de Forbes y autor de "Through The Firewall: The Alchemy Of Turning Crisis Into Opportunity".

Pero, ¿cómo detectar de manera confiable un perfil de redes sociales que probablemente tenga un mal actor detrás involucrado en actos turbios como la creación y difusión de deepfakes? “Si se comparte material de video o audio de perfiles sospechosos, y las cuentas no contienen ninguna información personal o fotos, es probable que el perfil sea falso”, sugiere Tomas Samulis, arquitecto de seguridad de la información en Baltic Amadeus. Sugiere que dichos perfiles que carecen de información de identificación personal se crean específicamente para difundir falsificaciones y otra información controvertida”.

Qué hacer si te falsifican profundamente

Pero solo hay tantas precauciones que un usuario promedio de teléfonos inteligentes puede tomar. Incluso los usuarios con más conocimientos digitales se encuentran en el extremo receptor de los delitos cibernéticos, incluso después de usando todas las herramientas estándar como autenticación de dos factores, perfiles privados y biométricos cortafuegos

Si, a pesar de tomar todas las precauciones, aún se encuentra en el centro de un delito de falsificación profunda, busque el asesoramiento de expertos y la ayuda de las autoridades en lugar de tomar el asunto en sus propias manos. Los expertos señalan que soportar tal acoso o tratar de manejarlo discretamente por su cuenta a menudo empeora la situación de las víctimas.

“Si descubre que alguien está haciendo un mal uso de su contenido, busque un abogado familiarizado con la ley de derechos de autor para que lo ayude a eliminar el contenido lo antes posible. lo más rápido posible”, dice Rob Scott, miembro del Colegio de Abogados de Dallas y experto legal licenciado en áreas como riesgo de ciberseguridad y datos. privacidad.

Consultar a un experto legal es crucial porque puede guiarlo a través de sus derechos digitales. Litwin de Canopy también sugiere preservar todos los evidencia, aconsejando a las víctimas que “documenten cualquier evidencia de los intentos de extorsión, como mensajes, correos electrónicos o cualquier forma de comunicación relacionada con la extorsión."

Otro consejo crucial es que la víctima debe cesar de inmediato todo contacto con un delincuente porque el delincuente puede manipularlo o acosarlo aún más con demandas de extorsión más graves. Al mismo tiempo, los usuarios deben ponerse en contacto con un experto en seguridad cibernética o llamar a una de las líneas de ayuda contra delitos cibernéticos del gobierno para tomar las medidas adecuadas a tiempo.

Cómo detectar falsificaciones profundas

Con los motores de IA cada vez más sofisticados, el tipo de falsificaciones profundas que producen se está volviendo inquietantemente real y difícil de detectar. Sin embargo, todavía hay algunos marcadores a los que los usuarios pueden prestar atención para detectar material comprometedor alterado sintéticamente o generado por IA.

La siguiente es una compilación de identificadores falsos profundos que los expertos tienen para ofrecer:

• Esté atento a los movimientos oculares no naturales. Si los ojos de una persona no parecen parpadear, el movimiento de los ojos está apagado o las expresiones faciales no parecen estar sincronizadas con las palabras que dice, lo más probable es que se trate de un clip falso. La falta de emociones, o emociones incoherentes, es un indicador revelador de que los medios se han transformado digitalmente.
• “La tecnología Deepfake generalmente se enfoca en las características faciales”, dice Gardner. “Si la forma del cuerpo de la persona no parece natural, o si sus movimientos son bruscos e inconexos, es probable que el video sea un deepfake”.
• Otro marcador confiable es el fondo, que puede parecer anormalmente borroso o mostrar artefactos visuales extraños. Otra manera fácil de detectar deepfakes es buscar una decoloración anormal o una falta de coincidencia de color grave, especialmente con respecto a la cara y la sombra de los elementos que se encuentran alrededor.
• Si te encuentras con una foto en la que una persona luce un "cabello perfecto" y no puedes detectar ningún elemento individual, como algunos mechones de cabello suelto o encrespado, mantente cauteloso. También se sabe que los modelos de IA tienen problemas con los dientes. Esté atento a los dientes que son antinaturalmente perfectos, o aquellos que carecen de los contornos de los dientes individuales, o tal vez más dientes que la dentadura postiza humana habitual.
• Partes del cuerpo desalineadas, bordes borrosos, algunos dedos de más o menos, extremidades extrañamente contorsionadas, movimiento desincronizado de partes del cuerpo, y una voz sin pausas ni quiebres emocionales son los otros signos que debes vigilar de cerca para. “Las grabaciones de voz o audio falsas a menudo tienen ruido de fondo, voces que suenan robóticas y pronunciaciones extrañas”, explica Samulis.

Un problema serio con soluciones medio efectivas

Como se explicó anteriormente, no existe una red de seguridad infalible contra las falsificaciones profundas. Pero si tiene cuidado con dónde comparte fotos, quién puede verlas y hasta dónde llega su acceso a las redes sociales, puede permanecer en una zona relativamente segura.

También se debe prestar atención a quiénes son sus amigos en línea y también examinar las actividades de las nuevas invitaciones antes de agregarlas a su círculo de amigos en las redes sociales. En lo que respecta a las falsificaciones profundas, eso es un poco complicado. Pero si se mantiene alerta y se toma el tiempo para evaluar las inconsistencias en una foto o video sospechoso, las falsificaciones profundas se pueden detectar con un grado de precisión bastante alto.

Al final del día, se trata de cultivar hábitos higiénicos en línea y mantenerse alerta en un espacio en línea cada vez más propenso a la falsificación.

Recomendaciones de los editores

• Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
• La nueva compañía de inteligencia artificial de Elon Musk tiene como objetivo "comprender el universo"
• Los avances de la IA podrían llegar a través del cerebro de las abejas, dicen los científicos
• OpenAI revela la ubicación de su primer puesto internacional
• El 81% piensa que ChatGPT es un riesgo de seguridad, según una encuesta