Las computadoras han mejorado cada vez más en la simulación de la realidad. El cine moderno, por ejemplo, se basa en gran medida en decorados, escenarios y personajes generados por computadora en lugar de ubicaciones prácticas y accesorios que alguna vez fueron comunes, y la mayoría de las veces estas escenas son en gran medida indistinguibles de la realidad. Los deepfakes generalmente no son bien entendidos por el público, pero se están convirtiendo en una fuente de miedo constante para muchos. En estos días, es difícil confiar en lo que lees. Ahora, los deepfakes hacen que sea más difícil confiar en lo que ves. Las personas deben informarse sobre la verdad sobre las falsificaciones profundas si alguna vez esperamos mitigar el daño que pueden hacer. Te contamos aquí qué son los deepfakes, cómo se hacen, cómo detectarlos, ejemplos y programas para crear deepfakes.
¿Qué es un Deepfake?
La tecnología Deepfake puede unir sin problemas a cualquier persona del mundo en un video o una foto en la que nunca participaron. Tales capacidades han existido durante décadas. Pero solía llevar un año a estudios completos llenos de expertos para crear estos efectos. Ahora, las tecnologías deepfake (nuevos sistemas de aprendizaje automático o gráficos por computadora) pueden sintetizar imágenes y videos mucho más rápidamente.
El término se refiere a una representación digital falsificada de alguien que ha sido creada por inteligencia artificial. Podría ser una grabación de video, foto o audio que haya sido manipulada hasta tal punto que parezca real. Los deepfakes generalmente se usan para engañar a las personas de una manera preocupante, aunque hay muchos creadores de parodias, sátiras y simplemente traviesos cuyas intenciones no son tan oscuras como podría pensar.
Por tanto, los deepfakes son videos falsos creados con software digital, aprendizaje automático e intercambio de rostros. Los deepfakes son videos artificiales creados por computadora en los que se combinan imágenes para crear nuevas imágenes que representan eventos, declaraciones o acciones que en realidad nunca sucedieron. Los resultados pueden ser bastante convincentes.
¿Cómo se hace un Deep Fake?
Originalmente, los deepfakes se basaban en codificadores automáticos, un tipo de red neuronal no supervisada, y muchos todavía lo hacen. Algunas personas han perfeccionado esa técnica utilizando GAN (redes generativas de confrontación). También se han utilizado otros métodos de aprendizaje automático para deepfakes, a veces en combinación con métodos que no son de aprendizaje automático, con resultados variables.
Autoencoders
Esencialmente, los codificadores automáticos para caras deepfake en imágenes ejecutan un proceso de dos pasos. El primer paso es usar una red neuronal para extraer una cara de una imagen de origen y codificarla en un conjunto de características y posiblemente una máscara, generalmente usando varias capas de convolución 2D, un par de capas densas y una capa softmax. El segundo paso es usar otra red neuronal para decodificar las características, escalar la cara generada, rotar y escalar la cara según sea necesario y aplicar la cara mejorada a otra imagen.
El entrenamiento de un codificador automático para la generación de caras falsas requiere muchas imágenes de las caras de origen y destino desde múltiples puntos de vista y en diversas condiciones de iluminación. Sin una GPU, el entrenamiento puede llevar semanas. Con las GPU, va mucho más rápido.
GAN
Las redes generativas adversarias pueden refinar los resultados de los codificadores automáticos, por ejemplo, al enfrentar dos redes neuronales entre sí. La red generativa intenta crear ejemplos que tengan las mismas estadísticas que la original, mientras que la red discriminativa intenta detectar desviaciones de la distribución de datos original.
La formación de GAN es una técnica iterativa que requiere mucho tiempo y que aumenta enormemente el coste en tiempo de cálculo en comparación con los codificadores automáticos. Actualmente, las GAN son más apropiadas para generar cuadros de imágenes individuales realistas de personas imaginarias (por ejemplo, StyleGAN ) que para crear videos deepfake. Eso podría cambiar a medida que el hardware de aprendizaje profundo se vuelva más rápido.
Peligros de los Deepfakes
No hace falta ser un genio o un gurú de la tecnología para comprender por qué los deepfakes pueden ser peligrosos o utilizarse con fines nefastos. El concepto de que cualquier cosa sea falsa puede ser inquietante, pero cuando se habla de la identidad de alguien, se vuelve mucho más siniestro.
Si bien algunos deepfakes se crean solo para divertirse o para enfatizar un punto, se puede suponer que la mayoría de ellos tienen la intención de crear daño.
De manera inquietante, uno de los mayores impactos de las deepfakes es que pueden usarse para crear noticias falsas y, por lo tanto, una sociedad de confianza cero donde la verdad no se puede diferenciar de las falsedades. Esto crea un entorno en el que la gente no sabe en qué creer o a quién acudir en busca de la verdad.
Las implicaciones de esto son de gran alcance, con muchas industrias y escenarios diferentes potencialmente amenazados:
- Casos judiciales: los deepfakes podrían usarse para falsificar pruebas para cosas como batallas por la custodia y tribunales laborales
- Seguridad: si se utilizan deepfakes para imitar ciertos datos biométricos, entonces tiene el potencial de engañar a los procedimientos de seguridad en cuentas seguras.
- Estafas: un archivo de audio deepfake podría usarse para engañar a alguien para que revele información personal o transfiera grandes sumas de dinero
- Ataques políticos: la confiabilidad de los políticos u organizaciones podría cuestionarse si son víctimas de un sofisticado deepfake.
En los últimos años, figuras de alto perfil y celebridades se han convertido en víctimas habituales de deepfakes debido a la gran cantidad de imágenes de ellas disponibles en el espacio público. Sin embargo, a medida que aumenta la cantidad de fotos y selfies que toma la persona promedio, es solo una cuestión de tiempo antes de que los deepfakes se estén abriendo camino en el resto del mundo.
¿Cómo detectar un Deepfake?
Como ocurre con la mayoría de la tecnología, a medida que las prácticas se han vuelto más complejas y refinadas, los deepfakes son cada vez más difíciles de detectar. A medida que mejoran nuestros métodos para identificarlos, también lo hace la tecnología que se utiliza para crearlos, de ahí una batalla aparentemente interminable.
Por ejemplo, en 2018, investigadores de EE.UU. anunciaron que las caras deepfake podían detectarse porque no parpadeaban correctamente, pero tan pronto como se anunció esto, comenzaron a surgir videos deepfake con una nueva capacidad para parpadear.
Algunas de las cosas a tener en cuenta son las siguientes:
- Sincronización de labios deficiente
- Tono de piel irregular
- Parpadeando alrededor del borde de la cara
- Mechones de cabello fuera de lugar
- Joyas mal renderizadas
- Dientes mal renderizados
- Efectos de iluminación inconsistentes
- Reflejos incompatibles en el iris de los ojos.
Los gobiernos, las organizaciones y las empresas de tecnología de todo el mundo están trabajando las veinticuatro horas del día para investigar formas de detectar deepfakes y evitar que se utilicen de forma fraudulenta.
Además, para detectar deepfakes, necesitamos usar el pensamiento crítico y hacernos preguntas clave como:
- ¿Quién y por qué alguien comparte este video?
- ¿Quién o qué es la fuente original?
- ¿La persona del video dice algo que nunca esperarías que dijera?
- ¿Quién se beneficia de este video?
Programas para crear deep fakes y face swaps
Hoy en día, cualquiera puede descargar software deepfake o incluso utilizar las herramientas y aplicaciones web para crear deepfakes online.
Estas son algunas de las mejores aplicaciones y software de deepfake y face swaps que puedes usar para hacerlos.
Zao
Es la última aplicación que se ha vuelto viral en China por su ingeniosa capacidad para crear videos deepfake en segundos. Puedes elegir un videoclip de su biblioteca que incluye escenas de series dramáticas chinas, Big Bang Theory, películas populares de Hollywood y más. En unos segundos, Zao crea un video deepfake aparentemente auténtico que, francamente, parece natural e indistinguible del video original.
Lo sorprendente es que la aplicación toma solo unos segundos, a diferencia de las computadoras poderosas que pueden tardar horas en entrenar a la Red Adversaria Generativa responsable de crear videos deepfake.
La aplicación Zao solo se lanza en China para usuarios de Android e iOS. Puedes descargar la aplicación de deepfakes en Android, pero no puedes usarla porque Zao requiere un número de teléfono chino para registrarse.
DeepFaceLab
Es un programa de Windows que te permite crear videos deepfake. Está construido principalmente para investigadores y estudiantes de visión por computadora. Sin embargo, si quieres aprender sobre videos deepfake, definitivamente puedes probar esta herramienta. Utiliza el aprendizaje automático y la síntesis de imágenes humanas para reemplazar rostros en videos.
Dado que DeepFaceLab es una herramienta avanzada principalmente para investigadores, la interfaz no es fácil de usar y tendrás que aprender a usarla en la documentación. Nuevamente, no hace falta decir que necesitas una PC potente con una GPU dedicada de alta gama. En pocas palabras, si eres un estudiante especializado en visión por computadora, DeepFaceLab puede ser una gran herramienta para comprender videos deepfake.
Deep Art Effects
Es otra aplicación que se volvió viral hace unas semanas. No es una aplicación de video deepfake, sin embargo, puede crear imágenes deepfake basadas en arte, estructuras antiguas y pinturas. Si bien hay muchas aplicaciones que tienen características similares, la parte única de Deep Art es que usa IA para convertir cualquier foto en una obra de arte.
Se dice que el algoritmo altamente avanzado se inspiró en el cerebro humano y utiliza elementos estilísticos de obras de arte populares para recrear imágenes artísticas. Deep Art está formado por las obras de varios artistas que incluyen a Van Gogh, Leonardo da Vinci, Miguel Ángel, Picasso y más. Y lo bueno es que esta aplicación no tiene problemas de privacidad. Si quieres probar algo artístico, Deep Art es la mejor aplicación para probar.
Deepfakes web β
Es un servicio web que te permite crear videos deepfakes en la web. Utiliza el aprendizaje profundo para absorber las diversas complejidades de los datos faciales. Deepfakes web β puede tardar hasta 4 horas en aprender y entrenar a partir de vídeos e imágenes, mientras que se necesitan otros 30 minutos para intercambiar las caras con el modelo entrenado.
Aunque utiliza una potente GPU en la nube, puede llevar horas procesar todos los datos. Continúa mostrando que crear videos deepfake no es un juego de niños y ver a Zao hacerlo en segundos es realmente revolucionario. De todos modos, si deseas probar el video deepfake para la investigación en visión por computadora, puedes optar por Deepfakes web β.
Reface
Los desarrolladores de Doublicat, aplicación que te ayuda a crear divertidos memes GIF, han cambiado el nombre de la aplicación a Reface, después de Reface AI. Reface AI es la Red Generativa Adversaria (GAN) detrás de escena. Para usar la aplicación, todo lo que necesitas hacer es capturar tu foto y luego elegir el gif que deseas usar.
En unos segundos, la aplicación superpondrá tu cara al gif. No funciona perfectamente y la superposición de caras dependerá de la simetría de tu cara y del gif que estés usando. Dicho esto, hay tantos gifs en Internet que siempre tendrás opciones. Este puede ser tu creador de gif personalizado que puedes usar para impresionar a tus amigos.
MyHeritage
Otra app viral deepfake que deberías probar se llama MyHeritage. La función Deep Nostalgia de la aplicación ganó popularidad entre los usuarios de las redes sociales, ya que permite animar fotos antiguas. Para utilizar el servicio, todo lo que tienes que hacer es cargar una imagen y presionar el botón animar.
En unos segundos, obtienes una versión animada de la imagen con la cara, los ojos y la boca moviéndose como si saliera del periódico mágico The Daily Prophet de Harry Potter.
Ejemplos de Deepfakes famosos
Existen muchos ejemplos de deepfakes famosos. Vamos a ver algunos de ellos.
- Películas: Hollywood lleva mucho tiempo transponiendo rostros reales o ficticios a otros actores. En 2016, Rogue One: A Star Wars Story le devolvió la vida a Peter Cushing en varias escenas.
- Pornografía: en septiembre de 2019, la firma de inteligencia artificial Deeptrace anunció que encontraron más de 15,000 videos deepfake en línea, con un increíble 96% de ellos siendo pornográficos.
- Política: El actor, director y productor estadounidense Jordan Peele y Buzzfeed crearon un video de Barack Obama aparentemente llamando al presidente Donald Trump «un total y completo idiota».
- Fraude: uno de los ejemplos más conocidos de un deepfake de audio ocurrió en 2019 cuando el director ejecutivo de una empresa de energía del Reino Unido fue engañado para que enviara 220.000 euros (240.000 dólares) a un proveedor húngaro. Al parecer, el director ejecutivo de la empresa matriz de su empresa en Alemania le ordenó que lo hiciera, pero resultó ser una farsa y los perpetradores nunca fueron capturados.
Escribe aquí tu comentario