[{"@context":"http:\/\/schema.org\/","@type":"BlogPosting","@id":"https:\/\/ayudaleyprotecciondatos.es\/2021\/06\/07\/deepfakes\/#BlogPosting","mainEntityOfPage":"https:\/\/ayudaleyprotecciondatos.es\/2021\/06\/07\/deepfakes\/","headline":"Deepfakes: \u00bfSon un peligro o simple entretenimiento?","name":"Deepfakes: \u00bfSon un peligro o simple entretenimiento?","description":"Todo lo que debes saber sobre los deepfakes, qu\u00e9 son, c\u00f3mo se crean, sus peligros, c\u00f3mo detectarlos y programas para crearlos \u00a1Descubre m\u00e1s aqu\u00ed!","datePublished":"2021-06-07","dateModified":"2021-06-07","author":{"@type":"Person","@id":"https:\/\/ayudaleyprotecciondatos.es\/author\/agonzar34\/#Person","name":"Ana Gonz\u00e1lez","url":"https:\/\/ayudaleyprotecciondatos.es\/author\/agonzar34\/","image":{"@type":"ImageObject","@id":"https:\/\/secure.gravatar.com\/avatar\/9d20ce04c893956aaa747aa424b64675?s=96&d=blank&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/9d20ce04c893956aaa747aa424b64675?s=96&d=blank&r=g","height":96,"width":96}},"publisher":{"@type":"Organization","name":"AyudaLeyProteccionDatos","logo":{"@type":"ImageObject","@id":"https:\/\/ayudaleyprotecciondatos.es\/wp-content\/uploads\/2016\/01\/ayuda-ley-proteccion-datos.png","url":"https:\/\/ayudaleyprotecciondatos.es\/wp-content\/uploads\/2016\/01\/ayuda-ley-proteccion-datos.png","width":600,"height":60}},"image":{"@type":"ImageObject","@id":"https:\/\/ayudaleyprotecciondatos.es\/wp-content\/uploads\/2021\/04\/deepfakes.jpg","url":"https:\/\/ayudaleyprotecciondatos.es\/wp-content\/uploads\/2021\/04\/deepfakes.jpg","height":1000,"width":1500},"url":"https:\/\/ayudaleyprotecciondatos.es\/2021\/06\/07\/deepfakes\/","about":["CIBERSEGURIDAD"],"wordCount":2456,"articleBody":"              if (typeof BingeIframeRan === \"undefined\") {                window.addEventListener(\"message\", receiveMessage, false);                function receiveMessage(event) {                  try {                    var parsed = JSON.parse(event.data)                    if (parsed.context === \"iframe.resize\") {                      var iframes = document.getElementsByClassName(\"binge-iframe\");                      for (let i = 0; i < iframes.length; ++i) {                        if (iframes[i].src == parsed.src || iframes[i].contentWindow === event.source) {                          iframes[i].height = parsed.height; }                         iframes[i].style.opacity = 1;                     }                    }                  } catch (error) {                  }                }                var BingeIframeRan = true;              }              Las computadoras han mejorado cada vez m\u00e1s en la simulaci\u00f3n de la realidad. El cine moderno, por ejemplo, se basa en gran medida en decorados, escenarios y personajes generados por computadora en lugar de ubicaciones pr\u00e1cticas y accesorios que alguna vez fueron comunes, y la mayor\u00eda de las veces estas escenas son en gran medida indistinguibles de la realidad. Los deepfakes generalmente no son bien entendidos por el p\u00fablico, pero se est\u00e1n convirtiendo en una fuente de miedo constante para muchos. En estos d\u00edas, es dif\u00edcil confiar en lo que lees. Ahora, los deepfakes hacen que sea m\u00e1s dif\u00edcil confiar en lo que ves. Las personas deben informarse sobre la verdad sobre las falsificaciones profundas si alguna vez esperamos mitigar el da\u00f1o que pueden hacer. \u00a0Te contamos aqu\u00ed qu\u00e9 son los deepfakes, c\u00f3mo se hacen, c\u00f3mo detectarlos, ejemplos y programas para crear deepfakes.\u00bfQu\u00e9 es un Deepfake?\u00bfC\u00f3mo se hace un Deep Fake?AutoencodersGANProgramas para crear deep fakes y face swapsZaoDeepFaceLabDeep Art EffectsRefaceMyHeritageEjemplos de Deepfakes famosos\u00bfQu\u00e9 es un Deepfake?La tecnolog\u00eda Deepfake puede unir sin problemas a cualquier persona del mundo en un video o una foto en la que nunca participaron. Tales capacidades han existido durante d\u00e9cadas. Pero sol\u00eda llevar un a\u00f1o a estudios completos llenos de expertos para crear estos efectos. Ahora, las tecnolog\u00edas deepfake (nuevos sistemas de aprendizaje autom\u00e1tico o gr\u00e1ficos por computadora) pueden sintetizar im\u00e1genes y videos mucho m\u00e1s r\u00e1pidamente.El t\u00e9rmino se refiere a una representaci\u00f3n digital falsificada de alguien que ha sido creada por inteligencia artificial. Podr\u00eda ser una grabaci\u00f3n de video, foto o audio que haya sido manipulada hasta tal punto que parezca real. Los deepfakes generalmente se usan para enga\u00f1ar a las personas de una manera preocupante, aunque hay muchos creadores de parodias, s\u00e1tiras y simplemente traviesos cuyas intenciones no son tan oscuras como podr\u00eda pensar.Por tanto, los deepfakes son videos falsos creados con software digital, aprendizaje autom\u00e1tico e intercambio de rostros. Los deepfakes son videos artificiales creados por computadora en los que se combinan im\u00e1genes para crear nuevas im\u00e1genes que representan eventos, declaraciones o acciones que en realidad nunca sucedieron. Los resultados pueden ser bastante convincentes.\u00bfC\u00f3mo se hace un Deep Fake?Originalmente, los deepfakes se basaban en codificadores autom\u00e1ticos, un tipo de red neuronal no supervisada, y muchos todav\u00eda lo hacen. Algunas personas han perfeccionado esa t\u00e9cnica utilizando GAN (redes generativas de confrontaci\u00f3n). Tambi\u00e9n se han utilizado otros m\u00e9todos de aprendizaje autom\u00e1tico para deepfakes, a veces en combinaci\u00f3n con m\u00e9todos que no son de aprendizaje autom\u00e1tico, con resultados variables.AutoencodersEsencialmente, los codificadores autom\u00e1ticos para caras deepfake en im\u00e1genes ejecutan un proceso de dos pasos. El primer paso es usar una red neuronal para extraer una cara de una imagen de origen y codificarla en un conjunto de caracter\u00edsticas y posiblemente una m\u00e1scara, generalmente usando varias capas de convoluci\u00f3n 2D, un par de capas densas y una capa softmax. El segundo paso es usar otra red neuronal para decodificar las caracter\u00edsticas, escalar la cara generada, rotar y escalar la cara seg\u00fan sea necesario y aplicar la cara mejorada a otra imagen.El entrenamiento de un codificador autom\u00e1tico para la generaci\u00f3n de caras falsas requiere muchas im\u00e1genes de las caras de origen y destino desde m\u00faltiples puntos de vista y en diversas condiciones de iluminaci\u00f3n. Sin una GPU, el entrenamiento puede llevar semanas. Con las GPU, va mucho m\u00e1s r\u00e1pido.GANLas redes generativas adversarias pueden refinar los resultados de los codificadores autom\u00e1ticos, por ejemplo, al enfrentar dos redes neuronales entre s\u00ed. La red generativa intenta crear ejemplos que tengan las mismas estad\u00edsticas que la original, mientras que la red discriminativa intenta detectar desviaciones de la distribuci\u00f3n de datos original.La formaci\u00f3n de GAN es una t\u00e9cnica iterativa que requiere mucho tiempo y que aumenta enormemente el coste en tiempo de c\u00e1lculo en comparaci\u00f3n con los codificadores autom\u00e1ticos. Actualmente, las GAN son m\u00e1s apropiadas para generar cuadros de im\u00e1genes individuales realistas de personas imaginarias (por ejemplo, StyleGAN ) que para crear videos deepfake. Eso podr\u00eda cambiar a medida que el hardware de aprendizaje profundo se vuelva m\u00e1s r\u00e1pido.Peligros de los DeepfakesNo hace falta ser un genio o un gur\u00fa de la tecnolog\u00eda para comprender por qu\u00e9 los deepfakes pueden ser peligrosos o utilizarse con fines nefastos. El concepto de que cualquier cosa sea falsa puede ser inquietante, pero cuando se habla de la identidad de alguien, se vuelve mucho m\u00e1s siniestro.Si bien algunos deepfakes se crean solo para divertirse o para enfatizar un punto, se puede suponer que la mayor\u00eda de ellos tienen la intenci\u00f3n de crear da\u00f1o.De manera inquietante, uno de los mayores impactos de las deepfakes es que pueden usarse para crear noticias falsas y, por lo tanto, una sociedad de confianza cero donde la verdad no se puede diferenciar de las falsedades. Esto crea un entorno en el que la gente no sabe en qu\u00e9 creer o a qui\u00e9n acudir en busca de la verdad.Las implicaciones de esto son de gran alcance, con muchas industrias y escenarios diferentes potencialmente amenazados:Casos judiciales: los deepfakes podr\u00edan usarse para falsificar pruebas para cosas como batallas por la custodia y tribunales laboralesSeguridad: si se utilizan deepfakes para imitar ciertos datos biom\u00e9tricos, entonces tiene el potencial de enga\u00f1ar a los procedimientos de seguridad en cuentas seguras.Estafas: un archivo de audio deepfake podr\u00eda usarse para enga\u00f1ar a alguien para que revele informaci\u00f3n personal o transfiera grandes sumas de dineroAtaques pol\u00edticos: la confiabilidad de los pol\u00edticos u organizaciones podr\u00eda cuestionarse si son v\u00edctimas de un sofisticado deepfake.En los \u00faltimos a\u00f1os, figuras de alto perfil y celebridades se han convertido en v\u00edctimas habituales de deepfakes debido a la gran cantidad de im\u00e1genes de ellas disponibles en el espacio p\u00fablico. Sin embargo, a medida que aumenta la cantidad de fotos y selfies que toma la persona promedio, es solo una cuesti\u00f3n de tiempo antes de que los deepfakes se est\u00e9n abriendo camino en el resto del mundo.\u00bfC\u00f3mo detectar un Deepfake?Como ocurre con la mayor\u00eda de la tecnolog\u00eda, a medida que las pr\u00e1cticas se han vuelto m\u00e1s complejas y refinadas, los deepfakes son cada vez m\u00e1s dif\u00edciles de detectar. A medida que mejoran nuestros m\u00e9todos para identificarlos, tambi\u00e9n lo hace la tecnolog\u00eda que se utiliza para crearlos, de ah\u00ed una batalla aparentemente interminable.Por ejemplo, en 2018, investigadores de EE.UU. anunciaron que las caras deepfake pod\u00edan detectarse porque no parpadeaban correctamente, pero tan pronto como se anunci\u00f3 esto, comenzaron a surgir videos deepfake con una nueva capacidad para parpadear.Algunas de las cosas a tener en cuenta son las siguientes:Sincronizaci\u00f3n de labios deficienteTono de piel irregularParpadeando alrededor del borde de la caraMechones de cabello fuera de lugarJoyas mal renderizadasDientes mal renderizadosEfectos de iluminaci\u00f3n inconsistentesReflejos incompatibles en el iris de los ojos.Los gobiernos, las organizaciones y las empresas de tecnolog\u00eda de todo el mundo est\u00e1n trabajando las veinticuatro horas del d\u00eda para investigar formas de detectar deepfakes y evitar que se utilicen de forma fraudulenta.Adem\u00e1s, para detectar deepfakes, necesitamos usar el pensamiento cr\u00edtico y hacernos preguntas clave como:\u00bfQui\u00e9n y por qu\u00e9 alguien comparte este video?\u00bfQui\u00e9n o qu\u00e9 es la fuente original?\u00bfLa persona del video dice algo que nunca esperar\u00edas que dijera?\u00bfQui\u00e9n se beneficia de este video?Programas para crear deep fakes y face swapsHoy en d\u00eda, cualquiera puede descargar software deepfake o incluso utilizar las herramientas y aplicaciones web para crear deepfakes online.Estas son algunas de las mejores aplicaciones y software de deepfake y face swaps que puedes usar para hacerlos.ZaoEs la \u00faltima aplicaci\u00f3n que se ha vuelto viral en China por su ingeniosa capacidad para crear videos deepfake en segundos. Puedes elegir un videoclip de su biblioteca que incluye escenas de series dram\u00e1ticas chinas, Big Bang Theory, pel\u00edculas populares de Hollywood y m\u00e1s. En unos segundos, Zao crea un video deepfake aparentemente aut\u00e9ntico que, francamente, parece natural e indistinguible del video original.Lo sorprendente es que la aplicaci\u00f3n toma solo unos segundos, a diferencia de las computadoras poderosas que pueden tardar horas en entrenar a la Red Adversaria Generativa responsable de crear videos deepfake.La aplicaci\u00f3n Zao solo se lanza en China para usuarios de Android e iOS. Puedes descargar la aplicaci\u00f3n de deepfakes en Android, pero no puedes usarla porque Zao requiere un n\u00famero de tel\u00e9fono chino para registrarse.DeepFaceLabEs un programa de Windows que te permite crear videos deepfake. Est\u00e1 construido principalmente para investigadores y estudiantes de visi\u00f3n por computadora. Sin embargo, si quieres aprender sobre videos deepfake, definitivamente puedes probar esta herramienta. Utiliza el aprendizaje autom\u00e1tico y la s\u00edntesis de im\u00e1genes humanas para reemplazar rostros en videos.Dado que DeepFaceLab es una herramienta avanzada principalmente para investigadores, la interfaz no es f\u00e1cil de usar y tendr\u00e1s que aprender a usarla en la documentaci\u00f3n. Nuevamente, no hace falta decir que necesitas una PC potente con una GPU dedicada de alta gama. En pocas palabras, si eres un estudiante especializado en visi\u00f3n por computadora, DeepFaceLab puede ser una gran herramienta para comprender videos deepfake.Deep Art EffectsEs otra aplicaci\u00f3n que se volvi\u00f3 viral hace unas semanas. No es una aplicaci\u00f3n de video deepfake, sin embargo, puede crear im\u00e1genes deepfake basadas en arte, estructuras antiguas y pinturas. Si bien hay muchas aplicaciones que tienen caracter\u00edsticas similares, la parte \u00fanica de Deep Art es que usa IA para convertir cualquier foto en una obra de arte.Se dice que el algoritmo altamente avanzado se inspir\u00f3 en el cerebro humano y utiliza elementos estil\u00edsticos de obras de arte populares para recrear im\u00e1genes art\u00edsticas. Deep Art est\u00e1 formado por las obras de varios artistas que incluyen a Van Gogh, Leonardo da Vinci, Miguel \u00c1ngel, Picasso y m\u00e1s. Y lo bueno es que esta aplicaci\u00f3n no tiene problemas de privacidad. Si quieres probar algo art\u00edstico, Deep Art es la mejor aplicaci\u00f3n para probar.Deepfakes web \u03b2Es un servicio web que te permite crear videos deepfakes en la web. Utiliza el aprendizaje profundo para absorber las diversas complejidades de los datos faciales. Deepfakes web \u03b2 puede tardar hasta 4 horas en aprender y entrenar a partir de v\u00eddeos e im\u00e1genes, mientras que se necesitan otros 30 minutos para intercambiar las caras con el modelo entrenado.Aunque utiliza una potente GPU en la nube, puede llevar horas procesar todos los datos. Contin\u00faa mostrando que crear videos deepfake no es un juego de ni\u00f1os y ver a Zao hacerlo en segundos es realmente revolucionario. De todos modos, si deseas probar el video deepfake para la investigaci\u00f3n en visi\u00f3n por computadora, puedes optar por Deepfakes web \u03b2.RefaceLos desarrolladores de Doublicat, aplicaci\u00f3n que te ayuda a crear divertidos memes GIF, han cambiado el nombre de la aplicaci\u00f3n a Reface, despu\u00e9s de Reface AI. Reface AI es la Red Generativa Adversaria (GAN) detr\u00e1s de escena. Para usar la aplicaci\u00f3n, todo lo que necesitas hacer es capturar tu foto y luego elegir el gif que deseas usar.En unos segundos, la aplicaci\u00f3n superpondr\u00e1 tu cara al gif. No funciona perfectamente y la superposici\u00f3n de caras depender\u00e1 de la simetr\u00eda de tu cara y del gif que est\u00e9s usando. Dicho esto, hay tantos gifs en Internet que siempre tendr\u00e1s opciones. Este puede ser tu creador de gif personalizado que puedes usar para impresionar a tus amigos.MyHeritageOtra app viral deepfake que deber\u00edas probar se llama MyHeritage. La funci\u00f3n Deep Nostalgia de la aplicaci\u00f3n gan\u00f3 popularidad entre los usuarios de las redes sociales, ya que permite animar fotos antiguas. Para utilizar el servicio, todo lo que tienes que hacer es cargar una imagen y presionar el bot\u00f3n animar.En unos segundos, obtienes una versi\u00f3n animada de la imagen con la cara, los ojos y la boca movi\u00e9ndose como si saliera del peri\u00f3dico m\u00e1gico The Daily Prophet de Harry Potter.Ejemplos de Deepfakes famososExisten muchos ejemplos de deepfakes famosos. Vamos a ver algunos de ellos.Pel\u00edculas: Hollywood lleva mucho tiempo transponiendo rostros reales o ficticios a otros actores. En 2016, Rogue One: A Star Wars Story le devolvi\u00f3 la vida a Peter Cushing en varias escenas.Pornograf\u00eda: en septiembre de 2019, la firma de inteligencia artificial Deeptrace anunci\u00f3 que encontraron m\u00e1s de 15,000 videos deepfake en l\u00ednea, con un incre\u00edble 96% de ellos siendo pornogr\u00e1ficos.Pol\u00edtica: El actor, director y productor estadounidense Jordan Peele y Buzzfeed crearon un video de Barack Obama aparentemente llamando al presidente Donald Trump \u00abun total y completo idiota\u00bb.Fraude: uno de los ejemplos m\u00e1s conocidos de un deepfake de audio ocurri\u00f3 en 2019 cuando el director ejecutivo de una empresa de energ\u00eda del Reino Unido fue enga\u00f1ado para que enviara 220.000 euros (240.000 d\u00f3lares) a un proveedor h\u00fangaro. Al parecer, el director ejecutivo de la empresa matriz de su empresa en Alemania le orden\u00f3 que lo hiciera, pero result\u00f3 ser una farsa y los perpetradores nunca fueron capturados."},{"@context":"http:\/\/schema.org\/","@type":"BreadcrumbList","itemListElement":[{"@type":"ListItem","position":1,"item":{"@id":"https:\/\/ayudaleyprotecciondatos.es\/#breadcrumbitem","name":"Ayuda Ley Protecci\u00f3n Datos"}},{"@type":"ListItem","position":2,"item":{"@id":"https:\/\/ayudaleyprotecciondatos.es\/2021\/06\/07\/deepfakes\/#breadcrumbitem","name":"Deepfakes: \u00bfSon un peligro o simple entretenimiento?"}}]}]