18

Deepfakes: origen, riesgos y amenazas

9409Puntos

hace 10 meses

Un deepfake es una técnica de inteligencia artificial que se utiliza para crear o alterar contenido audiovisual, el cual se caracteriza por su hiperrealismo y su capacidad para replicar la apariencia y la voz de personas reales.

Tal tecnología puede ser usada en aplicaciones benéficas como el cine, pero también puede usarse con fines malintencionados, como la generación de noticias falsas o difamaciones.

La persona que verás en el video a continuación no existe, mi rostro fue reemplazado por el de Jim Carrey y lo hicimos empleando una técnica llamada “deepfake”. En este artículo y video te comparto una breve historia sobre esta técnica.

Origen de la técnica deepfake

Los deepfake se hacen con una inteligencia artificial que analiza horas de material de una persona famosa y lo agrega en el cuerpo de otra. Hay varias teorías sobre su origen pero el primer programa que existió se llama Video Rewrite, y fue generado en 1997.

Video Rewrite, analiza los movimientos de la boca y predice el movimiento que esa persona haría pronunciando una palabra que le pidamos, luego los sincroniza con el discurso que le agreguemos y reemplaza el rostro para crear un deep fake. Esta imagen que ves a continuación muestra como los creadores del software explicaban su uso en los noventa:

El resultado no parece muy innovador, pero, estamos hablando del año 1997, todavía faltan 20 años para que avance esta tecnología y que podamos ver a una persona sin ritmo bailando o incluso hacer un deep fake en vivo en una videollamada de Zoom.

El dilema principal de esta tecnología es: ¿en qué podemos creer? Hasta hace muy poco pensábamos que una foto, un audio y sobre todo un video bastaba para considerar que algo es cierto, pero imagina las implicaciones éticas de los deepfakes en las manos incorrectas.

Cómo hacer un deepfake en 6 pasos

  1. Reúne Datos: Consigue imágenes y videos de las personas involucradas.
  2. Entrena la IA: Usa un modelo GAN para entrenar la inteligencia artificial.
  3. Ajusta el Modelo: Mejora el modelo con pruebas y ajustes.
  4. Edita y Sincroniza: Edita el video y sincroniza labios con el audio.
  5. Crea el Deepfake: Reemplaza el rostro usando el modelo GAN.
  6. Refina y Evalúa: Mejora el resultado y considera su uso responsable.

Modelos GAN la base de los deepfakes

Para entender cómo funciona un modelo de deepfake necesitas entender qué son las Redes Neuronales Generativas Adversariaso GAN. Imagina que tienes un generador que es parecido a un artista intentando crear imágenes que se parezcan a las reales y del otro lado tienes a un discriminador, que actúa como un detective cuyo objetivo es decir cuáles son imágenes son reales y cuáles son falsas.

El generador intenta mejorar continuamente su habilidad para crear imágenes más realistas y engañar al discriminador, pero, el discriminador también se vuelve más astuto y puede diferenciar mejor entre imágenes reales y generadas.

El juego continúa hasta que el generador produce imágenes tan realistas que el discriminador ya no es capaz de distinguir y así surgen los deepfakes.

Usos del deepfake: política, desnudos y realities

En política, los deepfakes se han utilizado para hacer parodias de presidentes, como este video de Mauricio Macri con bigote de Hitler, en el cual un Youtuber estaba criticando una aparición en un programa deportivo en la que el expresidente se refiere a la selección de futbol alemana como de raza superior.

Sin embargo, el 90% de los deepfakes que existen actualmente son desnudos, la mayoría no autorizados y eso ha generado debates sobre la ética de usar esta tecnología para crear contenido. Si en el año 1997 ya se podía alterar lo que una persona dice, en 2019 se hizo posible desnudar a alguien en menos de un minuto con una aplicación en línea y gratuita llamada “deepnude”.

Esta aplicación usaba la tecnología de deepfake para eliminar la ropa de mujeres en imágenes que podían subir los usuarios, produciendo desnudos falsos y explícitos sin su consentimiento.

Esto generó preocupaciones sobre la violación de la privacidad, el uso no consensuado de imágenes y el posible abuso de la tecnología para crear y distribuir contenido sexualmente explícito sin el consentimiento de las personas afectadas. Los desarrolladores de deepnude que incluso ya comercializaban una función premium, fueron objeto de críticas y demandas de celebridades y retiraron la aplicación del mercado.

Netflix estreno en 2023 “Deep Fake Love”, una serie española que utiliza inteligencia artificial para poner a prueba las relaciones de cinco parejas comprometidas. En este reality las parejas se enfrentan a videos perturbadores de sus parejas actuando de manera infiel. ¿Son estos videos reales o son producto de la inteligencia artificial? Ellas deben adivinar y el es el que acierte más.

¿Qué están haciendo las redes sociales sobre los deepfakes?

La línea que divide la libertad de expresión, la parodia, el humor y afectar la imagen de una persona o engañar con información falsa es muy delgada, tan delgada que en 2019, se publicó en Instagram un deep fake del propio Mark Zuckerberg, CEO de META.

En el video, se usó la tecnología de deepfake para simular que Zuckerberg estaba hablando sobre el poder y el control de datos en Meta y cómo la empresa podía y manipular la información que los usuarios compartían.

El video engañó a muchas personas, pero Meta, al no tener políticas claras, decidió no eliminarlo de Instagram y en su lugar, redujeron su visibilidad en los feeds de noticias.

Más tarde, Meta publica una guía sobre el tratamiento de los deepfakes en su plataforma. Indican que eliminarán medios manipulados y engañosos si han sido editados más allá de ajustes de claridad o calidad, haciendo creer al usuario que el sujeto dijo palabras que no dijo.

Esta política no afecta contenido paródico ni videos editados para cambiar el orden de palabras. El video de Mark Zuckerberg sigue en Instagram y está disponible.

Si quieres aprender con un experto cómo crear imágenes con IA, te recomiendo tomar Curso de Generación de Imágenes con IA: Dall-E, Midjourney y Stable Diffusion, en dónde puedes aprender a crear lo que quieras. Incluso a un Mark Zuckerberg policía usando midjourney.

Sebastian
Sebastian
sebas.sarmiento

9409Puntos

hace 10 meses

Todas sus entradas
Escribe tu comentario
+ 2
Ordenar por:
4
17327Puntos

wow es sorprendente todo lo que está logrando la inteligencia artificial me encanto la documentación

3
44554Puntos

Gracias por el dato del origen de los deeps, desconocía qué remontaba a 1997 😎👌

2
69476Puntos

Es verdaderamente fascinante. Esa información me resultaba desconocida. Es por eso que, además de los cursos sobre IA, y como medida preventiva contra el deepnude, sugiero encarecidamente considerar la opción de realizar cursos enfocados en el Uso Ético de la IA. Esto contribuirá a forjar una comunidad responsable.

2
4502Puntos

Deepfakes esta rompiedo nuestra perccepción de la realidad. 😱