Detección de Deepfake: Herramientas y Estrategias Efectivas

Clase 23 de 27 • Curso de Introducción a la Ingeniería Social: Técnicas, Ataques y Pretexting

Resumen

Hay que tener en cuenta que las inteligencias artificiales están constantemente evolucionando y mejorando, por eso la importancia de poder identificar factores claves para no ver se afectado y consumirla.

El fallo de las deepfakes

Se ha descubierto que existen múltiples maneras de determinar si un video es real es un deepfake. Una de ellas, son los ojos.

Las inteligencias artificiales no son muy buenas creando reflejos en los ojos. Si ponemos atención, tanto al movimiento de ellos, como a las luces y reflejos que se notan, es más fácil determinar la veracidad de un video.

Lecturas recomendadas

https://www.elladodelmal.com/2021/07/un-historia-de-blade-runners-virtual.html

https://www.xataka.com/pro/deepfakes-ciberseguridad-empresarial-asi-intentan-estafar-nuevo-ramsonware-como-se-puede-detectar-engano-a-tiempo

Contribución creada con aportes de: Angie Espinoza

Gabriel Obregón

student•

Importancia de la detección de Deepfake

Amenaza principal: Deepfake, junto con las noticias falsas, representa una amenaza significativa para la humanidad.
Estadísticas preocupantes: La proliferación de noticias falsas es alta y la capacidad de las personas para distinguir entre noticias falsas y reales es baja.

Iniciativas para la detección de Deepfake

Reality Defender:
- Desarrolladores: Microsoft, Facebook y universidades.
- Proyecto: <u>Reality Defender</u>: (https://www.realitydefender.com/)
- Funcionalidad:
  - Subir videos sospechosos.
  - El sistema analiza y proporciona un resultado indicando si el video es real, falso o creado con Deepfake.
- Uso: Portal con un acervo de videos publicados utilizando tecnología Deepfake.
Sensity:
- Proyecto: <u>Sensity</u>: (https://sensity.ai/)
- Funcionalidad:
  - Similar a Reality Defender.
  - Permite subir videos sospechosos.
  - Proporciona información sobre la autenticidad del video.

Capacitación y educación

Capacitación: Es fundamental adiestrar y capacitar a las personas para que puedan diferenciar entre noticias reales y falsas, así como identificar videos generados por Deepfake.

María José Beltrán Losada

student•

✌️Otro tip para detectar el uso de deepfakes es prestar atención a las manos, así como a los humanos la IA le cuesta entender la anatomía de las manos. Suelen estár deformes, faltan o sobran dedos, y ser ven muy distintos a las malformaciones reales porque el contorno de los dedos tampoco tiene límites.👌

Jeisson Yamit Vargas Pabon

student•

Interesante es para aquellas personas que este planeando abrir un negocio o startup, donde la sumisión de documentos de parte del cliente sean necesarios, ej: banco virtual, Sensity, ofrece una tecnología para que tu empresa no se convierta en victima de personas que quieren hacer fraude mediante la entrega virtual de documentos falsos.

MARIA TERESA PANIAGUA RIVERA

student•

Gracias

Jhon Maldonado

student•

En la clase se abordó la detección de Deepfake, enfatizando su creciente uso y su impacto negativo en la veracidad de la información. Se discutieron herramientas como Reality Defender de MIT y Sensity, que permiten analizar videos sospechosos y determinar si son auténticos o manipulados. Se destacó la importancia de educar a las personas para que puedan diferenciar entre contenido real y falso. En la próxima clase se tratarán los retos forenses asociados con los deepfakes.