Hay que tener en cuenta que las inteligencias artificiales están constantemente evolucionando y mejorando, por eso la importancia de poder identificar factores claves para no ver se afectado y consumirla.
El fallo de las deepfakes
Se ha descubierto que existen múltiples maneras de determinar si un video es real es un deepfake. Una de ellas, son los ojos.
Las inteligencias artificiales no son muy buenas creando reflejos en los ojos. Si ponemos atención, tanto al movimiento de ellos, como a las luces y reflejos que se notan, es más fácil determinar la veracidad de un video.
Lecturas recomendadas
https://www.elladodelmal.com/2021/07/un-historia-de-blade-runners-virtual.html
Contribución creada con aportes de: Angie Espinoza
Curso de Introducción a la Ingeniería Social: Técnicas, Ataques y Pretexting
Clase 23 de 27
Clase 23 / 27
Jeisson Yamit Vargas Pabon
Interesante es para aquellas personas que este planeando abrir un negocio o startup, donde la sumisión de documentos de parte del cliente sean necesarios, ej: banco virtual, Sensity, ofrece una tecnología para que tu empresa no se convierta en victima de personas que quieren hacer fraude mediante la entrega virtual de documentos falsos.
MARIA TERESA PANIAGUA RIVERA
Gracias
Daniel Alfredo García Serna
📚 CLASE: HERRAMIENTAS DE DETECCIÓN DE DEEPFAKES
━━━━━━━━━━━━━━━━━━
🎯 IDEA PRINCIPAL
A medida que los deepfakes se vuelven más sofisticados, también surgen herramientas y técnicas para detectar contenido manipulado.
Sin embargo, la detección perfecta no existe.
Por eso, la mejor defensa no es depender únicamente de herramientas de detección, sino combinar tecnología, validación y pensamiento crítico.
Importa porque:
👉 confiar exclusivamente en nuestros sentidos ya no es suficiente, pero confiar ciegamente en herramientas automáticas tampoco.
━━━━━━━━━━━━━━━━━━
⚡ RESUMEN ULTRA RÁPIDO
• Existen herramientas especializadas para detectar deepfakes.
• Ninguna herramienta garantiza una precisión del 100%.
• La detección es una carrera constante entre atacantes y defensores.
• La validación humana sigue siendo fundamental.
• La mejor defensa combina tecnología y procesos.
━━━━━━━━━━━━━━━━━━
🔑 LO VERDADERAMENTE IMPORTANTE
• Los detectores analizan anomalías visuales, auditivas y técnicas.
• Los modelos de IA mejoran constantemente, dificultando la detección.
• Los falsos positivos y falsos negativos son inevitables.
• Una herramienta de detección debe considerarse apoyo, no prueba definitiva.
• La verificación independiente sigue siendo indispensable.
• La autenticidad debe validarse mediante múltiples evidencias.
• Los procesos organizacionales son más estables que las herramientas tecnológicas.
━━━━━━━━━━━━━━━━━━
🧠 CONCEPTOS QUE DEBO ENTENDER
Detector de Deepfakes:
Herramienta diseñada para identificar señales de manipulación en contenido digital.
━━━━━━━━━━━━━━━━━━
Falso positivo:
Contenido legítimo identificado incorrectamente como falso.
━━━━━━━━━━━━━━━━━━
Falso negativo:
Contenido falso identificado incorrectamente como legítimo.
━━━━━━━━━━━━━━━━━━
Análisis forense digital:
Evaluación técnica de archivos para detectar alteraciones o inconsistencias.
━━━━━━━━━━━━━━━━━━
Verificación multicapa:
Proceso que combina diferentes métodos para validar autenticidad.
━━━━━━━━━━━━━━━━━━
🧩 MODELO MENTAL
Contenido recibido
↓
Análisis automático
↓
Identificación de señales sospechosas
↓
Validación adicional
↓
Confirmación independiente
↓
Decisión informada
━━━━━━━━━━━━━━━━━━
Otra forma de verlo:
Tecnología
Proceso
Validación humana
↓
Mayor confianza
↓
Menor riesgo
━━━━━━━━━━━━━━━━━━
Conclusión:
👉 las herramientas ayudan a detectar engaños, pero no sustituyen el juicio crítico.
━━━━━━━━━━━━━━━━━━
🚀 ACCIONES INMEDIATAS
• No compartas contenido impactante sin verificarlo.
• Utiliza múltiples fuentes para confirmar información importante.
• Desconfía de audios o videos que generen emociones intensas de forma inmediata.
• Implementa procedimientos de validación para solicitudes sensibles.
• Aprende los conceptos básicos de detección digital.
• Considera cualquier análisis automatizado como una señal, no como una verdad absoluta.
━━━━━━━━━━━━━━━━━━
💼 APLICACIÓN PROFESIONAL
• En ciberseguridad, complementa estrategias de defensa contra ingeniería social.
• En medios de comunicación, mejora la verificación de contenido.
• En empresas, reduce riesgos asociados a fraude y suplantación.
• En recursos humanos, fortalece validaciones de identidad remotas.
• En trabajo remoto, protege decisiones basadas en audio o video.
• En IA, impulsa el desarrollo de sistemas más robustos de autenticación.
━━━━━━━━━━━━━━━━━━
🔥 HACKS Y RECOMENDACIONES REALES
• La mejor herramienta sigue siendo una combinación de tecnología y escepticismo saludable.
• Ningún detector puede reemplazar un buen proceso de validación.
• Los atacantes evolucionan tan rápido como los sistemas de detección.
• Cuanto más importante sea una decisión, más capas de validación necesita.
• Verificar por un segundo canal suele ser más efectivo que analizar durante horas un video.
• No busques certeza absoluta; busca reducir el riesgo.
• La autenticidad debe demostrarse, no asumirse.
━━━━━━━━━━━━━━━━━━
🧠 INSIGHT ESTRATÉGICO
Principiante:
Busca una herramienta capaz de detectar todos los deepfakes.
Profesional:
Diseña procesos que sigan siendo seguros incluso cuando la detección falle.
La diferencia es fundamental.
👉 la seguridad moderna no consiste en encontrar todas las falsificaciones.
Consiste en construir sistemas donde una falsificación, aunque sea convincente, no sea suficiente para provocar una acción crítica.
Las herramientas ayudan.
Los procesos protegen.
━━━━━━━━━━━━━━━━━━
📝 REFLEXIÓN FINAL
La detección de deepfakes es una batalla tecnológica en constante evolución.
Pero la verdadera ventaja no proviene de tener el mejor detector.
Proviene de desarrollar hábitos de verificación y procesos que no dependan exclusivamente de lo que parece real.
En seguridad, la pregunta más importante no es:
“¿Esto es auténtico?”
Sino:
“¿Qué evidencia tengo para confiar en que es auténtico?”
Jhon Maldonado
En la clase se abordó la detección de Deepfake, enfatizando su creciente uso y su impacto negativo en la veracidad de la información. Se discutieron herramientas como Reality Defender de MIT y Sensity, que permiten analizar videos sospechosos y determinar si son auténticos o manipulados. Se destacó la importancia de educar a las personas para que puedan diferenciar entre contenido real y falso. En la próxima clase se tratarán los retos forenses asociados con los deepfakes.
Gabriel Peynado
Gracias por sus enseñanzas.
Diego Andrés Jaimes
Hay que tener en cuenta que las inteligencias artificiales están constantemente evolucionando y mejorando, por eso la importancia de poder identificar factores claves para no ver se afectado y consumirla.
El fallo de las deepfakes
Se ha descubierto que existen múltiples maneras de determinar si un video es real es un deepfake. Una de ellas, son los ojos.
Las inteligencias artificiales no son muy buenas creando reflejos en los ojos. Si ponemos atención, tanto al movimiento de ellos, como a las luces y reflejos que se notan, es más fácil determinar la veracidad de un video.
MARIANGEL UZCATEGUI GARCIA
Gracias que buena Herramienta.
Alejandro sierra
hacer uso siempre de las herramientas para poder detectar deepfakes y poder protegernos de estas tecnologías emergentes
NELSON FABIAN FERRO CAMELO
Deepfake o ultrafalso es un acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo.
Felipe Bernardo González Barranco
Gracias!!
