Controles de proceso contra fraudes con deepfakes

Un empleado de la firma Arup en Hong Kong recibió una videollamada de su director financiero pidiéndole autorizar 15 transferencias urgentes. La voz y el rostro parecían reales, pero eran generados por inteligencia artificial. La empresa perdió más de 25 millones de dólares. Aquí aprenderás a construir controles de proceso que funcionan incluso cuando el deepfake es perfecto, algo clave para cualquier persona que tome decisiones sensibles en una empresa.

El punto que cambia todo es este: no falló la tecnología, falló el proceso. Y esa distinción es la base de todo lo que sigue.

¿Qué es un deepfake y por qué es tan peligroso en los negocios?

Un deepfake es contenido de audio, video o imagen donde la IA imita o reemplaza el rostro o la voz de una persona real. Pero llevado a algo más práctico, es una forma de hacerte confiar en algo que no deberías.

En la clase anterior el atacante engañaba al modelo con técnicas como inyección de prompt y allowlist. Ahora el foco cambia por completo: el atacante te engaña a ti. Y eso significa que no alcanza con mejorar la IA, tienes que mejorar cómo decides [00:35].

¿Qué es un deepfake? Es contenido de audio, video o imagen creado con inteligencia artificial que imita la voz o el rostro de una persona real para hacerte confiar en algo falso.

¿Dónde aparecen los riesgos reales?

Los riesgos caen en tres categorías concretas [01:32]:

• Fraude financiero: además de Arup, Ferrari tuvo un caso donde clonaron la voz del CEO para pedir transferencias. Lo frenó un empleado que hizo una pregunta que la IA no pudo responder.
• Desinformación: videos falsos de líderes políticos, audios manipulados y contenido viral que parece real.
• Abuso personal: imágenes íntimas falsas, ataques reputacionales y, en casos extremos, daño psicológico y social.

Lo interesante del caso Ferrari es que no lo salvó la tecnología, lo salvó el criterio de una persona.

¿Por qué caemos en estos ataques aunque seamos cuidadosos?

Estos ataques no funcionan por la calidad del deepfake, funcionan por cómo reaccionamos nosotros. Activan dos gatillos psicológicos poderosos: autoridad y urgencia [02:20].

Cuando alguien con autoridad te habla, tu cerebro baja la guardia. Y si además te dice "hazlo ahora", directamente dejas de pensar. Ahí es donde el proceso tiene que entrar a salvarte.

¿Qué señales de alerta debo buscar?

Las señales no sirven para confiar en ellas, sino para activar el protocolo [02:44]:

• En voz: sonido plano, sin pausas naturales, falta de ruido ambiente y evasión de preguntas específicas.
• En video: bordes raros en la cara, labios desincronizados y parpadeo extraño.

Hay una regla que evita la mayoría de estos ataques: nunca autorices algo sensible basado únicamente en una llamada o videollamada, no importa cuán real parezca.

¿Cómo funciona la verificación fuera de banda?

La verificación fuera de banda es el concepto clave para no confiar a ciegas [03:12]. La idea es simple: si la supuesta persona te habla por Zoom o WhatsApp, tú la llamas a su número de teléfono de siempre, el que tienes guardado en tus contactos. Usas un canal independiente para confirmar.

¿Qué es la verificación fuera de banda? Es confirmar una solicitud usando un canal distinto al que la originó. Si te piden algo por videollamada, tú validas llamando al número personal guardado en tus contactos.

¿Qué es la separación de funciones?

La segunda capa es la separación de funciones. Piénsalo como una bóveda con dos llaves: una persona sola no puede abrirla [03:50]. En la práctica, uno solicita, otro aprueba y otro ejecuta.

Un atacante ahora necesita engañar a varias personas, y eso cambia completamente el costo del ataque. A esto le sumas límites por monto, doble aprobación en operaciones críticas y mínimo privilegio: nadie tiene más acceso del necesario. Por ejemplo, quien ejecuta pagos no debería poder crear beneficiarios nuevos.

¿Cuál es el flujo para responder a una solicitud sospechosa?

Cuando recibes una solicitud sospechosa, sigue este flujo concreto [04:30]:

1. Tómate tiempo, no actúes y guarda evidencia.
2. Verifica identidad por otro canal.
3. Analiza el contenido: ¿hay urgencia?, ¿salta procesos?
4. Si tienes herramientas, úsalas, pero no dependas de ellas.
5. Aplica doble aprobación.
6. Documenta todo.
7. Si hay duda, escala.

Fíjate en algo: en ningún paso confiamos en "parece real".

¿Qué checklist debo revisar antes de ejecutar?

Todo esto se convierte en un checklist rápido antes de ejecutar [05:05]. Si falla uno solo, no se ejecuta:

• ¿Se evitó actuar por urgencia?
• ¿Se verificó por un canal independiente?
• ¿Hay doble aprobación?
• ¿Está documentado?
• ¿No dependiste de un solo canal?

Y aquí viene lo más importante: las herramientas de detección van a fallar eventualmente. Por eso tu sistema tiene que funcionar igual, aunque todo parezca real.

Imagina que trabajas en finanzas en Chile y recibes un audio de tu jefe pidiéndote transferir dinero urgente a un proveedor nuevo. La voz, el tono y el contexto suenan perfectos. ¿Ejecutas o te tomas unos segundos para pensarlo? ¿Qué canal usas para validar? ¿Quién más debería intervenir? La pregunta clave: ¿tu proceso actual te protege o depende de que tú te des cuenta? Déjame en los comentarios tu respuesta o un caso real que hayas visto.