Usando LLM's como Aliados en la Detección de Phishing
En la clase anterior exploramos qué es el phishing y los métodos tradicionales para detectarlo. Hoy daremos un paso más allá y aprenderemos cómo los Modelos de Lenguaje Grande (LLM's) pueden convertirse en aliados valiosos para complementar nuestras habilidades de detección. Mientras avanzamos, reflexiona sobre cómo estas herramientas modernas pueden fortalecer las técnicas que ya conoces.
1. LLM's como Asistentes de Seguridad: Capacidades y Ventajas
Los LLM's ofrecen características únicas que los convierten en excelentes aliados para la detección de phishing:
Capacidades Clave
Análisis rápido de grandes cantidades de texto
Identificación de patrones y anomalías en la comunicación
Evaluación detallada de elementos técnicos
Disponibilidad 24/7 para consultas
Beneficios Prácticos
Evaluación instantánea de correos sospechosos
Identificación de elementos técnicos sutiles
Sugerencias inmediatas de acciones a tomar
Mejora continua de tu comprensión sobre técnicas de phishing
Desarrollo de mejores hábitos de seguridad
Mayor confianza al tomar decisiones
Reflexiona: ¿Cómo podrían estas capacidades complementar tus conocimientos actuales sobre detección de phishing?
2. ¿Cómo usar un LLM's efectivamente?
Elementos clave para un buen prompt
Proporciona el contexto completo
Solicita un análisis específico
Pide recomendaciones concretas
Ejemplo de prompt efectivo:
"Analiza el siguiente correo electrónico y evalúa si podría ser un intento de phishing. Considera:
Elementos técnicos (cabeceras, dominios, enlaces)
Contenido y tono del mensaje
Urgencia o presión
Inconsistencias
Proporciona:
Un análisis detallado
Nivel de riesgo (Alto/Medio/Bajo)
Recomendaciones específicas de acción
[Pegar aquí el correo completo, incluyendo cabeceras]"
Piensa: ¿Qué elementos adicionales incluirías en tu prompt según tus necesidades específicas?
3. Mejores Prácticas al Usar LLM's
Lo que debes hacer:
Usar LLM's como herramienta complementaria, no única
Compartir información no sensible
Verificar las recomendaciones con las políticas de tu empresa
Mantener el criterio humano en la decisión final
Lo que NO debes hacer:
Compartir información confidencial
Confiar ciegamente en el análisis
Ignorar las políticas de seguridad de tu empresa
Depender exclusivamente del LLM
Reflexiona: ¿Cómo podrías integrar estas mejores prácticas en tu flujo de trabajo actual?
4. Consideraciones Importantes
Los LLM's son herramientas de apoyo, no reemplazan el juicio humano
Mantén actualizadas las políticas de uso de LLM's en tu empresa
Considera la confidencialidad al compartir información
Documenta los casos de éxito y aprendizajes
Pregúntate: ¿Qué políticas específicas tiene tu empresa sobre el uso de LLMs?
5. Conclusiones y Próximos Pasos
Los LLM's son herramientas poderosas que pueden mejorar significativamente nuestra capacidad para detectar phishing, pero deben usarse de manera responsable y como parte de una estrategia más amplia de seguridad.
Acciones recomendadas:
Familiarízate con el uso de LLM's
Crea tus propios prompts personalizados
Comparte experiencias con tu equipo
Mantente actualizado sobre las políticas de tu empresa
¡Espero que esta clase te haya ayudado a comprender cómo los LLM's pueden ser aliados valiosos en tu lucha contra el phishing! Recuerda que la seguridad es responsabilidad de todos, y cada herramienta que nos ayude a mejorarla es bienvenida.
En una oportunidad utilicé copilot para comprobar que analice un código php, y me dió indicios que tenía cierta actividad sospechosa, luego de revisar detenidamente fue cierta la advertencia.
Ahora que lo pienso bien, es una excelente idea copiar el texto de un correo para que nos ayude a analizar los patrones o red flags que evidencien ese intento de ataque. Obviamente teniendo cuidado de no proporcionar información sensible tal cual lo indica esta clase.
yo le envie los comentarios que tenia una pagia web para que me ayudara a decidir si eran reales o no y encontramos muchisimos patrones y banderas rojas, fue muy interesante.
Actualmente existen chatbots con inteligencia artificial dedicados a ciberseguridad y ofrecen ser una primer linea de defensa en ciberseguridad y en español tal es el caso de Whatciso de DragonJar y Ml securebot de Mundo Linux
Interesante, investigaré más sobre esto.
muy interesante
Para evitar la confianza ciega en los LLM's y mantener el criterio humano, se deben seguir estas prácticas:
Uso Complementario: Emplear LLM's como herramienta de apoyo, no como única fuente de verdad.
Verificación de Recomendaciones: Siempre contrastar las sugerencias del LLM con las políticas de seguridad de la empresa.
Revisión Humana: Realizar una evaluación crítica de los análisis y recomendaciones antes de tomar decisiones basadas en ellos.
Capacitación Continua: Formar al equipo en la interpretación de resultados y en el uso responsable de LLM's.
Implementar estas medidas fomenta una cultura de análisis crítico y responsabilidad en el uso de tecnología.
Los Modelos de Lenguaje Grande (LLM's) son herramientas avanzadas que procesan y generan texto. Ejemplos destacados incluyen:
GPT-3 y GPT-4: Desarrollados por OpenAI, son ampliamente utilizados para tareas de generación de texto, chatbots y más.
BERT: Creado por Google, se utiliza para tareas de comprensión del lenguaje natural y búsqueda.
T5 (Text-To-Text Transfer Transformer): Permite abordar diversas tareas de procesamiento de lenguaje natural convirtiéndolas en un formato de texto a texto.
RoBERTa: Una variante de BERT que mejora el rendimiento a través de entrenamiento más extenso.
Estos modelos pueden integrarse en aplicaciones para mejorar la detección de phishing y otras amenazas cibernéticas.
Los LLM's (Modelos de Lenguaje Grande) son herramientas de inteligencia artificial diseñadas para procesar y generar texto, mientras que el phishing es una técnica de fraude cibernético utilizada para engañar a las personas y robar información sensible.
La diferencia principal radica en su función: los LLM's pueden ayudar a detectar y analizar intentos de phishing al identificar patrones y anomalías en mensajes, mientras que el phishing es una amenaza que busca aprovechar la vulnerabilidad de los usuarios. Los LLM's actúan como aliados en la defensa contra el phishing.
Excelente este tip de utilizar LLMs para el apoyo en la detección de phishing. Lo hice utilizando Copilot que está integrado en outlook, e indicandole que analice el mensaje abierto, más las condiciones y salida esperada; con esto hace una excelente revisión, incluso valida enlaces adjuntos y hasta me recomienda páginas para revisar la legitimidad de la URL.
Me parece muy útil ver cómo los LLM’s pueden ayudarnos a identificar cosas que uno normalmente pasaría por alto en un correo sospechoso. Al final no reemplazan lo que ya sabemos, pero sí nos dan más seguridad al momento de decidir
no sirve el video.
📚 CLASE: Usando LLMs como aliados en la detección de phishing
━━━━━━━━━━━━━━━━━━
🎯 IDEA PRINCIPAL
Los modelos de IA como los LLMs pueden convertirse en asistentes extremadamente útiles para detectar señales de phishing y comportamiento sospechoso.
La IA puede ayudar a:
• analizar mensajes
• detectar patrones extraños
• identificar manipulación psicológica
• acelerar validaciones
Pero la idea más importante es esta:
La IA NO reemplaza el criterio humano.
Lo potencia.
━━━━━━━━━━━━━━━━━━
⚡ RESUMEN ULTRA RÁPIDO
• Los LLMs pueden ayudar a identificar intentos de phishing.
• La IA detecta patrones lingüísticos sospechosos rápidamente.
• Los atacantes también usan IA para crear ataques más convincentes.
• La combinación IA + pensamiento crítico es la mejor defensa.
• Automatizar análisis reduce tiempo y errores humanos.
━━━━━━━━━━━━━━━━━━
🔑 LO VERDADERAMENTE IMPORTANTE
• Los LLMs son buenos detectando patrones.
Pueden identificar:
• urgencia artificial
• manipulación emocional
• lenguaje sospechoso
• inconsistencias
• solicitudes peligrosas
• La IA acelera análisis de mensajes.
Ejemplo:
analizar rápidamente:
• correos
• chats
• tickets
• solicitudes internas
• Los atacantes también usan IA.
Ahora pueden generar:
• correos más creíbles
• mejor gramática
• mensajes personalizados
• campañas masivas más rápidas
Esto hace que el phishing moderno sea más sofisticado.
• La IA debe actuar como asistente, no como verdad absoluta.
Siempre se necesita:
• validación humana
• contexto
• criterio profesional
• Los flujos automáticos mejoran seguridad.
Ejemplos:
• clasificar correos sospechosos
• alertar anomalías
• resumir riesgos rápidamente
━━━━━━━━━━━━━━━━━━
🧠 CONCEPTOS QUE DEBO ENTENDER
• LLM (Large Language Model)
Modelo de IA entrenado para comprender y generar lenguaje.
• Detección de phishing
Identificación de señales sospechosas en mensajes o sitios.
• Automatización defensiva
Uso de sistemas automáticos para reducir riesgos.
• Ingeniería social
Manipulación psicológica para obtener acceso o información.
• Clasificación de riesgo
Evaluar probabilidad de amenaza.
• Análisis contextual
Interpretar información considerando intención y comportamiento.
━━━━━━━━━━━━━━━━━━
🧩 MODELO MENTAL
Mensaje sospechoso
→ IA analiza patrones
→ detecta señales de riesgo
→ usuario valida contexto
→ decisión más segura
Modelo moderno:
IA
automatización
monitoreo
criterio humano
= defensa mucho más fuerte
Mentalidad profesional:
“La IA debe aumentar capacidades humanas, no reemplazar pensamiento crítico.”
━━━━━━━━━━━━━━━━━━
🚀 ACCIONES INMEDIATAS
✅ Usa IA para analizar mensajes sospechosos.
Pregunta ejemplos:
• “¿Qué señales de phishing ves aquí?”
• “¿Este correo parece manipulación?”
• “¿Qué elementos generan riesgo?”
✅ Verifica URLs manualmente.
Aunque la IA diga que parece seguro.
✅ Automatiza clasificación básica de correos.
Especialmente:
• urgentes
• financieros
• administrativos
• acceso a cuentas
✅ Capacita equipos usando ejemplos reales analizados con IA.
✅ Combina IA con protocolos humanos.
Nunca dependas completamente de automatización.
✅ Usa IA para generar simulaciones de phishing educativo.
━━━━━━━━━━━━━━━━━━
💼 APLICACIÓN PROFESIONAL
En empresas:
• filtrado inteligente de correos
• clasificación automática de riesgos
• soporte para SOCs y analistas
• reducción de carga operativa
En desarrollo:
• integración de IA defensiva
• sistemas anti-phishing
• detección contextual
• automatización de alertas
En productividad:
• análisis rápido de mensajes
• reducción de errores humanos
• validación acelerada
En IA aplicada:
• copilotos de seguridad
• asistentes de análisis
• automatización de monitoreo
Ventaja profesional real:
Los profesionales que combinan IA + ciberseguridad tendrán muchísimo valor en los próximos años.
━━━━━━━━━━━━━━━━━━
🔥 HACKS Y RECOMENDACIONES REALES
• La IA detecta patrones rápido, pero no entiende todo el contexto.
• Nunca tomes decisiones críticas solo porque “la IA dijo”.
• Usa prompts específicos para análisis más útiles.
• Los atacantes también están usando IA agresivamente.
La defensa debe evolucionar igual de rápido.
• Automatizar tareas repetitivas libera tiempo para análisis más importante.
• La combinación:
humano + IA
supera ampliamente cualquiera por separado.
━━━━━━━━━━━━━━━━━━
🧠 INSIGHT ESTRATÉGICO
Principiantes:
usan IA como reemplazo total.
Profesionales:
la usan como amplificador de capacidad analítica.
La ventaja real no está solo en usar IA.
Está en saber:
• qué validar
• qué automatizar
• cuándo desconfiar
• cómo interpretar resultados
Los mejores equipos de seguridad usarán IA para aumentar velocidad y precisión sin perder criterio humano.
━━━━━━━━━━━━━━━━━━
📝 REFLEXIÓN FINAL
La IA está transformando completamente la ciberseguridad.
Tanto atacantes como defensores tienen ahora herramientas mucho más poderosas.
Por eso la ventaja competitiva real será:
• combinar automatización
• mantener pensamiento crítico
• validar contexto
• tomar decisiones inteligentes rápidamente
La IA puede ayudarte a detectar amenazas.
Pero la responsabilidad final sigue siendo humana.
Hay algún programa que nos ayude a identificar los phishing, o una alerta que nos ayude a identificarlo? online
¿Porque es mejor no depender del LLM?
Confiar ciegamente en un LLM es como dejar que un genio distraído vigile tu puerta; es brillante, pero puede alucinar o ser engañado con un simple prompt injection.
¿Qué crees que sucedería si un atacante descubriera exactamente cómo tu modelo prioriza las amenazas?
LLM´s Sin duda pondré en practica lo aprendido, no tenia idea de que existieran herramientas que pudieran ayudarnos a protejernos, me parece muy interesante y sin duda aplicare ese filtro cada que tenga dudas.
En la clase, aprendimos que los LLM son herramientas de apoyo, no un reemplazo para el juicio humano. Siempre debes mantener tu criterio final, especialmente al manejar información crítica o cuando las recomendaciones del LLM parezcan dudosas o contradigan las políticas de tu empresa.
Buena informacion, valiosa
Para mitigar el margen de error de los modelos de lenguaje grande (LLMs) en la detección de riesgos de ataques, es clave implementar varias estrategias:
Verificación Cruzada: Usa múltiples herramientas y métodos de detección para validar la información generada.
Contexto Completo: Proporciona contexto detallado en los prompts para que el LLM entienda mejor la consulta.
Criterio Humano: Mantén siempre la supervisión humana para interpretar los resultados y tomar decisiones informadas.
Actualización de Políticas: Asegúrate de que las políticas de seguridad de tu empresa se adapten continuamente a nuevas amenazas.
Integrar estas prácticas ayudará a mejorar la precisión en la detección de phishing y otros riesgos cibernéticos.
El phishing es una técnica de fraude en línea donde los atacantes intentan engañar a las personas para que revelen información sensible, como contraseñas o datos bancarios, a través de correos electrónicos o sitios web falsos. En el contexto de los Modelos de Lenguaje Grande (LLM), estos pueden ayudar a detectar intentos de phishing al analizar patrones en los textos, identificar anomalías, y evaluar elementos técnicos en los mensajes. Los LLM son herramientas valiosas para complementar las habilidades humanas en la detección de estos fraudes.
Muy bueno
Muy bueno
Implementar LLMs en actividades diarias es altamente beneficioso. Estas herramientas pueden ayudarte a detectar phishing de manera más eficiente, analizar correos sospechosos y mejorar tus hábitos de seguridad. Usarlos como complemento a tus prácticas actuales te permitirá tomar decisiones más informadas y rápidas. Además, recuerda que es crucial seguir las políticas de seguridad de tu empresa y mantener el juicio humano en el proceso. Esto fortalecerá tu enfoque hacia la ciberseguridad.
