Privacidad de datos en inteligencia artificial: riesgos y técnicas

Objetivo del profesor

El objetivo de esta clase era que los estudiantes comprendieran la importancia crítica de la privacidad de datos en sistemas de inteligencia artificial, entendiendo tanto los riesgos asociados como las técnicas disponibles para proteger la privacidad, y la necesidad de encontrar un equilibrio entre utilidad y protección en el desarrollo de sistemas de IA.

Habilidades desarrolladas

• Análisis de riesgos de privacidad: Capacidad para identificar diferentes tipos de amenazas a la privacidad en sistemas de IA
• Evaluación de técnicas de protección: Habilidad para seleccionar y aplicar métodos apropiados de preservación de privacidad
• Pensamiento crítico sobre trade-offs: Capacidad para evaluar el equilibrio entre privacidad y utilidad en diferentes contextos
• Aplicación de marcos regulatorios: Comprensión de cómo implementar requisitos legales en proyectos de IA

Conceptos clave

• [00:07] Rastros digitales: Información que dejamos al interactuar con sistemas digitales (preferencias, comportamientos, ubicaciones, relaciones, señales de salud)
• [00:37] Privacidad como derecho humano fundamental: No solo un requisito técnico, sino un derecho que impacta autonomía, dignidad y libertad
• [01:04] Identificadores directos: Datos que identifican inmediatamente a una persona (nombre, documento, ID de paciente)
• [01:19] Cuasiidentificadores: Combinaciones de datos aparentemente inocuos que pueden identificar individuos únicos (edad, género, código postal)
• [01:29] Riesgo de reidentificación: Posibilidad de identificar personas incluso después de eliminar identificadores directos
• [01:50] K-anonimato: Métrica que mide cuántos individuos comparten el mismo patrón de datos
• [01:59] Privacidad diferencial: Técnica que agrega ruido controlado para prevenir identificación individual
• [02:07] Parámetro épsilon: Control del nivel de privacidad (valores bajos = más privacidad, menos utilidad)
• [02:19] Datos sintéticos: Datasets artificiales que preservan distribuciones estadísticas sin contener registros reales
• [02:34] Aprendizaje federado: Entrenamiento de modelos en dispositivos locales compartiendo solo parámetros
• [04:00] Computación homomórfica: Procesamiento de datos cifrados sin descifrarlos
• [04:05] Computación multipartita segura: Colaboración entre partes sin revelar datos
• [04:13] Pruebas de conocimiento cero: Verificación de información sin revelarla

Palabras clave importantes

• Privacidad de datos
• Anonimización
• Generalización
• GDPR (Reglamento General de Protección de Datos)
• CCPA (California Consumer Privacy Act)
• Blockchain para privacidad
• Trade-offs privacidad-utilidad
• Minimización de datos
• Consentimiento explícito
• Derecho al olvido

Hechos importantes

• [00:13] La IA necesita datos para funcionar, pero las personas necesitan privacidad para vivir libremente
• [02:43] Todas las técnicas de protección reducen la información disponible para el modelo, afectando potencialmente su rendimiento
• [03:09] GDPR incluye derecho al olvido, consentimiento explícito, minimización de datos y privacidad por diseño
• [03:20] CCPA otorga derecho a saber qué datos se recopilan, eliminarlos y oponerse a su venta
• [04:27] No existe una solución universal; cada caso requiere análisis detallado de riesgos, beneficios y técnicas aplicables
• [04:43] La privacidad no es binaria, es un espectro donde el reto es encontrar el balance justo

Principales puntos de datos

No se presentaron datos numéricos específicos en esta clase, ya que se enfocó en conceptos, técnicas y marcos teóricos de privacidad en IA.