Sesgos algorítmicos en inteligencia artificial: detección y mitigación

Objetivo de la clase

El objetivo de esta clase fue que los estudiantes comprendan qué son los sesgos algorítmicos, cómo se manifiestan en sistemas de inteligencia artificial, sus consecuencias en la sociedad, y las estrategias para identificarlos, evaluarlos y mitigarlos desde una perspectiva técnica, ética y social.

Habilidades desarrolladas

• Identificación de sesgos: Capacidad para reconocer patrones discriminatorios en algoritmos
• Análisis crítico: Evaluación de sistemas de IA desde una perspectiva ética y de equidad
• Aplicación de métricas de equidad: Uso de herramientas cuantitativas para medir sesgos
• Diseño responsable: Incorporación de consideraciones éticas en el desarrollo de IA
• Investigación aplicada: Análisis de casos reales de sesgos algorítmicos

Conceptos clave

• Sesgo algorítmico: [00:37] Distorsión sistemática en resultados que favorece o perjudica injustamente a ciertos grupos
• Variables correlacionadas: [01:43] Variables que pueden filtrar sesgos aunque no se incluyan explícitamente variables sensibles
• Regla del 80%: [01:57] La tasa de éxito de un grupo no debe ser menor al 80% de la tasa del grupo más favorecido
• Paridad demográfica: [02:47] Igualdad en la tasa de predicción positiva entre grupos
• Igualdad de oportunidades: [02:52] Igualdad en la tasa de verdaderos positivos
• Calibración por grupos: [02:56] Las probabilidades predichas deben significar lo mismo para todos los grupos

Palabras clave importantes

• Justicia algorítmica
• Equidad
• Discriminación
• Variables sensibles
• Matrices de confusión
• Falsos positivos/negativos
• Rebalanceo de datos
• Sobremuestreo/submuestreo
• Datos sintéticos
• Umbrales diferenciados
• Auditoría de datos
• Transparencia algorítmica
• Mecanismos de apelación

Hechos importantes

• [00:15] Los sesgos algorítmicos han ocurrido en casos reales de contratación y aprobación de préstamos
• [00:47] Los sesgos pueden surgir por datos históricos sesgados, decisiones de diseño inadecuadas o falta de diversidad en equipos
• [02:09] Las matrices de confusión permiten identificar dónde se producen más errores por grupo
• [03:06] Se requiere un enfoque multidisciplinario que combine aspectos técnicos, éticos y conocimiento del dominio
• [03:59] La próxima clase abordará privacidad de datos en IA

Principales puntos de datos

• Regla del 80%: [02:00] Métrica específica para evaluar equidad entre grupos
• Estrategias de mitigación: [02:17] Rebalanceo, sobremuestreo, submuestreo, generación de datos sintéticos
• Métricas de equidad: [02:47] Paridad demográfica, igualdad de oportunidades, calibración por grupos
• Casos de aplicación: Sistemas de contratación, aprobación de préstamos, procesos de selección