Sesgo algorítmico y cómo reducirlo
Contenido del curso
Modelo Predictivo
Tipos de Aprendizaje
Herramientas para IA
Ciclo de Vida ML
Ética en IA
Sesgo algorítmico y cómo reducirlo
Sesgo algorítmico y cómo reducirlo
Contenido del curso
Frank Stephano Alayza Herrera
Andrea Alexandra Mora Vega
Carlos Andres Prieto Garavito
German Alexis Gomez
Federico Martinez
MARIA TERESA PANIAGUA RIVERA
jose nazate
Regla del 80%: La tasa de éxito de un grupo no debe ser menor al 80% de la tasa del grupo más desfavorecido.
Ejemplos de Sesgos Algorítmicos:
La referencia correcta es "grupo más desfavorecido". La Regla del 80% establece que la tasa de éxito de un grupo no debe ser menor al 80% de la tasa del grupo más desfavorecido. Esto es clave para evaluar la equidad en los resultados de modelos de IA y mitigar los sesgos algorítmicos.
Un sesgo algorítmico es una distorsión sistemática en los resultados de un algoritmo que puede favorecer o perjudicar injustamente a ciertos grupos. Suele surgir de datos históricos sesgados, decisiones de diseño inadecuadas o falta de diversidad en los equipos de desarrollo. Por ejemplo, un algoritmo de contratación podría discriminar a ciertos grupos demográficos debido a patrones históricos. Es crucial evaluar y mitigar estos sesgos para asegurar la equidad en el uso de inteligencia artificial.
Gracias
SESGO EN EL SISTEMA JUDICIAL:
En Colombia, el sistema judicial esta utilizando herramientas para agilizar procesos, el sesgo se manifiesta, asi:
1. Datos sesgados históricos: Si el modelo se entrena con datos históricos de sentencias, y estas sentencias históricamente han favorecido a grupos económicos y desfavorecido a grupos raciales, tal como los casos de la toga que han favorecido a políticos corruptos y narcotraficantes. EL ALGORITMO APRENDERÁ A REPLICAR Y AMPLIFICAR ESE PATRÓN.
2. Falta de Representación: la IA necesita grandes volúmenes de información para ser precisa. Si los datos judiciales disponibles son de baja calidad, el modelo tendrá menor precisión y será más propenso a errores injustos.
3. Consecuencia: el modelo puede conllevar a generar recomendaciones de sentencias o clasificaciones que discriminen indirectamente a ciertas poblaciones, perpetuando las desigualdades sociales existentes.