Sesgos invisibles que arruinan tus datos
Contenido del curso
Gabriel Obregón
Aaron Mainero
IVAN CARAPIA BARAJAS
Jackssuriss Tatiana Herrera Florez
Esteban Bastías B.
Paul Andrés Andia Frias
Karen Lizeth Quiñones
Eduardo Alfredo Mora Morales
Carlos Andres Prieto Garavito
Marvin Alexander Pop Cahuec
Claudia Suárez
Felipe Martínez
Elias Echeverri
Jhon Freyman Ramírez Cortés
Jhon Freyman Ramírez Cortés
María Ermensy Ochoa Vanegas
José Eder Guzmán Mendoza
Diego Jurado
Edgardo Cuello
Edgardo Cuello
📌Sesgos en Datos, Modelos y Decisiones
🎯 Idea central
✨ Un sistema puede ser preciso en promedio pero injusto en la práctica.
💡 La causa: sesgos invisibles que aparecen en datos, diseño y uso.
⚠️ Sesgos más comunes
🔹 Muestreo → datos que no representan a toda la población.
👉 Ejemplo: encuestas solo a clientes habituales.
🔹 Etiquetado → prejuicios o falta de contexto de quienes clasifican.
🔹 Medición → instrumentos o formularios mal diseñados.
👉 Ejemplo: opciones de respuesta limitadas.
🔹 Automatización → confianza ciega en “lo que dice el sistema”.
🕵️ Dónde se esconden los sesgos
🗣️ Lenguaje → expresiones excluyentes o muy locales.
🌆 Cobertura → datos solo de ciudades grandes, se ignoran zonas rurales.
📱 Interfaces → se asume internet rápido y smartphones modernos.
💳 Supuestos financieros → contrato laboral formal como regla general.
🌍 Modelos importados → diseñados para el norte global, no encajan en contextos locales.
🧭 Ética más allá del algoritmo
🔑 Los sesgos nacen antes de los datos y del modelo. 🛠️ Herramienta: Data Ethics Canvas → activa preguntas críticas sobre consecuencias, exclusiones y supuestos.
❓ Preguntas del Data Ethics Canvas
💬 Cómo iniciar la conversación en el equipo
1️⃣ Muestra ejemplos de sesgos en datos, diseño o uso.
2️⃣ Relaciona un ejemplo con experiencias propias.
3️⃣ Formula la pregunta clave:
🔎 “¿Qué estamos asumiendo que podría excluir a alguien sin querer?”
4️⃣ Mantén la conversación activa: más importante que resolver todo en una sesión.
Los tipos de sesgos mencionados en la clase son:
Estos sesgos pueden afectar la toma de decisiones y perpetuar desigualdades.
Sesgo: Un sesgo es una inclinación o tendenciaque hace que una decision, análisis o resultado se aleje de lo representativo de la realidad.
Los sesgos son especialmente importantes porque pueden aparecer en los datos y hacer que un modelo tome decisiones injustas o incorrectas.
SESGOS INVISIBLES EN LOS DATOS:
¿Cuándo debo usar el Data Ethics Canvas?
Debes implementar esta herramienta antes de escribir la primera línea de código o recolectar el primer dato. Piensa en el Data Ethics Canvas como los planos arquitectónicos de un edificio: no esperas a construir el décimo piso para preguntarte si los cimientos soportarán el peso. Úsalo durante la fase de ideación y diseño de tu proyecto para mapear proactivamente los riesgos. Reúne a tu equipo, preferiblemente con perfiles diversos, y utilicen este lienzo para responder preguntas incómodas pero necesarias. Por ejemplo, evalúen si la solución asume que todos los usuarios tienen acceso a Internet de alta velocidad o si penaliza indirectamente a personas de zonas rurales. Al aplicarlo en las etapas tempranas, transformas la ética de un simple "requisito legal" de última hora en una ventaja competitiva que garantiza que tu producto sea verdaderamente inclusivo, robusto y preparado para el mundo real.
sesgos
eso se basa en la teoria de las cavernas del mundo interior y el exterior'
Es una analogía brillante, Marvin. En la caverna de Platón, los prisioneros confunden las sombras proyectadas en la pared con la realidad misma, porque es lo único que conocen.
Los sesgos en la IA funcionan igual: si el modelo solo ha visto "sombras" de una realidad específica, asume que eso es todo lo que existe. ¿Cómo crees que podríamos empezar a "salir de la caverna" para que los modelos vean la realidad completa y no solo la proyección que les dimos?
¿Qué pasa si ignoramos el contexto local?
Si importas una solución tecnológica diseñada para una realidad y la aplicas en otra sin ajustes, corres el riesgo de crear un sistema inútil o, peor aún, peligroso. Imagina implementar un sistema de reconocimiento de voz entrenado exclusivamente con acentos de grandes capitales en una región con fuerte presencia de dialectos locales o lenguas indígenas. El sistema simplemente fallará, frustrando a los usuarios y bloqueando su acceso a servicios básicos. En el mundo de los datos, el contexto lo es todo. Las variables económicas, culturales y de infraestructura cambian drásticamente entre distintas regiones del mundo. Ignorar esto significa que tus modelos podrían asumir que todos tienen un contrato laboral formal o una dirección postal estandarizada, excluyendo automáticamente a millones de personas que operan en la economía informal. Adaptar tus soluciones al entorno local asegura que la tecnología resuelva problemas reales en lugar de amplificar barreras existentes.
Muchos análisis y modelos asumen que las personas tienen ingresos estables, contratos formales y comportamiento financiero predecible. Sin embargo, en entornos como el latinoamericano, gran parte de la población trabaja en la informalidad, con ingresos variables y sin historial crediticio tradicional. Esto genera sesgos en modelos que, aunque precisos en promedio, excluyen a quienes no encajan en ese patrón. Me surge la duda de hasta qué punto estamos diseñando soluciones para una minoría “visible” en los datos y dejando por fuera a una mayoría real, y cómo incorporar mejor esas realidades sin comprometer la calidad técnica de los modelos.
muchos priorizaron que la edad temprana esta excluida de la muestra por ética de datos con permisos parentales
¿Cómo evito caer en sesgos de automatización?
El antídoto principal contra el sesgo de automatización es mantener siempre un "humano en el bucle" (Human-in-the-loop). Este sesgo ocurre cuando apagamos nuestro sentido crítico y aceptamos una decisión de la máquina como una verdad absoluta, similar a cuando sigues ciegamente el GPS y terminas en un lago. Para evitarlo en tus proyectos, debes diseñar procesos donde la inteligencia artificial actúe como un copiloto que sugiere, no como un dictador que ejecuta. Establece umbrales de confianza: si el modelo está seguro al 99% de una decisión rutinaria, permítele actuar; pero si la confianza baja al 70% o la decisión afecta la vida, salud o finanzas de una persona, el sistema debe pausarse y requerir la revisión obligatoria de un experto humano. Además, fomenta una cultura de equipo donde cuestionar a la máquina sea premiado, realizando auditorías aleatorias a las predicciones del sistema para asegurar que el sentido común siga al mando.
¿Por qué un modelo preciso resulta injusto?
Imagina que creas un algoritmo para predecir el éxito financiero y acierta el 95% de las veces. Sin embargo, si lo entrenaste únicamente con perfiles de personas que heredaron grandes fortunas, el modelo será altamente preciso para ese grupo específico, pero profundamente injusto para emprendedores que empezaron desde cero. La precisión matemática solo mide qué tan bien el sistema aprende los patrones de los datos que le entregas. Si esos datos históricos ya contienen desigualdades, prejuicios o exclusiones, la inteligencia artificial simplemente optimizará y escalará esa discriminación. En la práctica, esto significa que podrías estar denegando créditos bancarios, oportunidades laborales o diagnósticos médicos a poblaciones enteras, creyendo erróneamente que el sistema es "objetivo" solo porque arroja números exactos. La clave está en auditar no solo el resultado final, sino la representatividad de la información con la que alimentas el motor.
Me parece importantísimo este tema. además lo explicas muy bien. hay mucho desconocimiento con el manejo de los datos actualmente
Los sesgos en datos e inteligencia artificial son invisibles pero influyen directamente en la justicia y calidad de las decisiones. Un modelo puede ser altamente preciso en promedio y, aun así, perjudicar a ciertos grupos si los datos o supuestos no los representan adecuadamente. Por eso, no basta con evaluar métricas globales: es necesario preguntarse a quién podría estar excluyendo el sistema.
Los sesgos más comunes incluyen el sesgo de muestreo (datos no representativos), etiquetado (prejuicios humanos al clasificar), medición (instrumentos mal diseñados) y automatización (confianza excesiva en el sistema). Además, pueden surgir desde el diseño: lenguaje excluyente, falta de cobertura en contextos rurales, suposiciones tecnológicas o modelos importados que no reflejan realidades locales.
Para abordar estos riesgos, se requiere ampliar la mirada más allá del algoritmo. Herramientas como el Data Ethics Canvas ayudan a cuestionar supuestos clave: quién podría verse afectado, qué datos faltan y cómo evaluar la equidad del sistema.
En síntesis, construir soluciones justas implica integrar la ética desde el inicio, mantener conversaciones abiertas en los equipos y reconocer que los sesgos no son fallas técnicas aisladas, sino reflejos de decisiones humanas que deben revisarse de forma crítica y continua.
sesgos invisibles. interesante concepto
de datos estar informados
