Sesgos y responsabilidad en IA empresarial
Contenido del curso
Inteligencia Artificial: De Generativa a Agéntica
El Factor Humano y la Resistencia
Hoja de Ruta y Ejecución enfocada en ROI
Sesgos y responsabilidad en IA empresarial
Sesgos y responsabilidad en IA empresarial
Contenido del curso
Gabriel Obregón
Juan Antonio Hernández Vásquez
José Mauricio Escobar Rodríguez
Alvaro Adhemir Chura Cussi
MARIA TERESA PANIAGUA RIVERA
camilo plata
🧠✨ÉTICA E INTELIGENCIA ARTIFICIAL EN EMPRESAS ✨🧠
━━━━━━━━━━━━━━━━━━━
La implementación de Inteligencia Artificial (IA) en empresas puede generar grandes beneficios 🚀, pero también riesgos éticos importantes ⚠️.
📌 Riesgos principales
• Sesgos algorítmicos.
• Discriminación.
• Uso inadecuado de datos.
• Falta de supervisión humana.
🌎 Objetivo del texto
Promover una implementación responsable de IA, especialmente en Latinoamérica.
━━━━━━━━━━━━━━━━━━━
⚠️ 1. SESGO ALGORÍTMICO
📌 ¿Qué es?
La IA puede aprender desigualdades presentes en los datos con los que fue entrenada.
🧩 IDEA CLAVE
💬 “Los algoritmos reflejan los patrones de sus datos de entrenamiento, incluso cuando el sesgo no es intencional.”
💡 Ejemplo
📄 Un sistema de selección de currículums penalizaba a mujeres porque aprendió patrones históricos dominados por hombres.
🚨 Consecuencias
❌ Discriminación automática.
❌ Decisiones injustas.
❌ Exclusión de ciertos grupos.
━━━━━━━━━━━━━━━━━━━
🌎 2. RIESGOS EN LATINOAMÉRICA
📌 Problema principal
Muchos sistemas de IA utilizan datos bancarios tradicionales 🏦.
⚠️ Riesgo
Las personas no bancarizadas pueden quedar excluidas de evaluaciones crediticias.
🔎 Efectos posibles
📉 Menor acceso a créditos.
💸 Discriminación económica.
🚪 Pérdida de oportunidades comerciales.
━━━━━━━━━━━━━━━━━━━
🛠️ 3. CÓMO REDUCIR EL SESGO
✅ ACCIÓN 1 — Revisar los datos
🎯 Objetivo
Conocer qué información entrenó al modelo.
⚠️ Importancia
👉 Si los datos están sesgados, la IA también lo estará.
━━━━━━━━━━━━
✅ ACCIÓN 2 — Medir equidad
❌ No basta con medir:
• Exactitud.
• Rendimiento promedio.
✅ También debe evaluarse:
👩 Género.
🌎 Región.
💰 Nivel de ingresos.
━━━━━━━━━━━━
✅ ACCIÓN 3 — Revisiones periódicas
🧩 Idea clave
Los modelos cambian con el tiempo y pueden desarrollar nuevos sesgos.
🔧 Solución
✔️ Auditorías.
✔️ Monitoreo constante.
━━━━━━━━━━━━━━━━━━━
📊 4. LIMITACIONES DE LOS PROMEDIOS
⚠️ Problema
Un buen promedio general puede ocultar errores graves en grupos específicos.
🧩 IDEA CENTRAL
💬 “Los datos deben analizarse por segmentos y no solo de forma global.”
📌 Ejemplo conceptual
⚠️ Un sistema puede funcionar “bien” en promedio pero perjudicar significativamente a una minoría.
━━━━━━━━━━━━━━━━━━━
🌐 5. GOBERNANZA Y SOBERANÍA DE DATOS
📌 Gobernanza de datos
Las empresas deben controlar:
📍 Dónde se almacenan los datos.
🔐 Quién tiene acceso.
📜 Qué regulaciones aplican.
━━━━━━━━━━━━
🧠 Soberanía de datos
Consiste en saber exactamente:
📂 Qué datos posee la empresa.
🌍 Dónde están almacenados.
⚖️ Bajo qué leyes operan.
━━━━━━━━━━━━
🌎 Ejemplo internacional
Una empresa con operaciones en:
🇲🇽 México.
🇨🇴 Colombia.
🇺🇸 Estados Unidos.
⚠️ Debe cumplir normativas distintas simultáneamente.
━━━━━━━━━━━━━━━━━━━
👤 6. RESPONSABILIDAD HUMANA
📌 Idea principal
Aunque la IA automatice procesos 🤖, la responsabilidad final sigue siendo humana 👤.
🇪🇺 Caso de la Unión Europea
Los sistemas de IA relacionados con:
💼 Empleo.
💳 Crédito.
⚠️ Decisiones sensibles.
son considerados de alto riesgo y requieren supervisión humana obligatoria.
━━━━━━━━━━━━━━━━━━━
⚙️ 7. APLICACIÓN PRÁCTICA DE LA ÉTICA
✅ MEDIDA 1 — Documentar procesos
📌 Definir
• Qué decisiones toma la IA.
• Qué requiere intervención humana.
━━━━━━━━━━━━
✅ MEDIDA 2 — Aprobaciones jerárquicas
📈 Mayor impacto = mayor nivel de supervisión.
━━━━━━━━━━━━
✅ MEDIDA 3 — Ajustar controles
🔐 Los datos sensibles requieren controles más estrictos.
━━━━━━━━━━━━
✅ MEDIDA 4 — Capacitación
👨🏫 Los usuarios deben comprender:
• Capacidades de la IA.
• Límites.
• Riesgos.
━━━━━━━━━━━━━━━━━━━
🏢 8. CULTURA ORGANIZACIONAL
📌 Idea central
El éxito de la IA depende también de las personas 👥.
❌ Un proyecto puede fracasar si:
🚫 No existe confianza.
🤔 La herramienta no se comprende.
⚠️ Los empleados la perciben como amenaza.
⭐ CONCLUSIÓN CLAVE
💬 “La cultura organizacional puede ser más importante que la tecnología.”
Me gusta el enfoque porque no descartar el talento humano.
El nivel de supervisión jerárquica sobre un sistema de IA debe ser proporcional al grado de sensibilidad del dato que procesa, y cuando ese sistema afecta decisiones sobre personas, la responsabilidad recae siempre en una persona.
tener mucho cuidado con la contaminacion de datos que le suministremos a la IA ya que se moldeara bajo esas normas y sesgos, tanto positivos como negativos.
Gracias