Integración de Inteligencia Artificial en Investigación de Usuario
Clase 7 de 13 • Curso de Diseño Ético para el Desarrollo de Productos Digitales con IA
Contenido del curso
Clase 7 de 13 • Curso de Diseño Ético para el Desarrollo de Productos Digitales con IA
Contenido del curso
Alexander Cortés
Carlos G
Fátima Torrez
Guillermo León Cruz
Edgardo Cuello
Fátima Torrez
JESUS FERNANDO CHECA MORA
Arístides Pérez Hernández
Arístides Pérez Hernández
Arístides Pérez Hernández
Gabriel Obregón
Pedro Esteban Bedoya Castaño
Diana Hurtado
Arles A. Pinzon Molina
Patricio Sánchez Fernández
Roberto Patrón
“La única manera de darle sentido a los cambios es sumergirse en ellos, moverse con ellos, y unirse al baile”, Alan Watts.
Caso Estonia
La filosofía del diseño seguro con IA se basa en la idea fundamental de crear sistemas de inteligencia artificial (IA) que sean confiables, éticos y que minimicen los riesgos para los usuarios, la sociedad y el entorno en el que se implementan. Esta filosofía se centra en abordar los desafíos y preocupaciones asociados con la seguridad, la privacidad, la equidad y la transparencia en los sistemas de IA. Aquí hay algunos principios clave de la filosofía del diseño seguro con IA:
Responsabilidad ética: Los diseñadores de IA deben asumir la responsabilidad de garantizar que los sistemas que crean sean utilizados de manera ética y beneficiosa para la sociedad en su conjunto. Esto implica considerar las implicaciones sociales, culturales y éticas de las decisiones que toma la IA.
Transparencia y explicabilidad: Los sistemas de IA deben diseñarse de manera que sus decisiones y procesos sean comprensibles para los usuarios y las partes interesadas. Esto ayuda a generar confianza y permite a las personas entender cómo se toman las decisiones y por qué.
Equidad y ausencia de sesgos: Los sistemas de IA no deben discriminar ni perpetuar sesgos injustos basados en características demográficas o de otro tipo. Los diseñadores deben trabajar para identificar y mitigar los sesgos en los datos y algoritmos, y garantizar que los resultados sean justos y equitativos para todos.
Privacidad y seguridad: El diseño seguro implica proteger la privacidad de los datos de los usuarios y garantizar la seguridad de los sistemas de IA para prevenir posibles ataques o abusos. Se deben implementar medidas sólidas de seguridad y privacidad desde el diseño hasta la implementación y más allá.
Auditoría y rendición de cuentas: Los sistemas de IA deben ser auditables para permitir la supervisión y el análisis de su funcionamiento. Los diseñadores deben ser responsables de cualquier resultado negativo y deben estar dispuestos a abordar problemas y mejorar continuamente sus sistemas.
Colaboración interdisciplinaria: La filosofía del diseño seguro con IA reconoce que la seguridad y la ética en la IA son cuestiones complejas y multifacéticas. Implica colaboración entre expertos en tecnología, ética, derecho, sociología y otras disciplinas para abordar los desafíos desde diferentes perspectivas.
Educación y conciencia: Fomentar la educación y la conciencia sobre los desafíos y las implicaciones de la IA es esencial para promover prácticas de diseño seguro. Tanto los diseñadores como los usuarios deben entender los riesgos y las responsabilidades asociadas con la IA.
Se siente como estar leyendo un resumen de lo trabajado en estas últimas 7 clases.
Excelente
7 Fusión de la IA y la Inteligencia Humana
“La única manera de darle sentido a los cambios es sumergirse en ellos, moverse con ellos, y unirse al baile”, Alan Watts.
Gestionar
Aprender de manera rápida
Asimilar grandes datos
Humanos
Discernir
Empatia
Juicio
Intuicion
Desplegando nuevos paisajes
Algoritmos
Analisis de grandes coantidades de datos
Predecir comportamientos
Piensa más alla de la tradición
Replantear laas metodologias tradicionales
Aprendizaje automatico y ciencia de datos
Ser resilientie adaptable y abrazar el cambio
es crucial cambiar las metodologías tradicionales en la enseñanza.
¿Qué significa que un algoritmo sea reactivo, predictivo y proactivo?
Estonia no digitalizó solo formularios; rediseñó la relación Estado-ciudadano para que el dato circule entre instituciones y no obligue al ciudadano a cargar con la burocracia. Ese es el núcleo de su gobernanza digital. Que bien nos vendría este modelo en Colombia
¿Qué pasa si replanteo metodologías como Scrum?
Al cuestionar marcos de trabajo tradicionales como Scrum o Design Thinking, abres la puerta a la innovación radical adaptándolos a una era de análisis predictivo instantáneo que puede reducir fases enteras de semanas a horas. Al integrar herramientas automatizadas en tus sprints, tu equipo deja de invertir tiempo en tareas operativas repetitivas y se enfoca en la estrategia, la empatía y la toma de decisiones complejas. Abrazar esta evolución metodológica no significa desechar lo que ya sabes, sino que te convierte en un profesional mucho más ágil y preparado para los retos del diseño de productos del futuro.
¿Por qué es mejor unir humanos e IA?
Al combinar ambas inteligencias creas una sinergia invencible donde la inteligencia artificial aporta velocidad pura para procesar volúmenes masivos de datos, mientras tú aportas empatía, juicio crítico y discernimiento. Esta combinación te permite mitigar los sesgos inherentes en los algoritmos, asegurando que las decisiones finales mantengan un enfoque de equidad y justicia para descubrir el verdadero por qué detrás de las acciones de los usuarios. En lugar de competir, te conviertes en el director de una orquesta donde la IA es tu mejor instrumento para diseñar productos profundamente conectados con las necesidades reales y humanas.
¿Puedo usar esto para predecir comportamientos sociales?
La inteligencia artificial sobresale en el análisis predictivo cuando se alimenta con datos históricos, permitiéndote identificar patrones sutiles que preceden a problemas médicos, sociales o de consumo antes de que escalen. Esto te da el poder de diseñar interfaces proactivas que envíen alertas tempranas o sugieran intervenciones, anticipándose a las necesidades del usuario en lugar de simplemente reaccionar a sus acciones pasadas. La clave está en utilizar estos algoritmos predictivos para crear experiencias de usuario que se sientan mágicas, personalizadas y profundamente útiles para mejorar radicalmente su calidad de vida.
🤖 Inteligencia artificial en la investigación de usuarios
🎯 TEMA CENTRAL
➡️ Uso de la inteligencia artificial (IA) en la investigación de usuarios.
➡️ La clave está en la colaboración entre IA y la inteligencia humana para crear productos y servicios más eficaces.
🤖➕🧠 SINERGIA IA – INTELIGENCIA HUMANA
🤖 Lo que aporta la IA
✔️ Procesa grandes volúmenes de datos
✔️ Aprende rápidamente
✔️ Identifica patrones y tendencias
🧠 Lo que aportan las personas
✔️ Discernimiento
✔️ Empatía
✔️ Juicio crítico
⭐ Idea clave:
La IA no sustituye a las personas → potencia sus capacidades.
⚠️🌐 CONTEXTO: INCERTIDUMBRE TECNOLÓGICA
Las tecnologías emergentes implican:
🔹 Cambios constantes
🔹 Escenarios imprevisibles
🔹 Nuevas formas de trabajo
🧭 Actitud necesaria
➡️ Proactividad
➡️ Flexibilidad
➡️ Aprendizaje continuo
🛠️🔄 ADAPTACIÓN DE METODOLOGÍAS
Las formas tradicionales de trabajo deben evolucionar.
📌 Metodologías a adaptar
🔹 Scrum
🔹 Design Thinking
📚 Nuevos conocimientos requeridos
🔹 Ciencia de datos
🔹 Aprendizaje automático
💪🧩 COMPETENCIAS HUMANAS CLAVE
Además de lo técnico, son esenciales:
✅ Resiliencia
✅ Apertura al cambio
✅ Capacidad de adaptación
🌍💻 EJEMPLO PRÁCTICO: GOBERNANZA DIGITAL
📍 Caso destacado
Estonia
⚙️ ¿Qué hace?
✔️ Integra datos poblacionales
✔️ Utiliza algoritmos predictivos
🎯 Resultados obtenidos
🎓 Mejora en educación
🏥 Avances en salud
🏛️ Optimización de servicios públicos
⭐ Conclusión del ejemplo:
La combinación humano + IA es realista, útil y beneficiosa.
💬✨ CITA CLAVE
Autor: Alan Watts\
📝 “La única manera de encontrarle sentido al cambio es sumergirse en él”.
➡️ Mensaje central: aceptar y abrazar la transformación tecnológica.
Fusión de la IA y la Inteligencia Humana “La única manera de darle sentido a los cambios es sumergirse en ellos, moverse con ellos, y unirse al baile”, Alan Watts.
Algo que me encantó del ejemplo con Estonía y su manejo de gobierno, es que si se fijan, uno de sus principios no tiene que ver con el algoritmo ni con las ias como tal, ¡pero son la base! El principio de dar la información una sola vez. Y en el fondo pienso que es la visión de gobierno (poliítica) que permitió que este gran paso se diera.
"La única manera de encontrarle sentido al cambio es sumergirse en él, moverse con él y unirse al baile" ––Allan Watts
La IA Tiene un potencial enorme en la salud. Considero que es una herramienta sin precedentes. Mi temor está en el egoísmo humano, de limitar sus beneficios sólo a quienes puedan pagar. Por ejemplo: Por el momento han habido avances tecnológicos para crear biocomponentes que se puedan adosar a las extremidades perdidas en los seres humanos, lo que abre un potencial enorme para reemplazar extremidades perdidas, e incluso hay personas que están dando sus primeros pasos, luego de quedar tetrapléjico. Sin duda que el potencial de la IA, es muy prometedor.
Increíble manera de adoptar la IA en la mejora de los servicios públicos. En general, creo que adoptar nuevas tecnologías es algo que le cuesta mucho a los gobiernos de latinoamerica, por un tema de burocracia y que no la entienden muy bien.