La investigación de usuario con inteligencia artificial exige dos pilares que muchas veces quedan en segundo plano: inclusión y equidad. Si diseñas productos digitales o entrenas modelos, estos principios definen si tu solución sirve a un grupo amplio o termina excluyendo a personas reales.

¿Qué significa diseñar de manera inclusiva con IA?

Diseñar inclusivamente implica tomar en cuenta la diversidad humana: ubicación geográfica, contexto, cultura y preferencias. No vas a diseñar para todas las personas del planeta, pero sí puedes diseñar para un grupo específico de manera justa y accesible.

Los algoritmos, las interfaces y los modelos de datos deben reflejar esa diversidad. Cuando uses un servicio de IA en tu investigación, pregúntate si los datos que arroja son confiables y si protege la información de quienes participan.

¿Cómo aplico inclusión en una interfaz conversacional? Analiza opciones de voz, idioma y acento. Asistentes como Siri, Cortana, Alexa o Waze permiten elegir voces con distintos acentos, no solo idiomas, lo que acerca la experiencia a más personas.

¿Dónde se nota la inclusión en productos reales?

En las interfaces conversacionales puedes ver el detalle: la posibilidad de seleccionar entre varias voces y acentos hace que el producto se sienta cercano para usuarios de distintas regiones. Ese pequeño ajuste es diseño inclusivo aplicado.

¿Por qué la equidad es clave en inteligencia artificial?

La equidad garantiza que los beneficios de la IA estén disponibles para todas las personas, sin importar su género, color de piel o posición socioeconómica. Cuando un modelo se entrena con datos sesgados, los resultados castigan a grupos enteros.

Para aterrizar esto, mira tres casos reales que muestran qué pasa cuando la equidad falla.

¿Qué casos demuestran sesgos en sistemas de IA?

• Reconocimiento facial de HP: las cámaras digitales no reconocían pieles morenas ni pieles negras. La empresa hizo pruebas con personas de distintos colores de piel y corrigió el error en menos de seis meses.
• Software de análisis de currículum: el sistema mostraba preferencia por personas que estudiaron en universidades prestigiosas y tenía sesgos por género y posición socioeconómica. Candidatos con más experiencia o credenciales quedaban fuera por un sesgo del algoritmo.
• Aplicación de salud comprada por el gobierno de Estados Unidos en 2019: al implementarse en hospitales, priorizaba la atención de personas caucásicas y dejaba en desventaja a grupos minoritarios como latinos y afroamericanos. Tuvieron que rehacer pruebas y realimentar el algoritmo para corregirlo.

Estos tres casos tienen algo en común: el sesgo no apareció por mala intención, apareció porque los datos de entrenamiento no representaban la diversidad real de los usuarios.

¿Qué es un sesgo en inteligencia artificial? Es una tendencia del modelo a favorecer o perjudicar a un grupo por la forma en que fue entrenado. Si los datos de origen son desiguales, los resultados también lo serán.

¿Cómo aplicar inclusión y equidad en tu proceso de diseño?

Si te dedicas a diseño o desarrollo, integra cuatro principios desde el inicio del proyecto: inclusión, diversidad, equidad y justicia. No los dejes para una fase de pruebas tardía, porque ahí los errores ya escalaron.

Algunas acciones concretas que puedes tomar:

• Probar tus modelos con usuarios de distintos contextos culturales, geográficos y socioeconómicos.
• Auditar tus sets de datos antes de entrenar para detectar sobrerrepresentación de un grupo.
• Validar que las interfaces ofrezcan alternativas de voz, idioma y accesibilidad.
• Documentar los sesgos detectados y las correcciones aplicadas, como hizo HP en su caso de reconocimiento facial.

¿Qué reto has enfrentado al diseñar con IA?

Si has trabajado en un proyecto donde detectaste sesgos o problemas de inclusión, déjalo en la sección de comentarios y resolvámoslo en conjunto.