Cómo detectar sesgos de IA con un prompt

El sesgo algorítmico aparece cuando una inteligencia artificial refleja las decisiones humanas que ya tomamos en el pasado, y ese pasado nunca es neutral. Aquí aprenderás qué es, cómo se ve en un caso real y cómo usar un prompt para detectarlo en tu trabajo diario con IA. Es una lectura clave para cualquier persona que crea contenido, imágenes o textos apoyándose en modelos generativos.

¿De dónde saca la IA sus respuestas?

La IA no inventa desde cero. Toma sus respuestas de millones de textos, imágenes y decisiones que los seres humanos ya documentamos a lo largo de la historia [00:38]. Le enseñamos con nuestro pasado, y ahí está el problema: ese pasado carga desigualdades.

La mejor analogía de la clase lo resume así: la IA no es una ventana hacia la realidad, es un espejo. Un espejo te devuelve lo que le pones enfrente [01:04]. Si lo alimentas con datos sesgados, te devuelve resultados sesgados.

¿Qué es el sesgo algorítmico? Es cuando una IA reproduce las desigualdades presentes en los datos con los que fue entrenada. No inventa la desigualdad: la refleja y la disfraza de dato objetivo.

¿Cómo se ve un caso real de sesgo algorítmico?

En 2018, en Salta, Argentina, el gobierno de turno junto a Microsoft presentaron una IA que decía predecir con nombre, apellido y dirección qué niña estaba predestinada a un embarazo adolescente [01:20].

El sistema tomaba decisiones usando datos como la etnia de la niña o si su casa tenía agua caliente en el baño [01:36]. Y aquí viene lo interesante: tener o no agua caliente no mide el futuro de nadie, solo mide la pobreza en ese contexto.

Ese sistema no predecía quién sería madre adolescente. Estaba señalando a las niñas pobres y lo presentaba como ciencia [01:55]. El algoritmo no inventó la desigualdad, la reflejó y la disfrazó de dato.

¿Cómo detectar sesgos en imágenes generadas por IA?

Para poner esto a prueba, la clase usa Adobe Firefly, un generador de imágenes gratuito, con un prompt de solo tres letras: CEO [02:15].

El resultado fue un hombre blanco, de unos 40 años, en una oficina tradicional y usando traje [02:35]. Esa representación única deja fuera a muchas personas, por ejemplo una mujer latina, morena y de cabello rizado.

Aquí entra la herramienta central: el prompt del punto ciego. Se sube la imagen a ChatGPT junto con un prompt diseñado para identificar de forma más objetiva dónde están los sesgos y qué personas quedan por fuera según tu contexto [03:10].

Antes de correrlo, se ajustan los datos de entrada. Estos son los elementos que alimentan el análisis:

• El prompt original utilizado, en este caso CEO.
• El modelo empleado, en este caso Adobe Firefly.
• El contexto de quién eres y para qué audiencia trabajas.

En el ejemplo, el contexto fue una mujer latina que prepara una clase sobre emprendimiento femenino en Latinoamérica para una audiencia latinoamericana [03:40].

¿Qué pasos ejecuta el prompt del punto ciego?

El prompt no solo señala el problema, sigue una estructura clara que puedes replicar. Estos son sus pasos:

• Una lectura objetiva de la imagen.
• Una detección de sesgos concretos.
• Un contraste con el contexto que tú proporcionas.
• Una respuesta con estructura y reglas definidas [04:00].

En la lectura objetiva describió a una persona de 50 a 60 años, tono de piel claro, hombre, con traje gris de tres piezas y un estilo un poco westernized [04:20]. En la detección de sesgos concluyó que el único sujeto identificado como CEO era un hombre, reforzando visualmente quién ocupa ese cargo y dejando fuera a mujeres y a personas del contexto latinoamericano [04:40].

¿Para qué sirve el prompt del punto ciego? Para revisar una respuesta de IA y ver qué sesgos contiene y qué personas quedan excluidas según tu contexto real. Aunque está diseñado para imágenes, su estructura también funciona con texto o video.

¿Cómo corregir un resultado sesgado?

El prompt entrega además una versión corregida para volver a generar la imagen. Al copiarla en Adobe Firefly, el nuevo resultado mostró un contexto latinoamericano, diversidad de personas y una CEO al centro con cabello rizado, mucho más cercana a quien creó el ejercicio [05:30].

Una salvedad importante: ese resultado es correcto para ese contexto, pero tu correcto puede ser distinto. Por eso debes adaptar el prompt a tus propias necesidades para encontrar más diversidad en la respuesta [05:55].

¿Qué herramientas puedes usar desde ya?

La clase deja dos herramientas prácticas que puedes aplicar hoy mismo.

1. Un cambio de chip: trata cada respuesta de IA como un borrador, nunca como un veredicto. Un borrador lo revisas, un veredicto lo obedeces, y la IA siempre te da borradores [06:15].
2. El prompt del punto ciego que ya usamos, disponible en la sección de recursos y adaptable a texto o video [06:35].

La invitación es a jugar con él, modificarlo, iterarlo y compartirlo. El sesgo siempre va a estar ahí, pero tú puedes cuidar que ese sesgo no se convierta en discriminación [07:05].

¿Ya probaste el prompt del punto ciego con tus propias imágenes? Comparte tu versión en los comentarios y ayúdate junto con otros estudiantes a construir tu propio prompt.