Un texto puede tener cada dato correcto, cada fuente verificada y cada número real, y aun así llevarnos hacia una dirección equivocada. Esto ocurre cuando hay información que no se está teniendo en cuenta. La IA no necesita mentir para desinformar: basta con que muestre solo un lado de la historia. Entender cómo funciona ese mecanismo es clave para usar cualquier herramienta de inteligencia artificial con criterio profesional.
¿Qué es el sesgo y por qué la IA lo reproduce?
El sesgo no es un error factual como un dato incorrecto o una fuente inventada. Es una inclinación que favorece una perspectiva y deja fuera otras [0:56]. La IA reproduce estos patrones porque fue entrenada con contenido que ya viene con sus propias inclinaciones [1:07]. Si en internet hay más contenido a favor de algo que en contra, la IA va a presentar esa postura como si fuera la única opción, con un tono tan neutral que cuesta trabajo darse cuenta [1:16].
Para ilustrarlo, basta imaginar que se evalúa abrir una nueva sede de empresa y se le pide un análisis a la IA [0:21]. Lo más probable es que devuelva cinco razones sólidas a favor, con datos comprobables. Todo bien hasta que se descubre que el análisis nunca mencionó los riesgos, ni los costos ocultos, ni qué podría salir mal [0:42]. La buena noticia es que, como se trata de un patrón, se puede aprender a identificar [1:26].
¿Cuáles son los tres tipos de sesgo en la inteligencia artificial?
¿Cómo funciona el sesgo de representación?
Tiene que ver con quién aparece y quién falta [1:36]. Un ejercicio práctico lo demuestra con claridad: pedirle a la IA que describa un día típico de un CEO exitoso, sin especificar género, edad ni ubicación [1:46]. La IA llenará los vacíos con lo que estadísticamente es más frecuente en sus datos de entrenamiento [2:12]. Esto no solo aplica a descripciones de personas. Si se pide un análisis de mercado y todos los ejemplos son de dos países cuando el mercado real incluye veinte, eso también es representación sesgada [2:22].
La pregunta clave es: ¿qué asumió la IA que yo nunca le dije? [2:33]. Si se necesita diversidad o representación específica, hay que pedirla explícitamente porque la IA no la va a aportar por su cuenta [2:36].
¿Qué es el sesgo de confirmación y cómo evitarlo?
Este sesgo se alimenta de lo que ya creemos [2:48]. Para comprobarlo, basta hacer dos preguntas sobre el mismo tema pero con direcciones opuestas [2:52]. Por ejemplo: "¿por qué es buena idea que las empresas adopten trabajo remoto permanente?" y en otra conversación separada: "¿por qué es mala idea?" [3:04]. Ambas respuestas suenan igual de convincentes, con argumentos sólidos y bien estructurados, pero llegan a conclusiones opuestas [3:17].
Esto sucede porque la IA detecta la dirección de la pregunta y genera argumentos que la apoyan [3:28]. En la vida real, normalmente solo hacemos una de las dos preguntas, justamente la que va en la dirección de lo que ya creemos [3:44]. Para evitarlo, conviene convertir en hábito pedir siempre los dos lados: agregar una línea como "dame también los mejores argumentos en contra" [4:00].
¿Por qué el sesgo por omisión es el más difícil de detectar?
Este tipo de sesgo es el más sutil porque no hay nada incorrecto que señalar [4:14]. Todo lo que dice es verdad, pero lo que falta cambia completamente la imagen [4:21]. Un informe puede decir que una empresa creció treinta por ciento —y es cierto—, pero si no menciona que la deuda creció cincuenta por ciento, la imagen queda incompleta sin que haya una sola mentira [4:28].
La IA produce esto con frecuencia porque tiende a analizar desde las perspectivas más documentadas en sus datos [4:42]. Las preguntas que protegen contra este sesgo son:
- ¿Quién falta en este análisis?
- ¿De quién no estoy escuchando la perspectiva?
¿Cómo evaluar y corregir lo que la IA entrega?
Todo lo visto se integra en una estructura de cuatro preguntas aplicadas en orden [5:50]:
- ¿Es preciso? Si no lo es, se verifica y reemplaza el dato.
- ¿Está completo? Si no, se pide lo que falta.
- ¿Tiene algún sesgo? Si lo tiene, se pide equilibrar la perspectiva.
- ¿Es apropiado para mi contexto? Si no, se revisa el CIRC y se ajusta la instrucción.
El orden importa: si la primera no se cumple, las siguientes pierden sentido [6:16]. No vale la pena revisar si algo está completo si los datos de base son falsos.
Compartan sus resultados del ejercicio de los tres filtros de sesgo aplicados a su propio problema. La plantilla está disponible en la sección de recursos para documentar cada hallazgo.
