Cómo detectar alucinaciones en resúmenes de IA

Cuando le pides a una IA que resuma un presupuesto de nueve páginas, la respuesta suele verse impecable: cifras alineadas, descuentos claros, totales listos para copiar. El problema aparece cuando abres el PDF y descubres que ese descuento del 12% en realidad es del 8% y está sujeto a condiciones. A eso se le llama alucinación: contenido falso presentado con mucha confianza. Aquí aprendes una verificación en tres pasos, de menos de dos minutos, para blindar tus decisiones.

¿Qué es una alucinación de IA y por qué ocurre?

Una alucinación es una respuesta que suena precisa, profesional y fluida, pero que no coincide con la fuente original. El texto se lee tan bien que no sospechas del error, y ahí está el riesgo.

En el ejemplo real de la clase, se usó un archivo de cotización comercial para comparar proveedores de material informático. La IA devolvió un resumen limpio con precios, descuentos y totales. Muy útil… hasta que uno de esos datos resultó inventado.

¿Qué es una alucinación en un LLM? Es información falsa que el modelo entrega con tono seguro. Puede inventar cifras, fechas, páginas o citas textuales, incluso cuando trabaja sobre un documento que tú le entregaste.

¿Cómo hacer la verificación en tres pasos?

La idea es simple: no confíes en la fluidez, confía en la fuente. Estos tres pasos convierten esa revisión final en un procedimiento repetible [1:00].

Paso 1: contrasta cifras y porcentajes contra el PDF

Este es el paso más manual y el más importante. Abre el documento original y busca cada número clave del resumen.

• Busca el símbolo de porcentaje y compara. En el caso real, la IA dijo 12% por pago anticipado, pero el PDF mostraba 8% por volumen [1:55].
• Verifica los totales. El total de 169.850 dólares sí aparecía en el documento, así que estaba correcto [2:15].
• Marca los datos inferidos. El total con descuento de 149.468 no aparecía en ningún lado: la IA simplemente aplicó el porcentaje equivocado [2:30].

Cuando un dato no existe en la fuente, casi siempre es un cálculo derivado de otro dato mal leído.

Paso 2: exige trazabilidad con un prompt específico

Ahora le pides al modelo que muestre de dónde sacó cada dato. Este es el prompt exacto que se usa en la clase [2:45]:

Para cada nombre, valor y fecha de tu respuesta, muestra la página, la cita textual exacta y clasifícalo como comprobado, inferido o no encontrado.

El resultado te obliga a ver qué está verificado y qué está inventado. Ojo con algo importante: una cita generada por el modelo sigue siendo parte de su respuesta, y puede inventar la página o reconstruir el texto de memoria. Por eso abres el PDF y confirmas palabra por palabra.

Paso 3: pide una autorrevisión crítica

El tercer paso es pedirle explícitamente que analice de forma crítica su propia respuesta [3:20]. Suena redundante, pero funciona mejor que preguntar ¿estás seguro?, porque obliga al modelo a buscar tipos específicos de errores.

Eso sí, no lo conviertes en juez independiente: es el mismo sistema revisando su trabajo. Por eso el orden importa. Primero verificas tú contra la fuente, después exiges trazabilidad y al final usas la autorrevisión como red adicional.

¿Qué es el grounding y cuándo puedo confiar en el resultado?

Lo que acabas de aplicar se llama grounding: anclar las respuestas exclusivamente a los documentos que entregaste. En el prompt inicial le pides al modelo que responda solo con información de los archivos adjuntos [4:20]. Aun así, un LLM siempre puede inventar cosas.

Entonces, ¿cuándo basta con la verificación en tres pasos y cuándo necesitas más? Hazte esta pregunta: si esta información está equivocada, ¿qué es lo peor que puede pasar?

• Si la consecuencia es pequeña, la verificación en tres pasos suele ser suficiente.
• Si puede generar una pérdida financiera, una obligación legal o una decisión difícil de revertir, agrega revisión humana adicional.
• Si el documento se actualiza con frecuencia, repite los tres pasos cada vez que el modelo genere una nueva versión corregida.

Después de aplicar las correcciones, vuelve a pasar la tabla resultante por los mismos tres pasos. Es un ciclo, no un evento único [4:00].

¿Puedo confiar en las citas que me da un LLM? No a ciegas. El modelo puede inventar la página o parafrasear la cita creyendo que la copió textualmente. Siempre abre el documento y confirma palabra por palabra.

¿Grounding elimina las alucinaciones? No del todo. Reduce el riesgo porque limita la respuesta al contenido del archivo, pero el modelo todavía puede inferir mal, calcular mal o inventar detalles. La verificación humana sigue siendo tuya.

El resultado final, aunque lo hayas hecho con ayuda de IA, es 100% tu responsabilidad. ¿Con qué tipo de documentos te gustaría aplicar esta verificación primero? Cuéntalo en los comentarios.