Cuatro técnicas para evitar el Context Rot en IA

¿Alguna vez sentiste que la IA entendía todo al inicio de una conversación, pero tres días después responde como si acabara de empezar? Eso tiene nombre y solución. El Context Rot es la razón por la que tu asistente parece volverse menos inteligente en sesiones largas, y aquí aprenderás cuatro técnicas para contrarrestarlo.

No crasheó ni tiene un error. Simplemente se quedó sin espacio. Es una de las quejas más frecuentes que escucho, casi siempre con la misma frase: "de repente se puso tonta".

Por qué la IA pierde precisión en conversaciones largas

El problema tiene un nombre técnico y viene directo de la arquitectura del modelo, no de una falla puntual. Según la definición de Anthropic, a medida que aumenta el número de tokens en la ventana, la capacidad del modelo para recuperar información con precisión disminuye [00:38].

Dicho de forma simple: no es sostenible trabajar todo en una sola sesión. Y tiene lógica. Es exactamente lo que te pasa en una reunión que dura más de tres horas: al final ya nadie recuerda con claridad lo que se dijo al inicio.

¿Qué es el Context Rot? Es la degradación en la precisión de una IA cuando la conversación acumula demasiados tokens. No es un bug, es parte de cómo está construido el modelo. Entre más larga la sesión, peor recupera la información.

Qué es la curva en U o lost in the middle

Hay un segundo hallazgo interesante: la curva en U del trabajo, conocida como lost in the middle [01:11]. Se relaciona con cómo se construye el contexto y qué tan preciso se vuelve a medida que avanzamos.

• La información del inicio o las primeras conversaciones tiene entre 70 y 75% de precisión.
• Conforme avanzas, cae a 55 o 60%.
• La última conversación vuelve a subir a entre 70 y 75%.

Esa diferencia de 15 a 20 puntos depende solo de dónde esté ubicada la conversación. La misma frase, palabra por palabra, puede degradarse de forma considerable según su posición.

Cuáles son las cuatro técnicas para contrarrestar el Context Rot

La buena noticia es que existen métodos concretos para recuperar la precisión. Estas son las cuatro técnicas [01:52]:

1. Compaction: resumir la sesión y empezar de nuevo con ese resumen.
2. Pruning: eliminar los resultados crudos de herramientas viejas. La conclusión se queda, pero el volcado de datos se va.
3. Notas estructuradas: el agente escribe fuera de la ventana, en otro ecosistema, y lo lee de vuelta cuando lo necesita. Es como saltar entre conversaciones.
4. Subagentes: cada tarea arranca con una ventana limpia. Uno consume decenas de miles de tokens y devuelve entre 1,000 y 2,000 destilados.

Piénsalo así: en lugar de pedirle a una sola persona que sea experta en todo, recuerde todo y ejerza todas las profesiones al mismo tiempo, eliges personas distintas cada vez. Tarde o temprano, esa persona sobrecargada ya no puede más.

Cómo se parece la compresión a tu cerebro cuando duermes

Nuestro propio sistema hace algo parecido para evitar el colapso. Cuando te vas a dormir, tu cerebro consolida: retiene lo importante del día y suelta el resto [02:47].

No guarda el "video" completo de tus últimas 16 horas, solo lo que será útil. La compresión es exactamente eso.

¿Para qué sirve la compaction en IA? Sirve para resumir una conversación larga en un texto corto que otra sesión pueda continuar sin releer todo. Funciona como tu cerebro al dormir: guarda lo útil y descarta el ruido.

Cómo aplicar la compresión de sesiones paso a paso

Llevemos esto a la práctica con un ejemplo real: un market brief sobre el ecosistema fintech en México [03:09]. Esa sesión ya incluía archivos subidos, iteraciones, documentos y código generado. En otras palabras, ya estaba bastante larga.

El proceso es directo:

1. Escribe este prompt: "Resume esta sesión para que alguien más pueda continuarla sin leer nada de lo anterior".
2. Copia ese resumen y pégalo en una sesión completamente nueva.
3. Da la instrucción de lo que quieres lograr, por ejemplo: escribir la sección de panorama competitivo con el mismo formato y nivel de detalle de las secciones ya aprobadas.
4. Compara ese resultado con el que da la sesión vieja al hacer la misma petición.

Y aquí viene lo interesante. La sesión original devolvió el brief completo con las cuatro secciones habituales, los supuestos y la cadena de evidencia [04:14]. En cambio, el resumen condensado ni siquiera extrajo la información de los archivos subidos.

El resumen respondió algo revelador: no podía escribir la sección porque ya no tenía ni el brief ni los archivos CSV, así que no podía citar las fuentes [04:52]. Para hacerlo, habría que reimportar toda la información de nuevo.

Cómo construir tu primer prompt de compresión afinado

El reto es repetir este proceso exacto con una conversación tuya lo suficientemente larga [05:15]. La clave está en detectar qué se perdió.

• Toma una conversación extensa y aplica el prompt de resumen.
• Pega el resultado en una sesión nueva y observa qué falta.
• Identifica los elementos ausentes, como la información de esos archivos.
• Regresa y agrega esa lista de elementos faltantes a tu prompt.

Esa lista reconciliada es tu primer prompt de compresión bien afinado. Guárdalo, porque será tu punto de partida para no volver a perder contexto valioso.

¿Ya identificaste cuál fue el dato que tu resumen dejó fuera? Cuéntame en los comentarios qué se perdió en tu primera prueba.