Ingeniería de contexto: por qué tu IA inventa datos

Platzi DayPlatzi Day

Todos los cursos GRATIS

Se acaba en:
:::

Resumen

¿Por qué el mismo prompt te da resultados distintos en días diferentes? La respuesta está en la ingeniería de contexto, la disciplina que decide qué información entra en la memoria de trabajo de tu inteligencia artificial antes de que escribas una sola palabra. Este contenido es para quien ya usa un asistente de IA a diario y quiere entender por qué a veces falla sin razón aparente.

No cambiaste el prompt, cambió el contexto. Y aprender a diseñar ese contexto, sin programar ni tocar una API, es lo que transforma respuestas mediocres en respuestas útiles.

¿Qué información tiene tu IA sobre ti antes de responder?

El primer ejercicio es simple pero revelador: abre tu modelo de lenguaje favorito y pídele que enumere, por fuente, qué información tiene disponible sobre ti en ese momento. Las fuentes típicas son las instrucciones del sistema, la memoria de sesiones anteriores, el chat actual, los archivos cargados y las herramientas.

Lo interesante no está en lo que dice tener, sino en lo que dice no tener. Ahí aparecen las lagunas.

En el ejemplo de la clase, el asistente reconoce un perfil bastante completo: especialista en IA, educadora, emprendedora en Brighton, preferencias de estilo (como el odio a los guiones que delatan a la IA), formatos en Markdown y proyectos previos. Pero cuando se trata de armar propuestas para clientes, algo que se pide con frecuencia, no recuerda lo esencial: cuánto se cobra, cuándo se puede entregar y qué se entregó antes a esa persona.

¿Qué es una laguna de contexto? Es información importante que tu IA necesita para responder bien pero que no está disponible en ninguna de sus fuentes. Por ejemplo, tus tarifas reales o los plazos que sí aceptas. La IA rellena ese vacío inventando.

¿Cómo funciona la memoria de una IA comparada con la humana?

Piensa en cómo trabajas en una reunión. Tienes una memoria de trabajo, lo que tienes presente en este momento: ese es el equivalente a la ventana de contexto, y se satura.

Luego está la atención: cuantas más cosas tienes enfrente, menos atención dedicas a cada una. Después viene la memoria de largo plazo, lo que sabes pero en lo que no estás pensando ahora. Y por último, el equivalente al sueño: al dormir, tu cerebro se queda con lo importante del día y descarta el resto.

Las cuatro tienen un equivalente exacto en un sistema de inteligencia artificial. Y la del sueño, según se anticipa, será una de las herramientas más poderosas del curso.

¿Qué es la ingeniería de contexto según Anthropic?

Anthropic define la ingeniería de contexto como las estrategias para seleccionar el conjunto óptimo de tokens durante la inferencia. En lenguaje llano: determinar qué información entra en la memoria de trabajo del modelo, de dónde viene y qué se descarta.

Fíjate en el verbo principal. No es escribir, es decidir. Y decidir incluye eliminar.

Un dato que rompe la intuición: Anthropic eliminó más del 80 % del prompt del sistema de su herramienta de código para los modelos Claude 5. ¿Por qué? Porque más instrucciones no significaban mejores resultados. Al contrario, cuantas más instrucciones das, peor puede volverse la respuesta.

¿La ingeniería de prompts ya no sirve? Sí sirve, pero es solo una pieza del sistema. La ingeniería de prompts pregunta cómo escribo la instrucción. La ingeniería de contexto pregunta qué necesita saber el modelo en este momento.

¿Por qué el contexto cambia por completo la respuesta?

El segundo ejercicio lo deja clarísimo. Abre dos sesiones nuevas, una al lado de la otra, con una instrucción idéntica palabra por palabra: responder como agente de soporte a un cliente que compró unos auriculares hace tres semanas y recibió uno sin sonido.

En la primera sesión, sin contexto, la respuesta suena profesional y empática. El problema es que inventa una política de reembolsos de la nada: ofrece reembolso total y producto de reemplazo sin costo, cosas que nadie le dijo.

En la segunda sesión, la instrucción es la misma, pero arriba se añaden dos bloques: las políticas reales de la tienda y el historial de ese cliente. La respuesta cambia de categoría entera.

  • Ya no hace promesas exageradas.
  • Identifica que se trata de un defecto de fábrica.
  • Ofrece reemplazo o reembolso sin costos de envío.
  • Indica el plazo correcto.

No se cambió la redacción ni se usó un modelo mejor. Solo se cambió la información disponible antes de responder. Y aquí viene lo peligroso: una respuesta equivocada que parece impecable nadie la revisa.

¿Qué diferencia hay entre un problema de redacción y uno de arquitectura?

Cuando un prompt falla, basta con reformularlo. Pero cuando el contexto falla, tienes que verificar de dónde vino la información y si ya estaba desactualizada o no servía.

Uno es un problema de redacción, el otro es un problema de arquitectura. Confundirlos es la razón por la que muchos siguen ajustando palabras cuando el verdadero fallo está en la información que el modelo tenía enfrente.

Durante el curso se trabaja con Volta Electrónica, una tienda online con operaciones en México, Colombia y Chile. Tiene un asistente de soporte que alguien creó hace ocho meses, esa persona ya no está en la empresa y nadie lo ha tocado desde entonces. Funciona, pero nadie sabe bien por qué.

Esa es la situación real de la mayoría: heredaste una herramienta que alguien configuró y nunca documentó. El plan es abrirla, entender su contexto pedazo a pedazo y diseñar el sistema que la reemplaza, con cuatro agentes trabajando detrás de una sola respuesta que el cliente ve como una conversación normal.

¿Cómo detectar las lagunas de contexto en tu propio trabajo?

El desafío tiene tres pasos concretos que puedes hacer hoy mismo.

  1. Ejecuta el primer prompt en la IA que usas todos los días y anota las tres cosas más importantes que descubras que le faltan.
  2. Elige una tarea real de esta semana en la que la IA te haya dado información inventada que pueda costarte caro: una propuesta con un precio, un correo con una fecha, un informe con una cifra. Ejecútala en una sesión limpia con tu texto habitual y guarda la respuesta.
  3. Ejecútala de nuevo en una sesión limpia, con el texto idéntico, pero colocando al inicio esas tres cosas que faltaban. Compara ambas respuestas.

Después de comparar, deja como resultado la frase: "Yo daba por sentado que sabía..." y comprueba que ese dato no aparece en ningún punto del contexto.

Deja tu frase en los comentarios y vas a ver cuántas personas tienen exactamente la misma laguna que tú.

Conceptos y datos clave de la sesión

Estos son los términos y cifras que vale la pena tener presentes:

  • Ingeniería de contexto [03:40]: estrategias para seleccionar el conjunto óptimo de tokens durante la inferencia; decidir qué entra, de dónde viene y qué se descarta.
  • Ventana de contexto [01:50]: la memoria de trabajo del modelo, equivalente a lo que tienes presente en una reunión, y que se satura.
  • Laguna de contexto [03:20]: información crítica ausente en todas las fuentes que la IA rellena inventando.
  • Reducción del prompt de sistema [04:10]: Anthropic eliminó más del 80 % del prompt del sistema en su herramienta de código para Claude 5.
  • Prompt vs. contexto [06:40]: la diferencia entre un problema de redacción y uno de arquitectura.