Selección de modelo por escenario de producción

Elegir modelo en GPT-5.6 no se trata de escoger siempre el más potente. Dentro de la misma familia, la configuración de razonamiento mueve más el costo que la identidad del modelo, y un benchmark de 18 ejecuciones mostró un rango de 68x en costo dentro de la misma familia. Si trabajas con LLMs en producción, este marco te ayuda a decidir con criterio y no por intuición.

¿Qué tres ejes debes evaluar antes de elegir un modelo LLM?

Antes de pensar en Sol, Terra o Luna, necesitas claridad sobre qué vas a medir. El precio por token engaña, y aquí viene lo interesante: lo que parece barato en la lista puede salirte carísimo en producción.

• Capacidad: no es un puntaje de benchmark genérico, sino la tasa de resolución de tu tarea específica.
• Latencia: no existen mediciones independientes publicadas de tokens por segundo para ninguno de los tres modelos. Tienes que medirla en tu propio tráfico.
• Costo: parece simple con los precios de lista, pero se deforma por el acantilado de 272,000 tokens, el nivel de esfuerzo de razonamiento, Batch API y caching.

¿Por qué el precio por token no basta para comparar modelos? CodeRabbit descubrió que Terra consume 2.65 veces más tokens que Sol para completar las mismas tareas de coding. Medio precio por token no significa medio precio por problema resuelto.

Es como comparar dos pintores por el costo del litro de pintura cuando uno necesita tres capas y el otro una sola. Lo que importa es el trabajo terminado, no el insumo.

¿Qué modelo conviene según el escenario de producción?

Cada tarea tiene su ganador, y descartar por reflejo no es estrategia. Vamos por los tres casos que aparecen una y otra vez en equipos reales.

¿Cuál es el mejor modelo para generación de código complejo?

Sol gana sin discusión. Resuelve el 63.7% de tareas de producción frente al 40.7% de Terra. Luna produce código inválido en tests independientes, así que queda descartada de entrada.

Si el contexto se mantiene bajo 272,000 tokens, Sol entrega precisión comparable a Claude Fable 5 al 38% del costo por tarea, porque Fable genera el doble de reasoning tokens.

¿Cuál modelo elegir para procesamiento batch de documentos?

Terra es el default defensible. Puntúa apenas 2 o 3 puntos por debajo de Sol, y con Batch API baja a $1.25 de input. Luna solo sirve aquí si los documentos son cortos y la tarea es rutinaria.

¿Por qué Luna falla con documentos largos? Con 41.3% de accuracy en retrieval de contexto largo, Luna no encuentra lo que necesitas en un documento extenso. Sirve para textos breves, no para investigación profunda.

¿Cuál es el mejor LLM para un chatbot de baja latencia?

Luna es la herramienta correcta en sesiones cortas. Duplica los rate limits de Sol y Terra en Tier 5: 30,000 requests por minuto contra 15,000.

Pero si tu chatbot acumula historial largo, Luna olvidará lo que el usuario dijo hace diez turnos. Ahí subes a Terra sin dudarlo.

¿Cuándo descarto Sol y bajo a un modelo más barato?

Hay cuatro preguntas que funcionan como filtro. Si alguna responde que sí, puedes salir de Sol sin perder calidad medible.

1. ¿El workload puede ser asíncrono? Batch API te da 50% de descuento con cualquier modelo.
2. ¿El contexto puede mantenerse bajo 272,000 tokens? Si no, Sol pasa de $5 a $10 de input, exactamente el precio de Fable 5.
3. ¿El prefijo se repite entre requests? Caching te da 90% de descuento en reads.
4. ¿Puedes bajar un nivel de esfuerzo sin perder calidad medible? La guía oficial dice que 5.6 a menudo mantiene calidad un nivel por debajo de lo que necesitaba su predecesor.

La restricción que casi nadie contempla es la infraestructura. Si estás en Tier 1 con 500 requests por minuto, un loop multiagente con cuatro subagentes te deja en 125 tareas lógicas por minuto. La infraestructura te limita antes que el modelo.

¿Qué incertidumbres siguen abiertas en este árbol de decisión?

Este marco es provisional y conviene decirlo con honestidad. Varias ramas llevan etiquetas de duda que necesitan validarse con datos propios.

• No sabemos si el TTL del cache se renueva en cada hit.
• No sabemos si los tokens cacheados cuentan hacia el umbral de 272,000.
• El multiplicador de Ultra mode está disputado entre 2x y 12x.

La pregunta útil casi nunca es qué modelo elegir, sino qué restricción te está frenando realmente: capacidad, latencia, costo o infraestructura. En la próxima entrega sobre reasoning effort, max, Pro Ultra y subagentes vamos a resolver estas incógnitas, y verás cuándo max se justifica con resultados medibles y cuándo Ultra solo dispara costos sin retorno. ¿Qué eje te está costando más medir hoy en tu stack?