¿Cuándo usar IA generativa y cuándo no? Esa es la pregunta que separa a un buen ingeniero de alguien que mete inteligencia artificial en todo por moda. La respuesta importa para desarrolladores y AI engineers que construyen sistemas en producción y quieren decidir dónde aporta valor y dónde solo suma incertidumbre.
Durante años entrenamos a los computadores para que siguieran instrucciones exactas. Construimos algoritmos, lenguajes y pruebas para no dejar espacio a la improvisación. Luego llegaron los LLMs y les pedimos que improvisaran absolutamente todo: escribe una canción, genera esta imagen, prueba este código. Incluso cuando ya sabíamos exactamente cómo llegar al resultado [00:20].
Por qué conviven la computación tradicional y la IA generativa
Hoy trabajamos con dos paradigmas que no compiten, se complementan. Entender la diferencia es la base de tomar buenas decisiones de ingeniería.
La computación tradicional define exactamente cómo llegar a un resultado. La IA generativa hace algo distinto: le decimos qué necesitamos, le damos contexto y esperamos una respuesta plausible construida a punta de probabilidades [01:20].
- La computación tradicional sirve para calcular, garantizar condiciones y llegar a un resultado exacto.
- La IA generativa sirve para interpretar significado, manejar ambigüedad y generar algo nuevo.
- Ninguna reemplaza a la otra; cada parte de tu sistema necesita una o la otra.
¿Cuándo debo usar IA generativa en un sistema? Úsala solo cuando aporta más valor que la incertidumbre que genera, como interpretar significado o manejar ambigüedad. Para tareas con una respuesta exacta, la computación tradicional es más confiable.
La buena ingeniería consiste en saber qué parte de tu sistema necesita interpretación y qué parte necesita precisión [01:55].
Cuál es el verdadero riesgo de las respuestas de un LLM
Lo que le tememos a un LLM no es la respuesta absurda que se detecta de inmediato. El peligro real es la respuesta casi correcta.
Esa que tiene el formato correcto, que parece verdad, pero está totalmente equivocada. En 2025, una encuesta de Stack Overflow determinó que el 66 % de los desarrolladores estaban frustrados con soluciones casi perfectas [02:25].
¿Por qué son peligrosas las respuestas casi correctas de la IA? Porque tienen el formato correcto y parecen verdaderas, así que pasan desapercibidas. Son más difíciles de detectar que un error evidente y por eso generan más frustración.
Cómo un algoritmo tradicional superó a un prompt en Platzi
Aquí viene el caso concreto. En Platzi había que generar preguntas de examen para más de 25 000 clases usando el transcript de los videos [02:50].
El prompt hacía dos cosas: detectar el idioma del transcript y generar una pregunta basada en lo enseñado. Funcionaba el 85 % de las veces. Suena bien, hasta que haces la cuenta.
- El 15 % de fallos parece poco a primera vista.
- Para 25 000 clases, ese 15 % son alrededor de 3750 clases afectadas.
- Algunas preguntas salían en italiano cuando no debían.
La reacción inicial fue la de cualquier AI engineer: meterle más líneas al prompt. Más reglas, más ejemplos, mayúsculas, hasta amenazas aplicando todas las estrategias de prompt engineering [03:35]. El cortisol subía igual que los reportes de bugs.
Qué cambió al volver a la computación tradicional
La clave llegó con una pregunta simple: ¿qué hacía yo antes de que existiera esto? La respuesta fue volver a un algoritmo tradicional para detectar el idioma.
Con ese cambio la precisión pasó del 85 % al 98 % [04:15]. La detección de idioma tiene una respuesta exacta, así que no necesitaba IA generativa. Era usar un machetazo para cortar una porción de pizza.
Al final, el LLM se quedó con la única tarea para la que realmente ayuda: interpretar el contenido de la clase y generar una pregunta que tuviera sentido [04:35].
Qué preguntas hacerte antes de meter IA en tu sistema
Cada vez que quieras usar IA generativa, conviene separar la tarea según su naturaleza. Ese filtro evita gastar incertidumbre donde no hace falta.
- Detectar el idioma de una clase tiene una sola respuesta correcta: computación tradicional.
- Generar preguntas admite infinitas respuestas válidas: IA generativa.
- Si la tarea es precisa y verificable, no necesitas un modelo probabilístico.
Nos acostumbramos a medir la innovación por la cantidad de IA que agregamos, cuando deberíamos meterla solo cuando aporta más valor que la incertidumbre que genera [05:00]. Usar más IA no te hace mejor AI engineer, pero saber dónde no usarla, sí.
¿Y tú, en qué parte de tu sistema descubriste que la IA generativa sobraba? Cuéntalo en los comentarios.