Dos años de lecciones de hacer software con LLMs - Juan Pablo Rojas

Contenido del curso

Escenario Expert

Escenario Tekiti

Ignites

Cursos Empresas Blog Live Conf Eventos Precios

0:0020:38

Dos años de lecciones de hacer software con LLMs - Juan Pablo Rojas

Platzi Conf México 2025

Clase 16 de 23

Clase 16 / 23

Recursos

La inteligencia artificial generativa y los Modelos de Lenguaje Large (LLMs) están transformando la forma en que construimos productos digitales. La clave del éxito no radica solo en la implementación técnica, sino en cómo toda la organización abraza y entiende esta tecnología. A través de valiosas lecciones aprendidas en el desarrollo de productos con IA, descubriremos los elementos cruciales para crear soluciones que verdaderamente impacten a miles de usuarios.

¿Cómo evitar los errores comunes al construir productos con LLMs?

El entusiasmo por la nueva tecnología puede llevarnos a implementar IA en lugares donde no es necesaria. Es fundamental identificar dónde la IA realmente aporta valor y no solo utilizarla porque está de moda. Algunos puntos clave a considerar:

Evaluar si el problema realmente requiere una solución basada en IA.
Medir el impacto en la experiencia del usuario antes de implementar.
Asegurarse de que la solución mejora, no complica, el proceso existente.

¿Por qué el Prompt Engineering debe ser una habilidad universal?

La magia ocurre cuando expertos en diferentes dominios y desarrolladores pueden comunicarse efectivamente sobre los procesos de IA. Para lograrlo:

Capacitar a todo el equipo en Prompt Engineering, no solo a los desarrolladores.
Facilitar la colaboración entre expertos en el dominio y técnicos.
Documentar y versionar los prompts como parte crucial de la propiedad intelectual.

¿Cuál es la importancia de la arquitectura en productos de IA?

La arquitectura debe priorizar la capacidad de experimentación rápida:

Permitir la conexión y desconexión ágil de diferentes modelos.
Mantener la flexibilidad para adaptarse a nuevas tecnologías.
Balancear la velocidad de implementación con buenas prácticas de ingeniería.

¿Qué aspectos operativos son cruciales al trabajar con LLMs?

La implementación exitosa de IA va más allá de crear chatbots. Aspectos fundamentales incluyen:

Enfocarse en soluciones donde la IA trabaja en segundo plano.
Mantener un sistema robusto de medición y monitoreo.
Iterar constantemente basándose en datos reales de uso.

¿Cómo manejar la información que se alimenta a los LLMs?

El manejo adecuado de datos es crucial:

Limitar la información proporcionada para reducir alucinaciones.
Estructurar los datos de manera eficiente.
Mantener un balance entre contexto y precisión.

¿Cuál es la mejor estrategia para desarrollar productos con IA?

El éxito en el desarrollo de productos con IA requiere un equilibrio entre velocidad y calidad:

Mantener el foco en resolver problemas reales de usuarios.
Evitar construir herramientas que ya existen en el mercado.
Priorizar la creación de producto sobre el desarrollo de tecnología base.

¿Cómo mantener el equilibrio entre experimentación y calidad?

Para lograr un desarrollo efectivo:

Implementar metodologías ágiles adaptadas a productos de IA.
Mantener buenos estándares de ingeniería incluso en prototipos.
Evaluar constantemente el valor agregado de cada implementación.

Las experiencias compartidas demuestran que la creación exitosa de productos con IA requiere un enfoque holístico que involucre a toda la organización. El verdadero desafío no es técnico, sino lograr que toda la empresa entienda y contribuya al desarrollo de soluciones de IA que generen valor real. ¿Qué experiencias has tenido al desarrollar productos con IA? Comparte tus aprendizajes en los comentarios.

Mateo Montoya Henao

Hace un año

📘 Dos años de lecciones de hacer software con LLMs

(Inspirado en la experiencia de Juan Pablo Rojas)

1️⃣ Expectativas vs. Realidad

Expectativa inicial:
- El LLM “hará todo” y reemplazará gran parte del código.
Realidad:
- Los LLMs son potentes, pero requieren ingeniería de prompts, validación y control de calidad.
- No son plug-and-play: necesitan integración cuidadosa con datos y lógica de negocio.

2️⃣ El valor está en la integración, no solo en el modelo

El modelo es solo una parte del sistema.
El éxito depende de:
- Orquestación (cómo y cuándo llamar al LLM).
- Contexto (datos relevantes y actualizados).
- Post-procesamiento (validar, filtrar, estructurar la salida).

3️⃣ Ingeniería de prompts ≠ magia

Los prompts son código: deben versionarse, probarse y documentarse.
Lección: pequeños cambios en el prompt pueden alterar drásticamente el resultado.
Uso de prompt chaining y plantillas dinámicas para casos complejos.

4️⃣ Evaluar y medir es obligatorio

No basta con “se ve bien”.
Métricas clave:
- Exactitud (accuracy) o relevancia.
- Tasa de error (alucinaciones, incoherencias).
- Tiempo de respuesta.
- Costo por consulta.
Implementar evaluaciones automáticas con datasets de prueba.

5️⃣ Manejo de alucinaciones

Estrategias:
- RAG (Retrieval-Augmented Generation): dar contexto desde una base de datos o buscador.
- Validación cruzada con otras fuentes o modelos.
- Restricciones en el formato de salida (JSON, tablas, etc.).

6️⃣ UX y confianza del usuario

Explicar al usuario qué puede y qué no puede hacer el sistema.
Mostrar fuentes o referencias cuando sea posible.
Permitir feedback para mejorar el modelo y el flujo.

7️⃣ Costos y escalabilidad

LLMs pueden ser caros si no se optimiza:
- Reducir tokens innecesarios.
- Cachear respuestas frecuentes.
- Usar modelos más pequeños para tareas simples.

8️⃣ Equipo y cultura

Se necesita un equipo híbrido:
- Ingenieros de software.
- Especialistas en datos/ML.
- Diseñadores de experiencia conversacional.
Cultura de experimentación rápida y aprendizaje continuo.

💡 Frase clave (estilo Juan Pablo Rojas): “Construir con LLMs no es solo usar un modelo, es diseñar un sistema inteligente que sepa cuándo y cómo usarlo.”

Escenario Expert

Estado de Platzi

Cómo estar en el 10% de la humanidad - Freddy Vega

Cómo entrar a la industria de la robótica Felipe Chávez Cortés

La estructura social post AI Rodolfo Gonzalez + Freddy

De estudiante a fundador, emprendiendo con propósito - Marlene Garayzar

El camino del vibecoder Cvander

El negocio (y el imperio) de los podcastsNicole Chapaval + Paulina Se Regalan Dudas

Entrenamiento del primer modelo de IA fundacional de Latinoamérica

Transformación digital del Real Madrid con tecnología e IA

Cómo la tecnología salvó mi futuro (y puede salvar el tuyo) - Sebastián Filoramo

Escenario Tekiti

Detectando cancer con AI-Julian Rios

La hiper ambición que necesita la era de AI -Paola Santana

Guía técnica para hablar de AI con no-técnicos Silvia Ariza

Datos e IA en el sector primario: agricultura y ganadería - Mar Ariza

From Observation to Action - Rita Hill New Relic

Dos años de lecciones de hacer software con LLMs - Juan Pablo Rojas

Principios para construir agentes cognitivos de AI - Mario Campos Soberanis

Ignites

Cómo combinar tus pasiones- Fisico Gamer

La Ignorancia me cambió la Vida - Francisco Mujica

Cómo Sobreviví a 3 Layoffs en 3 Años- Kevin J. Zea Alvarado

Materiales e Inteligencia Artificial: Revelando un Mundo Oculto - Carlos Rondón

Infraestructura de IA en Latam, la nueva frontera para desarrolladores - Angel Cisneros, CEO de Saptiva

Personalización: personas y código - Diego Halffter

Dos años de lecciones de hacer software con LLMs - Juan Pablo Rojas

Progreso del curso

Escenario Expert

Escenario Tekiti

Ignites

Recursos

Recursos