Cómo integrar modelos de Groq con Model Garden

¿Quieres usar modelos externos como Groq o Anthropic en tus agentes sin depender solo de Gemini? Con Model Garden de Google Cloud puedes integrar modelos de socios directamente en tus agentes, costeando el consumo a través de tu propio billing y sin gestionar APIs externas. Esto es clave si trabajas con Google Agent Platform y buscas flexibilidad de modelos.

Qué es Model Garden y por qué te da libertad de modelos

Hasta ahora quizás solo habías trabajado con los modelos nativos de Google Cloud, pero no tienes por qué quedarte ahí. Model Garden es el catálogo de Google Cloud que reúne una gran variedad de modelos listos para usar dentro de tus agentes, incluyendo opciones de terceros.

En la consola encuentras la sección de modelos de socios, y aquí viene lo interesante: puedes elegir entre proveedores como Anthropic, Llama, Mistral, Groq y varios más, todos disponibles sin salir del ecosistema de Google [01:03].

¿Qué es Model Garden? Es el catálogo de modelos de Google Cloud donde encuentras opciones nativas y de socios (Anthropic, Llama, Mistral, Groq) para integrarlas directamente en tus agentes desde la consola.

La gran ventaja está en el costo. Al usar estos modelos desde Model Garden, tu billing de Google Cloud es quien costea el API de cada modelo, así que no necesitas registrar cuentas ni API keys en cada plataforma externa [01:22].

Cómo cambiar el modelo de un subagente a Groq

El ejemplo práctico modifica el subagente de pedidos, que venía usando Gemini 3.5, para que responda ahora con un modelo de Groq en su versión 4.1 [01:44].

Para acceder al modelo entras a la consola de Google Cloud, sección Plataforma de agentes, luego Modelos y finalmente Model Garden [00:50]. Al seleccionar el modelo de Groq, la interfaz te entrega un identificador y un nombre de versión que usarás en tu código [01:53].

Qué pasos sigues en el código

La integración se apoya en Lite LLM, la librería que permite conectar modelos que no son de Google. Estos son los pasos concretos:

1. Borra el modelo actual y define el modelo como tipo LiteLLM.
2. Dentro del paréntesis, escribe entre comillas vertex_ai, el texto que siempre agregas al usar modelos desde la consola de Google Cloud.
3. Pega al final el nombre de la versión copiado desde Model Garden.
4. Importa la librería con from google.adk.models.lite_llm import LiteLLM.
5. Agrega la variable vertex_location con la ubicación de tu modelo, en este caso global [02:39].

Un detalle que no debes pasar por alto: diferentes modelos de Model Garden pueden estar disponibles en distintas regiones, así que revisa siempre este valor en la documentación de la consola antes de desplegar [02:47].

¿Para qué sirve Lite LLM en la ADK? Es la librería de Python que te permite usar modelos distintos a los de Google dentro de tus agentes, ya sea desde Vertex AI o mediante API keys externas.

Qué necesitas para desplegar el modelo externo

Antes de desplegar, hay un ajuste extra en las dependencias. Debes agregar en el requirements un nuevo import llamado google.adk.extensions, que es justamente el que habilita el uso de modelos que no son de Google pero se despliegan sobre Google Agent Platform [03:09].

Luego guardas el fichero y ejecutas de nuevo la instalación:

bash pip install -r requirements.txt

Con la librería instalada, vuelves a desplegar el agente. Al terminar, verifica en la consola de Google Cloud que exista una nueva revisión desplegada recibiendo todo el tráfico [03:44].

La prueba final es directa: entra a tu Cloud Run, actualiza y haz una pregunta que responda el subagente de pedidos. Si ves que el agente te solicita el número de pedido, ya es el modelo de Groq quien genera la respuesta [03:57].

¿Necesito API keys externas para usar Groq o Anthropic en Model Garden? No. Al usarlos desde Model Garden, el consumo se cobra a tu billing de Google Cloud y no requieres API keys de cada plataforma.

Qué hacer si aparece una cuota en cero

Hay un obstáculo frecuente según la antigüedad de tu cuenta. Dependiendo de si usas una cuenta de Gmail o corporativa, la cuota del proyecto puede aparecer con un gap de cero, algo que suele pasar sobre todo con los modelos de Anthropic [04:22].

Si te ocurre, tienes dos caminos claros:

• Para pruebas rápidas, usa otro tipo de modelo disponible.
• Para uso productivo con Anthropic, envía una solicitud a Google para aumento de cuota, un trámite que se hace sobre el proyecto y depende de la antigüedad de tu cuenta [04:38].

La flexibilidad que ganas es enorme: puedes probar distintos proveedores sin reescribir la lógica de tu agente, solo cambiando el modelo y su ubicación. ¿Qué modelo lograste integrar en tu subagente? Cuéntamelo en los comentarios y sigamos con la gestión de memoria, donde tu agente empezará a recordar conversaciones pasadas.