Si tus agentes de IA pueden hacer compras millonarias sin control o responder cosas que te meterían en problemas, necesitas entender la seguridad de agentes con NeMo Guardrails. Este tema está pensado para desarrolladores que construyen asistentes de IA y quieren evitar titulares desastrosos como los que circulan sobre agentes que actúan de forma inesperada.

La idea central es simple pero poderosa: poner barreras de protección alrededor de tus agentes para que hagan exactamente lo que deben hacer y nada más. Y aquí viene lo interesante, porque Platzi se alió con NVIDIA para traer este contenido usando herramientas reales de la industria.

Qué es NeMo Guardrails y por qué protege tus agentes

NeMo Guardrails es el kit de NVIDIA para manejar asistentes de IA de forma segura. En palabras del profesor, sirve para controlar agentes como Hermes o como OpenClaw y evitar que tomen acciones peligrosas o no deseadas.

¿Qué es NeMo Guardrails? Es el kit de NVIDIA que te permite poner barreras de seguridad sobre asistentes y agentes de IA, de modo que respondan y actúen dentro de los límites que tú defines.

El riesgo que motiva todo esto es concreto: un agente sin control podría hacer compras millonarias y dejarte en la ruina [0:51]. Esa es la clase de escenario que las barreras de protección buscan prevenir.

Por qué importa la seguridad de agentes hoy

Las noticias sobre fallos de agentes de IA son cada vez más comunes, y esa es justamente la razón de aprender a protegerlos. Un agente conectado a sistemas reales puede comprar, enviar mensajes o ejecutar acciones con consecuencias costosas.

¿Por qué necesito barreras en un agente de IA? Porque un agente autónomo puede ejecutar acciones reales. Sin controles, podría gastar dinero, filtrar información o actuar fuera de lo esperado.

Poner límites claros convierte a un agente impredecible en una herramienta confiable. Esa diferencia es la que separa un proyecto funcional de un titular negativo.

Quién imparte el curso y qué herramientas vas a usar

Tu profesor es Ulises, AI engineer en Platzi [0:30], con más de ocho años de experiencia enseñando matemáticas aplicadas en la Facultad de Ciencias de la UNAM [0:24]. También ha trabajado en proyectos de código abierto como KB Park [0:34].

Durante el aprendizaje vas a trabajar con nombres propios que conviene tener claros desde el inicio:

• NeMo Guardrails, el kit de NVIDIA para seguridad de agentes.
• OpenShell, mencionado como parte del enfoque de seguridad del curso.
• Hermes y OpenClaw, ejemplos de asistentes que se pueden gestionar.

Estos componentes son el punto de partida para construir agentes que hagan solo lo que deben hacer.

¿Qué asistentes puedo controlar con NeMo Guardrails? Según el curso, puedes manejar asistentes como Hermes o como OpenClaw aplicando reglas de seguridad sobre su comportamiento.

El objetivo práctico es directo: evitar que tus agentes generen acciones costosas o riesgosas, empezando por ejemplos tan claros como impedir compras millonarias no autorizadas.

¿Ya tienes un agente en producción que te preocupa? Cuéntame en los comentarios qué tipo de acciones te gustaría limitar primero.