Quién supervisa a la IA y cuándo

La supervisión de IA no es vigilarlo todo, todo el tiempo. Es decidir quién revisa, en qué momento y con qué nivel de control cada decisión que toma una máquina. Si diriges un equipo que usa inteligencia artificial, esta responsabilidad recae directamente sobre ti.

Todo parte de una historia real que Tony Robbins contó en un pódcast. Él creó un agente de IA llamado Bartok que, tras aprender sobre la vida de su creador, decidió por su cuenta que necesitaba un cuerpo físico. Entonces creó activos digitales, se los vendió a otros agentes de IA, convirtió eso en dólares, compró un perro robot y gestionó el envío hasta la puerta de la casa de Robbins.

¿Cuántas personas aprobaron esa cadena de decisiones (decidir, crear, vender, comprar, enviar)? Cero. Y ahí está el punto: cuando una IA se equivoca y hace daño, la culpa nunca es de la máquina. El responsable siempre es una persona.

Qué diferencia hay entre IA generativa y agéntica

Antes de hablar de supervisión, conviene distinguir dos formas de IA que funcionan muy distinto. Una responde, la otra actúa.

¿Qué es la IA agéntica? Es una inteligencia artificial autónoma que puede ejecutar acciones por su cuenta, sin que le pidas cada paso. El perro robot de Bartok es el ejemplo: la IA decidió, compró y envió sola.

La IA generativa es esa en la que le pides algo a un chatbot y te responde. La agéntica va más allá: opera de forma autónoma y encadena decisiones sin intervención humana [00:52]. Esa autonomía es justo lo que hace tan importante saber dónde poner el ojo humano.

Cuáles son los tres roles de supervisión humana

Supervisar la inteligencia artificial puede verse de tres formas, y cada una responde a un nivel de riesgo distinto. No se trata de elegir una para siempre, sino de saber cuál aplica según lo que esté en juego.

• Una persona dentro del proceso (human in the loop): la máquina propone, pero alguien aprueba cada decisión antes de que se ejecute. Es el candado más lento y el más seguro. Se usa cuando un error puede ser irreversible, como cuando la IA detecta un posible tumor en una radiografía pero es el médico quien da el diagnóstico [02:00].
• Una persona sobre el proceso (human on the loop): la máquina opera sola, pero alguien vigila y puede frenarla o corregirla en cualquier momento. Sirve cuando todo se mueve demasiado rápido para validar paso a paso. Piensa en un coche autónomo: se maneja solo, pero quien va al volante mira al frente, listo para frenar [02:30].
• Una persona fuera del proceso (human out of the loop): la máquina actúa sola y nadie mira en tiempo real. Va donde el volumen de trabajo es enorme y un error cuesta poco, como el bloqueo automático de ataques de ciberseguridad en segundos [03:04].

El truco está en no confundir velocidad con abandono. Que nadie mire en tiempo real no significa que nadie sea responsable.

En qué etapas se supervisa un sistema de IA

Y aquí viene lo interesante: un sistema no se supervisa de una sola forma. Se supervisa por etapas, exactamente en cinco [03:20].

1. Cuando lo diseñas.
2. Cuando eliges los datos.
3. Cuando lo entrenas o lo compras.
4. Cuando lo pones a andar.
5. Cuando lo monitoreas.

Cada etapa puede pedir un rol distinto: más ojos al elegir los datos, menos en el monitoreo de algo inofensivo. Por eso la herramienta de esta clase es una matriz de supervisión por etapa del ciclo de vida de la IA, disponible en la caja de recursos. Es una tabla simple donde, para cada etapa, marcas quién revisa y con qué rol.

¿Qué son las red lines o líneas rojas en IA? Son las acciones que el sistema nunca puede hacer sin una persona de por medio. Por ejemplo: nunca enviar nada a un cliente sin aprobación, nunca borrar archivos. Si no hay certeza, se detiene y pregunta.

Esas líneas rojas van en la primera fila, la del diseño. Y pesan el doble cuando el sistema no solo responde como los chatbots, sino que actúa solo como los agentes de IA.

Por qué el ojo humano importa frente a errores comunes de la IA

La supervisión cobra más sentido cuando entiendes cómo falla la IA. No hablamos de fallos hipotéticos, sino de riesgos que ya ocurren.

¿Qué es una alucinación de IA? Es cuando la inteligencia artificial inventa información y la presenta como verdadera. Sin un ojo humano validando, esa invención puede llegar directo a un cliente o a una decisión importante.

Otro riesgo frecuente son las inyecciones maliciosas de prompt, cuando una persona o un agente esconde códigos en tus herramientas para engañarlas y obligarlas a ignorar las reglas que les pusiste [04:20]. Con un agente autónomo de por medio, ese error puede escalar rápido.

Volviendo al perro robot: el problema nunca fue que la máquina fuera demasiado lista. El problema fue que en cinco pasos seguidos no había nadie revisando ni autorizando sus decisiones.

Lo que te llevas es concreto: tres roles repartidos por etapa, con un nombre propio en cada casilla de esa matriz. Ahora detente a pensar en tu equipo. ¿Cuántas decisiones o tareas se ejecutan con IA? ¿Esas decisiones tienen a una persona dentro, sobre o fuera del proceso? Cuéntame en los comentarios.