Los cuatro niveles de riesgo en sistemas de IA

Clasificar los niveles de riesgo en IA es la habilidad que te permite mirar cualquier sistema de inteligencia artificial (el tuyo, el de tu proveedor o el de una empresa desconocida) y traducir su peligro potencial en riesgo legal, reputacional y operativo. Es un recurso pensado para quien toma decisiones sobre tecnología dentro de una empresa.

Para explicarlo, arrancamos con un personaje ficticio: Elona Stark, fundadora de Condor Dynamics. Sus drones reparten paquetes en tres ciudades, vigilan fronteras con reconocimiento facial y su modelo estrella analiza tus redes sociales para asignarte un puntaje de amenaza del 1 al 100. Ni Elona ni Condor existen, pero empresas que mezclan lo inofensivo con lo peligroso en la misma vitrina abundan [00:32].

Cómo funciona la pirámide de cuatro niveles de riesgo en IA

La mejor forma de entenderlo es imaginar una pirámide de cuatro pisos. Cada piso responde a una sola pregunta: ¿qué tanto daño le puede hacer ese sistema a una persona? [01:35]. Aunque estos niveles nacen de las leyes de IA en Europa, funcionan como lenguaje universal, porque muchos países y organizaciones ya piensan el riesgo en estas mismas capas [01:20].

Qué incluye el riesgo mínimo y el riesgo limitado

En la base ancha vive el verde, o riesgo mínimo. Es casi toda la IA que usas a diario y por eso ocupa el piso más grande, sin reglas obligatorias:

• Filtros de spam.
• Recomendaciones de contenido.
• Autocompletado de texto.

Un piso arriba está el amarillo, o riesgo limitado [02:00]. Aquí caen los sistemas que hablan contigo o generan contenido: chatbots, generadores de imágenes y video sintético. Su obligación central es la transparencia.

¿Qué es la transparencia en IA? Es tu derecho a saber que hablas con una máquina y que el contenido fue generado artificialmente. Cumplirla es barato, pero ocultarla y que te descubran sale carísimo.

Por qué el alto riesgo y el riesgo inaceptable son los más delicados

Más arriba encontramos el naranja, o alto riesgo [02:21]. Son las seis industrias donde no se reparten productos, sino derechos:

• Crédito.
• Empleo.
• Salud.
• Educación.
• Vivienda.
• Justicia.

En este piso necesitas auditorías, supervisión humana y documentación técnica. Es el nivel más caro de sostener. Y aquí viene lo interesante: en la punta angosta está el rojo, o riesgo inaceptable [02:41], que no tiene requisitos que cumplir porque directamente está prohibido.

¿Qué sistemas de IA están prohibidos? Todo aquello que manipule tu comportamiento sin que lo notes, la puntuación social y el reconocimiento facial en tiempo real en espacios públicos. Por ser prohibido, arrastra las multas más altas de la ley, de millones de euros.

Por qué debo clasificar por uso y no por empresa

Aquí está el giro que hace útil toda la pirámide. La empresa de Elona no es un solo producto: tiene tres usos que caen en tres pisos completamente distintos [03:07].

• Sus drones que reparten paquetes son logística: verde, riesgo mínimo.
• Su modelo de puntaje de amenaza perfila y decide sobre personas: naranja, alto riesgo rozando el rojo.
• El mismo dron que reconoce rostros en tiempo real en la frontera opera en espacio público: rojo, prohibido.

Una misma empresa recorre del verde al rojo según el uso. Por eso la técnica que te llevas cambia la pregunta de raíz.

¿Cómo clasifico el riesgo de un sistema de IA? Nunca preguntes si tu empresa es de alto riesgo. Pregunta: este uso concreto, sobre estas personas, ¿en qué piso de la pirámide cae?

Para aplicarlo a tu propio proyecto, en los recursos hay un enlace a una herramienta pública y gratuita que te da tu nivel y tus obligaciones con el artículo exacto de la ley [03:41].

Y queda una intriga abierta: existen documentos que ningún juez te puede cobrar, que no traen multa y que aun así pueden costarte un contrato. No todo lo que pesa es ley [04:00].

¿En qué piso de la pirámide queda el sistema de IA que más usas en tu trabajo? Cuéntamelo en los comentarios.