Siete señales para confiar en una IA ética

¿Cómo saber si una IA merece tu confianza? Existen siete señales que definen si una inteligencia artificial entrega resultados éticos, y aprenderlas te sirve tanto si diriges proyectos con IA como si solo la usas a diario. Ninguna requiere que seas abogado ni desarrollador para aplicarla.

Piensa en Guillermo Ibarrola. En 2019 pasó seis días preso en Buenos Aires por un robo en una ciudad que jamás había pisado. El sistema de reconocimiento facial lo confundió con un homónimo por un dato mal cargado, y nadie cuestionó la alerta. Ese caso resume por qué necesitas un checklist con criterio.

Por qué importa que una IA rinda cuentas y trate a todos por igual

Las dos primeras señales tienen que ver con quién responde y a quién afecta el sistema.

La rendición de cuentas, o accountability [00:34], significa que quienes crean y operan una IA respondan por lo que hace, justifiquen sus decisiones y reparen los daños. La pregunta clave es simple: cuando la IA se equivoca, ¿hay una persona con nombre y apellido que responda?

Air Canada dijo que no. Su asistente virtual dio información falsa sobre tarifas, y cuando el pasajero reclamó su reembolso, la aerolínea alegó que el chatbot era una entidad separada. El tribunal no lo aceptó: no hay diferencia entre lo que publica tu web y lo que dice tu bot, y la obligó a indemnizar.

¿Qué es la rendición de cuentas en IA? Es el principio de que las empresas que crean u operan un sistema de IA respondan por sus errores, expliquen sus decisiones y reparen los daños causados. No pueden culpar al algoritmo.

La segunda señal es la equidad [01:11]: que el sistema no discrimine, sesgue ni favorezca injustamente a personas o grupos. ¿Trata igual a personas parecidas o castiga a unos por su género, origen o código postal?

Workday, uno de los sistemas más usados para filtrar candidatos en Estados Unidos, enfrenta una demanda colectiva porque descartaba automáticamente a personas mayores de 40 años, afroamericanos y con discapacidad. Es la señal más difícil de detectar, y por eso merece una clase completa aparte.

Quién controla la máquina y qué hace con tus datos

Aquí entran el control humano y el manejo de la información personal, dos pilares que suelen ignorarse.

La supervisión humana [01:56] garantiza que las decisiones de un sistema automatizado sigan bajo control de las personas. ¿Alguien puede frenar a la máquina o va sola? En Colombia, aseguradoras de salud usan modelos predictivos para auditar si un medicamento o examen de alto costo se justifica. Sin una persona revisando, una auditoría automática puede negarle a un ciudadano el acceso a un servicio de salud. Frenar a la máquina no es un tecnicismo, es un derecho.

La privacidad [02:29] es el derecho fundamental a mantener el control sobre tus datos personales. La pregunta: ¿qué datos tuyos usa y cuáles no debería usar?

En el último año, Irlanda e Italia frenaron y multaron a empresas de IA por entrenar sus modelos con datos personales sin permiso. Les pasó a los creadores de ChatGPT y de Groq. Y aquí viene lo interesante: si les pasa a los gigantes con auditores mirando, imagina lo que ocurre con las herramientas que nadie audita.

¿Qué significa supervisión humana en inteligencia artificial? Es la garantía de que una persona pueda revisar, frenar o corregir las decisiones de un sistema automatizado antes de que afecten a alguien. La máquina nunca decide sola en asuntos críticos.

Cómo saber si una IA es transparente y explica sus decisiones

Las últimas tres señales apuntan a la honestidad del sistema y a su propósito real.

La explicabilidad [03:00] responde a si la IA puede aclarar el motivo detrás de una decisión. En Brasil, el tribunal que unifica los criterios de la justicia dictaminó que el puntaje de crédito automatizado es legal, pero con una condición: si el consumidor lo pide, la empresa debe explicarle qué datos valoró y de qué fuentes salieron.

La transparencia [03:29] se refiere a la apertura sobre todo el ciclo de vida del sistema:

• El origen de los datos usados.
• Quién construyó el modelo y cómo se entrenó.
• Bajo qué regulaciones opera.

Buenos Aires lo aprendió por la vía difícil. Su sistema de reconocimiento facial fue suspendido por la justicia cuando se descubrió que consultaba datos biométricos de personas que nadie buscaba, y que los órganos de control exigidos por la ley nunca funcionaron.

La séptima señal es la orientación a las personas [04:07]: que el diseño y uso de la tecnología prioricen el bienestar, la dignidad y los derechos humanos por encima de la pura automatización. ¿Esta IA existe para servir a la gente o la gente terminó al servicio de la IA?

¿Qué es la explicabilidad en IA? Es la capacidad de un sistema para justificar cómo llegó a una decisión, por ejemplo negar un crédito, indicando qué datos usó y de dónde salieron. Si no puede explicarlo, no deberías confiar en el resultado.

Ahí regresamos a Guillermo Ibarrola. El dato estaba mal cargado, buscaban a otro con su mismo nombre, y nadie cuestionó la alerta ni al detenerlo, ni al día siguiente, ni al quinto día. Seis días preso por fallar en varias de estas señales a la vez.

Ahora tienes el checklist: siete preguntas con criterio para poner a prueba cualquier proyecto con IA. Cuéntame en los comentarios cuántas de las siete señales pasarían si evaluaras uno de tus proyectos. ¿Cuál crees que más se descuida en tu industria?