Dilemas éticos en el uso de IA

Saber usar inteligencia artificial en el día a día profesional es solo la mitad de la ecuación. La otra mitad —y quizá la más compleja— tiene que ver con decidir cuándo conviene usarla y cuándo no. Cada vez que la IA interviene en decisiones que afectan personas, aparecen dilemas que no se resuelven con un manual, sino con criterio, análisis y la capacidad de anticipar consecuencias.

¿Por qué la eficiencia de la IA no basta para justificar su uso?

A medida que se integra la IA al trabajo, surgen situaciones donde la herramienta puede hacer algo de forma eficiente, pero no queda claro si debería hacerlo [0:16]. Algunos ejemplos concretos:

• Decidir si está bien que la IA escriba las evaluaciones de desempeño de un equipo.
• Detectar que una herramienta de reclutamiento parece favorecer ciertos perfiles.
• Definir si deben informar a un cliente que parte del entregable lo generó una IA.

Estas decisiones no tienen una respuesta única. Son escenarios donde personas bien intencionadas pueden llegar a conclusiones diferentes, y eso está bien [0:44]. Lo que importa es tener el criterio para defender la decisión con argumentos.

¿Quiénes son los stakeholders y por qué no siempre están a la vista?

Cuando se enfrentan a una decisión que involucra IA, el primer paso es pensar en todas las personas o grupos afectados: los stakeholders [1:06]. Los más obvios son fáciles de identificar porque están directamente involucrados. Pero los más importantes muchas veces son los que no están a la vista [1:12].

El ejemplo del reclutamiento con IA lo ilustra con claridad [1:17]. Una empresa decide usar IA para filtrar currículos antes de que un humano los revise. Los stakeholders directos son evidentes: candidatos, equipo de recursos humanos y gerentes que van a contratar.

Pero al pensar un poco más allá aparecen otros afectados [1:36]:

• Candidatos que cambiaron de carrera o vienen de universidades menos conocidas, descartados automáticamente por el algoritmo sin que nadie lo note.
• Empleados actuales, porque si se contrata un grupo menos diverso, la dinámica del equipo cambia.
• La reputación de la empresa, ya que si se sabe que un algoritmo rechaza personas sin explicación, el talento deja de interesarse.

La decisión parecía afectar solo al proceso de selección, pero sus efectos llegan mucho más lejos [2:06].

¿Qué son los efectos de primer y segundo orden al usar IA?

Distinguir entre lo que pasa de inmediato y lo que pasa después es una habilidad clave cada vez que se toma una decisión que involucra IA [3:19]. A lo que ocurre de inmediato se le conoce como efectos de primer orden, y a lo que viene después, efectos de segundo orden [2:24].

¿Cómo se ven estos efectos en las evaluaciones de desempeño?

Si usan IA para escribir evaluaciones de desempeño, el efecto de primer orden parece positivo [2:38]: ahorran tiempo, producen evaluaciones consistentes y cumplen plazos sin problema.

Pero los efectos de segundo orden cuentan otra historia [2:52]:

• Si el equipo se entera de que una IA los evaluó, la confianza en el liderazgo se erosiona.
• Si la IA introdujo un sesgo no detectado, las decisiones de promoción o salario basadas en esa evaluación quedan comprometidas.
• Si un empleado siente que su evaluación no refleja su trabajo real, no va a querer reclamarle a una máquina.

¿Por qué los resultados de la IA pueden ser engañosos?

Los efectos de segundo orden no son visibles al principio, por eso hay que buscarlos activamente [3:23]. Lo que hace esto especialmente delicado es que los resultados de la IA siempre se ven bien: profesionales, completos, pulidos. Es muy fácil quedarse en el primer orden, sentirse satisfecho y seguir adelante sin preguntarse qué más puede pasar [3:30].

La regla propuesta es sencilla [3:40]: entre más personas se vean afectadas por una decisión, más tiempo vale la pena dedicarle a pensar en lo que viene después.

¿Cómo poner en práctica el análisis de stakeholders y efectos?

Para aplicar este enfoque, se sugiere un ejercicio concreto [3:50]:

• Listar todos los stakeholders, tanto los directos como los que no están a la vista. Si solo encuentran los obvios, preguntarse: ¿quién más podría verse afectado aunque no esté involucrado directamente?
• Para cada stakeholder, identificar qué les pasa de inmediato y qué podría pasarles después.

Hay una plantilla disponible en la sección de recursos para organizar este análisis [4:24]. Y en la próxima sesión se trabajará con cinco preguntas prácticas para evaluar cualquier uso de IA, especialmente cuando se trabaja con información sensible o datos de otras personas [4:31].

Si ya están usando IA en su trabajo, los invitamos a compartir algún caso donde hayan identificado efectos que no esperaban.