Juliana Castillo
Team PlatziAme este caso de estudio 👩💻
Diseñar un dispositivo de salud mental que acompañe a las personas las veinticuatro horas suena prometedor, pero sin una revisión rigurosa de los sesgos que pueden colarse en su desarrollo, el producto podría ser impreciso e inequitativo. El caso de Sanamente ilustra cómo dimensionar un mercado, estructurar una propuesta de valor y, sobre todo, cómo anticipar errores antes del lanzamiento.
¿Cómo se estima el mercado de un dispositivo de salud mental en Latinoamérica?
El punto de partida es construir un embudo de hipótesis [0:26] que filtre progresivamente la población hasta llegar a los clientes potenciales reales. Los datos arrancan con una cifra contundente: según la OMS, una de cada cuatro personas experimenta algún problema de salud mental.
Este embudo demuestra que, incluso con criterios conservadores, la oportunidad comercial es relevante. Sin embargo, la cifra solo tiene valor si el producto funciona con precisión.
¿Qué implica el enfoque estructurado de qué, cómo y para qué?
Antes de construir, conviene responder tres preguntas [1:46]. El qué se refiere al acompañamiento psicológico permanente adaptado a cada usuario. El cómo involucra la identificación de datos relevantes —historial de sueño, actividad en redes sociales, análisis de voz— junto con un sistema de retroalimentación personalizada que ofrezca consejos y estrategias ajustadas. El para qué persigue tres metas: satisfacer una necesidad validada, ser pioneros (first movers) y mejorar la vida de millones de personas.
¿Cuáles son los cuatro sesgos que debemos evitar al diseñar el producto?
Identificar sesgos antes del lanzamiento es tan importante como la funcionalidad técnica. Existen cuatro tipos de sesgo que pueden comprometer la calidad y la equidad de Sanamente [3:12].
¿Qué es el sesgo de confirmación y cómo se previene?
El sesgo de confirmación [3:26] aparece cuando el algoritmo afirma que existen más casos de trastorno de los que realmente hay. Es un error habitual: queremos que el sistema detecte mucho, pero debemos garantizar que los casos sean reales. Para evitarlo se recomienda:
El sesgo de disponibilidad [4:35] se manifiesta al sobreestimar ciertos tipos de trastorno, como el depresivo. Se combate aplicando técnicas de ponderación: contar cuántas veces sucede cada evento y no sumar un diagnóstico si solo ocurrió una vez. Crear simulaciones y calcular los falsos positivos y falsos negativos permite medir si el sesgo persiste.
¿En qué consisten el sesgo de anclaje y el sesgo de grupo?
El sesgo de anclaje [5:26] ocurre cuando se le asigna repetidamente el mismo trastorno a una persona sin dar espacio a que su perfil cambie. Una persona diagnosticada con ansiedad podría mejorar o desarrollar una condición distinta. La solución es implementar evaluaciones continuas del perfil, monitorear la evolución e incluso permitir que el propio usuario reporte cambios en sus síntomas. La satisfacción del cliente con las recomendaciones recibidas sirve como indicador de éxito.
El sesgo de grupo [6:26] es el más frecuente en equipos de desarrollo tecnológico. Si un equipo está compuesto exclusivamente por personas del mismo género, edad o país, la solución resultante reflejará una perspectiva limitada. Para evitarlo:
Cada uno de estos sesgos tiene un impacto directo en la precisión y la equidad del producto final. Pensar en ejemplos concretos de cómo se manifiestan en un dispositivo como Sanamente es un ejercicio valioso antes de pasar al diseño técnico. ¿Se te ocurre algún caso donde hayas visto estos sesgos en productos tecnológicos?
Le puse el siguiente prompt a ChatGPT: "Necesito que me respondas cómo un especialista en implementar soluciones basadas en datos. En este momento estoy formando un equipo de trabajo y tengo que comenzar a tomar decisiones que pueden estar influenciadas por sesgos ¿Cuáles son los principales sesgos que me pueden influenciar y cómo puedo evitar caer en ellos de forma negativa?"
La respuesta que me dio me voló la cabeza: "Al formar un equipo de trabajo y tomar decisiones estratégicas, es crucial estar consciente de los sesgos cognitivos que pueden influir negativamente en tu juicio. A continuación, te detallo algunos de los principales sesgos y estrategias para mitigarlos:
Principales Sesgos Cognitivos
Estrategias Generales para Evitar Sesgos
Implementar estas estrategias no solo te ayudará a tomar decisiones más justas y efectivas, sino que también fomentará un entorno de trabajo más inclusivo y diverso, lo cual es esencial para la innovación y el éxito a largo plazo."
Estrategias para prevenir sesgos cognitivos en el desarrollo de Sanamente
Introducción
En este documento se presentan estrategias para prevenir sesgos cognitivos en el desarrollo de Sanamente, un dispositivo de salud mental que acompaña al cliente las 24 horas. Se identifican cuatro tipos de sesgos comunes: sesgo de confirmación, sesgo de disponibilidad, sesgo de anclaje y sesgo de grupo. Se proponen medidas para identificar y evitar cada tipo de sesgo, asegurando un producto preciso, equitativo y efectivo.
1. Análisis del mercado y potencial de Sanamente
2. Enfoque estructurado para el desarrollo de Sanamente
2.1 El qué: Acompañamiento psicológico permanente
2.2 El cómo: Identificación de datos relevantes
2.3 El para qué: Satisfacer necesidades y mejorar vidas
3. Identificación y prevención de sesgos cognitivos
3.1 Sesgo de confirmación
3.2 Sesgo de disponibilidad
3.3 Sesgo de anclaje
3.4 Sesgo de grupo
4. Reto: Identificar ejemplos de sesgos en Sanamente
Se invita al lector a reflexionar sobre ejemplos concretos de los cuatro tipos de sesgos mencionados en el contexto del desarrollo de Sanamente. Este ejercicio permitirá identificar potenciales riesgos y desarrollar estrategias adicionales para prevenir sesgos y garantizar un producto ético y efectivo.
Conclusión
La implementación de las estrategias presentadas en este documento contribuirá a prevenir sesgos cognitivos en el desarrollo de Sanamente, asegurando un producto preciso, equitativo y efectivo que cumpla con su objetivo de mejorar la salud mental de millones
Juliana Castillo
Team PlatziAme este caso de estudio 👩💻
Luis Alvarez
Ejemplos de sesgos cognitivos en el desarrollo de Sanamente
A continuación, se presentan cuatro ejemplos de sesgos cognitivos que podrían surgir durante el desarrollo de Sanamente, junto con estrategias para identificarlos y mitigarlos:
1. Sesgo de confirmación:
Ejemplo: El equipo de desarrollo de Sanamente está sesgado hacia la idea de que la ansiedad es el principal problema de salud mental en Latinoamérica. Como resultado, el algoritmo del dispositivo está diseñado para identificar principalmente casos de ansiedad, ignorando o subestimando otros trastornos mentales comunes.
Estrategia de identificación: Revisar los datos utilizados para entrenar el algoritmo y asegurarse de que representen una muestra diversa de la población objetivo en términos de tipos de trastornos mentales.
Estrategia de mitigación: Implementar técnicas de "ensamblaje" que combinen las predicciones de diferentes algoritmos entrenados con distintos conjuntos de datos, reduciendo la dependencia de un único modelo sesgado.
2. Sesgo de disponibilidad:
Ejemplo: Sanamente se basa en el análisis de publicaciones en redes sociales para identificar signos de depresión. Sin embargo, las personas con depresión pueden ser menos propensas a publicar en redes sociales, lo que lleva a una subestimación de la prevalencia de la enfermedad.
Estrategia de identificación: Comparar los datos de las redes sociales con otras fuentes de información, como registros médicos o encuestas de salud mental, para identificar posibles discrepancias.
Estrategia de mitigación: Implementar técnicas de "muestreo aleatorio" para garantizar que el algoritmo no se base únicamente en datos fácilmente disponibles, sino que también considere a usuarios menos activos en redes sociales.
3. Sesgo de anclaje:
Ejemplo: La primera vez que un usuario interactúa con Sanamente, el dispositivo le presenta una evaluación inicial que lo clasifica como "ansioso". A partir de entonces, todas las recomendaciones y sugerencias del dispositivo se basan en esta clasificación inicial, dificultando la adaptación a los cambios en el estado mental del usuario.
Estrategia de identificación: Realizar evaluaciones periódicas del perfil del usuario y actualizar las recomendaciones en consecuencia, evitando que el dispositivo se "ancle" a una clasificación inicial.
Estrategia de mitigación: Brindar al usuario la posibilidad de modificar manualmente su clasificación y proporcionar retroalimentación sobre la precisión de las evaluaciones del dispositivo.
4. Sesgo de grupo:
Ejemplo: El equipo de desarrollo de Sanamente está compuesto principalmente por personas jóvenes y urbanas, con poca experiencia en salud mental. Como resultado, el dispositivo puede no ser adecuado para las necesidades de usuarios de diferentes grupos demográficos, como personas mayores o residentes en zonas rurales.
Estrategia de identificación: Realizar pruebas de usuario con grupos diversos en términos de edad, ubicación, género y experiencia con problemas de salud mental.
Estrategia de mitigación: Incorporar al equipo de desarrollo a personas con diferentes perfiles y experiencias, asegurando una perspectiva más amplia y representativa en el diseño del producto.
Conclusión
La identificación y mitigación de sesgos cognitivos en el desarrollo de Sanamente es crucial para garantizar que el dispositivo sea preciso, equitativo y efectivo en su objetivo de mejorar la salud mental de las personas. Al implementar las estrategias mencionadas en este documento, el equipo de desarrollo puede crear un producto que realmente responda a las necesidades de la población objetivo y tenga un impacto positivo en la sociedad.
JUAN MIGUEL VALVERDE GALVEZ
Es determinante buscar información objetiva de diversas fuentes, desarrollar habilidades de pensamiento crítico para evaluar la información de imparcialmente, y encontrar la retroalimentación de otras personas para contrarrestar los sesgos individuales.
David Felipe Patiño Ruiz
Confirmación:
Arimar tener más casos de los que realmente tenemos sólo para tener más resultados, se soluciona estudiando datos más diversos o buscar más fuentes de datos.
Disponibilidad:
Cuando identifico tener más casos de lo normal. Se soluciona teniendo técnicas de ponderación, creando simulaciones.
Anclaje:
Se repite en la misma persona, se soluciona haciendo evaluaciones constantes del perfil de la persona, haciendo seguimientos de satisfacción.
Grupo:
Puede ser el grupo de desarrollo o el grupo de público objetivo, se soluciona teniendo diversidad en los dos, garantizando diversidad en los dos grupos.
Luis Cabezas
En la clase sobre toma de decisiones, se abordaron distintos tipos de sesgos cognitivos que pueden influir negativamente durante el desarrollo de un proyecto. Entre los más destacados se encuentran:
Cada uno de estos sesgos puede afectar tanto la calidad del trabajo como el bienestar emocional y la ética profesional de quienes participan en el proyecto. Por ello, es fundamental reconocerlos y gestionarlos de forma consciente, especialmente al diseñar nuevas tecnologías o al tomar decisiones estratégicas. La clave está en implementar prácticas que fomenten el pensamiento crítico, la diversidad de puntos de vista y la revisión objetiva de la información.
Eduardo Ruiz
4 Sesgos cognitivos:
Jhon Freyman Ramírez Cortés
¿Cuándo debo diversificar mi equipo de desarrollo?
Debes hacerlo desde el día cero, antes de escribir la primera línea de código. El sesgo de grupo es el equivalente a diseñar un coche deportivo usando únicamente la opinión de pilotos de carreras; el resultado será increíble para ellos, pero imposible de manejar para una familia promedio. Si tu equipo está compuesto solo por personas de la misma edad, género y país, el producto heredará sus puntos ciegos culturales y cognitivos. Para construir tecnología verdaderamente global y empática, necesitas fricción creativa. Integra perfiles heterogéneos: distintas generaciones, diferentes nacionalidades y contextos socioeconómicos. Esta diversidad actúa como un filtro de calidad natural. Lo que a un desarrollador le parece una notificación amigable, a otro de distinta cultura le puede resultar invasiva. Un equipo diverso garantiza que el producto final sea equitativo y útil para el mercado real.
Jose Ricardo Dueñas Suarez
Qué es el sesgo en tecnología?
El sesgo ocurre cuando un sistema tecnológico produce resultados injustos o desbalanceados debido a:
🛠️ Estrategias para Prevenir Sesgos
🧩 Ejemplos de Sesgos en Tecnología
📌 Herramientas útiles
Juan Carlos Rosero Villamizar
La prevención de sesgos en el diseño de tecnología de salud mental es crucial para asegurar que los productos sean precisos, equitativos y útiles. Los sesgos pueden llevar a diagnósticos erróneos, sobreestimación de trastornos y exclusión de ciertos grupos. Al diseñar con un enfoque inclusivo y diverso, se mejora la efectividad del dispositivo y se garantiza que realmente responda a las necesidades del usuario. Esto no solo es ético, sino que también maximiza el impacto positivo de la tecnología en la vida de las personas con problemas de salud mental.
Jesús David Fontalvo Mendoza
Comentario sobre las Cifras de Mercado de "Sanamente"
La proyección de "Sanamente" de un mercado potencial de 8.4 millones de individuos y $40 millones en ingresos se basa en una población inicial de 168 millones de habitantes en Latinoamérica.
Es crucial entender que estos 168 millones NO representan la población total de América Latina, la cual se estima en unos 668 millones. La cifra de Sanamente probablemente se refiere a un subconjunto específico de países (ej. los más grandes de habla hispana como México y Colombia) o a un segmento demográfico particular dentro de la región.
Si aplicáramos los mismos porcentajes de "Sanamente" (25% con problemas de salud mental, 20% con poder adquisitivo, 6% de conversión) a la población total de 668 millones, el mercado potencial se dispararía a 33.4 millones de individuos, generando ingresos potenciales de más de $160 millones.
Esto subraya la importancia de validar siempre la base poblacional en los análisis de mercado y entender qué nicho específico se está considerando, ya que la diferencia en las proyecciones puede ser inmensa.
Yenifer Briceño
Sesgo de Disponibilidad
Ejemplo: Los usuarios podrían sobreestimar la relevancia de un problema o evento reciente (por ejemplo, una noche de insomnio) en lugar de considerar un patrón general de comportamiento. Si un usuario tuvo una noche particularmente mala, podría interpretarlo como un indicador de un problema grave sin considerar el resto de las noches.
Solución: Presentar información a largo plazo con gráficos y tendencias, en lugar de enfocarse en eventos aislados. Mostrar datos históricos ayudará a los usuarios a comprender mejor los patrones de su salud mental, minimizando la influencia de eventos recientes o puntuales en la interpretación de su estado de salud.
Alba Gabriela Garay Romero
Importante considerar los 4 sesgos posibles en el diseño de productos/servicios:
Los sesgos disminuyen al incluir mas fuentes de datos entre otras estrategias.
Hernán Andrés Orozco
El embudo de hipótesis para clientes potenciales es un proceso estructurado que ayuda a las empresas a generar, probar y refinar hipótesis sobre los clientes potenciales, con el objetivo de mejorar la conversión y la retención. Este embudo guía a las organizaciones a través de varias etapas, desde la generación inicial de hipótesis hasta la implementación de estrategias basadas en los hallazgos validados.
Jhon Alexander Mosquera Vanegas
El embudo de Sanamente pasa de 168 millones de habitantes a 504.000 usuarios con tres supuestos encadenados: 25 % con algún problema de salud mental, 20 % con poder adquisitivo y 6 % de conversión. Como los porcentajes se multiplican, un error en el 20 % mueve todo el ingreso estimado de 40 millones de dólares. Para un analista en Latinoamérica ese porcentaje es el más frágil, porque el ingreso cambia mucho entre países y ciudades. Por ejemplo, un caso típico es reemplazarlo por datos de una encuesta de hogares y tratar el 20 % como escenario, no como dato.
Martha Franco Rincón
Se hace relevante tener en cuenta y presente los diferentes tipos de sesgos que existen y llevar a buen "puerto" nuestros proyectos.
José Eder Guzmán Mendoza
El desarrollo de tecnologías aplicadas a la salud mental exige evaluar no solo su viabilidad comercial y técnica, sino también los sesgos que pueden afectar la precisión y equidad de sus resultados. El caso de Sanamente muestra cómo un dispositivo puede partir de una necesidad concreta, definir su mercado potencial y estructurar su propuesta mediante las preguntas qué, cómo y para qué.
Entre los principales riesgos aparecen los sesgos de confirmación, disponibilidad, anclaje y grupo. Estos pueden provocar sobrediagnósticos, interpretaciones incorrectas, perfiles que no se actualizan o soluciones diseñadas desde perspectivas demasiado homogéneas.
Para reducirlos es necesario utilizar datos diversos, realizar pruebas con diferentes grupos, medir falsos positivos y negativos, actualizar continuamente los perfiles de los usuarios y conformar equipos de desarrollo heterogéneos.
En proyectos sensibles como los relacionados con salud mental, prevenir sesgos no es un ajuste posterior: debe formar parte del diseño, la validación y la evaluación continua de la tecnología.
José Mauricio Escobar Rodríguez
"La tecnología no es neutra. Un algoritmo de salud mental puede salvar vidas o destruirlas. La diferencia no está en el código, sino en la conciencia de quienes lo escriben. Sanamente no debe ser solo preciso; debe ser justo."
Ivonne Antonieta Andrade Hernández
Creo que el sesgo ancláje, es uno común, pensamos que la actitud del cliente siempre es la misma sin antes evaluar o investigar