No tienes acceso a esta clase

¡Continúa aprendiendo! Únete y comienza a potenciar tu carrera

¿Cómo fijar expectativas comunes y mantener la objetividad?

6/12
Recursos

¿Cuándo debemos detener un experimento?

Al diseñar experimentos dentro de un contexto empresarial, la toma de decisiones puede resultar un desafío complicado de navegar. Mientras que experimentamos y buscamos resultados, a menudo nos encontramos atrapados en la disyuntiva de hasta cuándo seguir adelante. La respuesta depende en gran medida del proceso y de un enfoque metódico hacia la experimentación.

  • Iteración contínua: Podemos encontrarnos con una cantidad infinita de experimentos corriendo simultáneamente, cada uno de ellos potencialmente aportando nuevos aprendizajes. Sin embargo, es crucial saber cuándo detener uno de estos experimentos.
  • Frameworks de decisión: Existen marcos establecidos para ayudar a decidir cuándo es el momento adecuado para soltar un experimento. Una solución valiosa es designar talento específicamente para la experimentación, lo cual ayuda a mirar las hipótesis con objetividad.

La intervención de un árbitro que no esté directamente involucrado en el proceso es vital. Cuando una hipótesis ha sido rechazado reiteradamente en varios experimentos, podría ser tiempo de cambiar de rumbo.

¿Cómo evitar sesgos en el proceso experimental?

Evitar sesgos en la experimentación empresarial es crucial, especialmente cuando un mismo equipo es juez y parte. Un sesgo común es el cherry picking metrics, es decir, presentar solo las métricas que favorecen los resultados esperados.

  • Reglas predefinidas: Para mantener un proceso de experimentación confiable, es esencial definir con claridad las reglas del juego antes de iniciar una prueba. Esto asegura que las decisiones posteriores no estén influenciadas por resultados a corto plazo.
  • Describir las acciones a seguir: Antes de lanzar un experimento, es útil acordar con el equipo las acciones que se tomarán en función de diferentes resultados posibles. Por ejemplo, un resultado favorable podría llevar a la implementación de una solución. En cambio, un resultado desfavorable podría significar iterar nuevamente o abandonar la hipótesis.

Estableciendo estas reglas ante mano, aumenta la transparencia y la objetividad en el análisis de los resultados, evitando así decisiones sesgadas.

¿Cómo manejar los conflictos de interés en experimentación?

En equipos donde se exige tanto resultados de negocio como la ejecución de experimentos, se puede ser susceptible a conflictos de interés. Estos equipos deben navegar cuidadosamente para garantizar que su análisis es objetivo.

  • Equipos expertos en experimentación: Si se cuenta con estos, los posibles sesgos disminuyen porque actúan como árbitros, eliminando pruebas defectuosas antes de llegar a conclusiones erróneas.
  • Narrativas positivas: Exitos y fracasos deberían ser comunicados de forma constructiva. Por ejemplo, un resultado negativo en una prueba podría presentarse como una evitación de riesgo potencial, mostrando cómo se evitó un posible decrecimiento del negocio gracias al experimento ejecutado.

En lugar de considerarlo como un fracaso, se transforma la narrativa hacia una posición de aprendizaje y optimización. Siempre recuerda: los datos son imparciales y deben ser tratados con la máxima integridad.

¿Cómo se efectúa una comunicación efectiva de resultados?

La comunicación del resultado de un experimento es clave para la aceptación y la continuidad de los procesos dentro del equipo y la organización. Aquí es fundamental adoptar un enfoque humano y estratégico.

  • Preregistro de acciones: Naturaliza los resultados al establecer los planes posteriores antes de realizar las pruebas, y recuérdalos al momento de comunicar los resultados. Este enfoque previene que los resultados parezcan negativos cuando, de hecho, se ha aprendido y optimizado el proceso.
  • Habilidades de comunicación: Los líderes de experimentación deben aplicar habilidades psicológicas y de comunicación efectiva para presentar resultados de forma constructiva. Replantear un hallazgo no esperado como un "ahorro de riesgos" en lugar de una "pérdida" crea una percepción positiva y fomenta la recepción abierta de las conclusiones.

A través de estas prácticas, buscando siempre una actitud de aprendizaje continuo, se minimizan los conflictos internos y se potencia el valor de los experimentos realizados.

Aportes 6

Preguntas 0

Ordenar por:

¿Quieres ver más aportes, preguntas y respuestas de la comunidad?

06 ¿Cómo fijar expectativas comunes y mantener la objetividad?

Toma de Decisiones en Experimentación

  • En la experimentación, es importante determinar cuándo soltar una hipótesis.
  • La obsesión con la ejecución debe evitarse a favor de centrarse en el proceso.
  • Mantener experimentos constantes puede proporcionar valiosos aprendizajes.
  • Un framework puede ayudar a decidir cuándo abandonar una hipótesis.

Equipo de Experimentación

  • Evitar conflictos de interés es fundamental en equipos de experimentación.
  • Cherry picking metrics y mostrar solo resultados convenientes deben evitarse.
  • Establecer reglas de juego antes de la prueba mejora la objetividad.

Previniendo Sesgos

  • Contar tanto los éxitos como los fracasos puede ayudar a evitar sesgos.
  • El preregistro y la comunicación clara de planes posteriores a la prueba son efectivos.
  • La psicología y habilidades blandas son esenciales para una comunicación efectiva.
  • Lenguaje alternativo puede ser útil para presentar resultados negativos.

Conclusiones

  • La experimentación exitosa requiere un equilibrio entre resultados y aprendizajes.
  • Los datos deben manejarse con integridad y no modificarse para encajar narrativas.
  • Mantener criterios de análisis sólidos y objetividad es crucial en experimentación.

Gracias

En varios vídeos han mencionado los recursos, links, etc. Pero en ninguna clase he visto los recursos que iban a dejar. Esto está super bueno, y esos recursos ya hacen falta. Frustra.
¿Dónde están los recursos?
Fijar expectativas comunes y mantener la objetividad en el contexto de pruebas A/B es esencial para obtener resultados fiables y tomar decisiones informadas. Evitar la selección sesgada de métricas, conocida como "cherry picking metrics" o elegir selectivamente métricas que respaldan una narrativa específica, es fundamental. Aquí hay algunas prácticas recomendadas para fijar expectativas comunes y mantener la objetividad en el proceso de A/B testing: ### 1. **Definir Objetivos Claros:** * Antes de comenzar la prueba, asegúrate de tener objetivos claramente definidos. Estos objetivos deben ser específicos, medibles y alineados con los resultados comerciales que estás buscando. ### 2. **Seleccionar Métricas Principales:** * Identifica las métricas clave que son relevantes para tus objetivos. Estas métricas deben reflejar directamente el impacto en el éxito del experimento y ser consistentes con los objetivos comerciales. ### 3. **Establecer Hipótesis Previa:** * Formula hipótesis claras antes de comenzar la prueba. Estas hipótesis deben estar basadas en una comprensión sólida de tus usuarios y del problema que estás tratando de resolver. ### 4. **Evitar Métricas Aisladas:** * Evita depender en exceso de una única métrica para tomar decisiones. Considera un conjunto de métricas que ofrezcan una visión completa de los resultados. ### 5. **Segmentación de Datos:** * Realiza análisis de segmentación para comprender cómo diferentes grupos de usuarios pueden responder de manera diferente. Esto puede revelar patrones que podrían no ser evidentes al observar los datos de manera agregada. ### 6. **Periodo de Observación Suficiente:** * Asegúrate de observar los resultados a lo largo del tiempo suficiente para capturar variaciones naturales y asegurar que los efectos observados sean consistentes. ### 7. **Revisión en Profundidad:** * Al analizar los resultados, realiza una revisión en profundidad de todas las métricas relevantes. No te centres exclusivamente en las métricas que respaldan una narrativa específica. ### 8. **Involucrar a Diversos Stakeholders:** * Involucra a personas de diferentes áreas (marketing, desarrollo, diseño, etc.) en la interpretación de resultados. Esto puede ayudar a mitigar sesgos y ofrecer perspectivas variadas. ### 9. **Comunicar Resultados de Manera Transparente:** * Comunica los resultados de manera clara y transparente, resaltando tanto los aspectos positivos como los negativos. Esto ayuda a mantener la confianza y la objetividad en el proceso. ### 10. **Revisión Posterior:** * Realiza revisiones posteriores a las pruebas para evaluar el impacto real de los cambios implementados en métricas comerciales a largo plazo. Al seguir estas prácticas, puedes establecer un entorno donde las expectativas sean claras, se evite el sesgo en la interpretación de métricas y se fomente la toma de decisiones objetiva basada en datos sólidos.

“Cherry picking metrics” se refiere a la práctica de seleccionar selectivamente métricas o datos que respalden una narrativa o conclusión particular mientras se omite o ignora información que no se ajuste a esa narrativa.

Consiste en elegir deliberadamente ciertas métricas o datos para presentar una imagen positiva o conveniente de los resultados de un experimento o estudio

Esta práctica puede conducir a sesgos y a una comprensión incompleta o distorsionada de la realidad. En el contexto de la experimentación, se enfatiza la importancia de evitar el cherry picking metrics para mantener la objetividad y la transparencia en la comunicación de resultados.