Sesgo y Varianza en Ciencia de Datos: Precisión y Exactitud

Contenido del curso

Teoría

Simulación

Proyecto

Conclusiones

37
Programación Dinámica y Estocástica en Simulación
00:35 min

Tomar examen

Cursos Empresas Blog Live Conf Eventos Precios

0:007:52

Sesgo y Varianza en Ciencia de Datos: Precisión y Exactitud

Curso de Estadística Inferencial con R

Clase 11 de 37

Clase 11 / 37

Comentarios (18)18 comentarios

Alonso Melgar Lopez

Hace 6 años

Leydy Aleen Erazo

Hace 5 años

De referencias históricas, incluyo el aporte varias mujeres a la estadística :D a quienes les interese. https://ws089.juntadeandalucia.es/institutodeestadisticaycartografia/blog/2021/09/mujeres-en-la-historia-de-la-estadistica/

Diego Alejandro Lesmes

Hace 6 años

:green_heart:

El Sesgo es a la exactitud, como la varianza es a la precisión

Sergio Alejandro Martínez

Hace 6 años

Usuario anónimo

User

Hace 6 años

El error cuadrático medio (RMSE) mide la cantidad de error que hay entre dos conjuntos de datos. En otras palabras, compara un valor predicho y un valor observado o conocido.

También se lo conoce como Raíz de la Desviación Cuadrática Media y es una de las estadísticas más utilizadas en SIG.

A diferencia del error absoluto medio (MAE), utilizamos RMSE en una variedad de aplicaciones cuando comparamos dos conjuntos de datos.

He aquí un ejemplo de cómo calcular RMSE en Excel con 10 valores observados y predichos. Pero se puede aplicar este mismo cálculo a cualquier tamaño de conjunto de datos.

Ejemplo de error cuadrático medio de la raíz Por ejemplo, podemos comparar un punto de elevación LiDAR predicho con una medición topográfica del terreno (valor observado).

Valor previsto: Valor de elevación LiDAR Valor observado: Valor de elevación medido El error cuadrático medio toma la diferencia para cada valor LiDAR y valor medido.

Puedes cambiar el orden de la resta porque el siguiente paso es tomar el cuadrado de la diferencia. Esto se debe a que el cuadrado de un valor negativo siempre será un valor positivo.

https://acolita.com/que-es-el-error-cuadratico-medio-rmse/

Diana Marcela Amezquita Ospina

Hace 3 años

Varianza - Dispersión de los datos

Sesgo - Distancia de la media de datos

Jhon Freddy Tavera Blandon

Hace 2 años

Un modelo de grado 1 (sesgo alto) subestima la complejidad de los datos.
Un modelo de grado 9 (varianza alta) sobreestima la complejidad y se ajusta al ruido.

Juan Martín Suárez Sunción

Hace 5 años

A MENOR SESGO -> MAYOR EXACTITUD.

A MENOR VARIANZA -> MAYOR PRECISIÓN

PAULA ACOSTA

Hace 8 días

Andrea Moreno

Hace 5 años

¿El parámetro es lo mismo que el valor observado? Muchas gracias :)

David Fernando Parada Brijalba

Hace 5 años

No, los parámetros en estadística son valores resumen de la población, los ejemplos más comunes son la media y la varianza. Nuestro objetivo es estimar estos valores por medio de la muestra. Por ejemplo, un estimador de la media poblacional es la media muestral, la cual hallamos sumando todas las observaciones de la muestra y dividiéndolas por el total de las mismas.

Juan Fernando Rengifo Rios

Hace 2 años

Comparto mis apuntes de la clase en formato de flashcards, espero que les sean de utilidad:

¿Qué es la varianza y el sesgo en estadística?

• Varianza: Medida de dispersión de los datos

• Sesgo: Diferencia entre valor estimado y parámetro poblacional

¿Cuándo se considera que un estimador es insesgado?

Un estimador es insesgado cuando su valor esperado es igual al parámetro poblacional.

Ejemplo: Si al estimar la altura promedio de una población, el valor esperado de nuestras estimaciones coincide con la altura promedio real.

¿Qué representa la varianza del estimador?

Refleja qué tan diferentes pueden ser los resultados entre distintas muestras aleatorias de la misma población.

¿Cuáles son las características principales de la varianza del estimador?

Se busca minimizar la varianza
Disminuye al aumentar el tamaño de muestra
Varía según el tipo de estimador usado
El mejor estimador es el de mínima varianza, porque proporciona mayor precisión y los valores se agrupan más cerca de la media

¿Cómo se aplican estos conceptos en machine learning?

En aprendizaje automático, diferentes familias de modelos presentan distintas características de sesgo y varianza, lo que afecta su capacidad de predicción.

Usuario anónimo

User

Hace 6 años

El sesgo es la diferencia entre el valor esperado del estimador y el parámetro. El estimador es una variable aleatoria. Por lo tanto, tiene valor esperado. ¿Este valor esperado es igual al parámetro?

Usuario anónimo

User

Hace 6 años

Si el valor esperado del estimador es el parámetro, este se denomina un estimador insesgado.

Usuario anónimo

User

Hace 6 años

Sesgo y varianza en estadística La estadística es un área en la que se intenta extraer conclusiones de las poblaciones utilizando únicamente los datos de una muestra. Algo necesario ya que utilizar la población completa es demasiado costoso o directamente inviable en la mayoría de los casos. Como cuando se desea conocer la opinión de la ciudadanía sobre un tema, se utilizan encuestas porque preguntar a toda la población no es viable. Además del hecho que los entrevistados pueden mentir. Por el hecho de utilizar una muestra, en lugar de toda la población, los resultados serán diferentes a los reales. Es decir, existirá errores en la estimación obtenida. Dos de estos son el sesgo y la varianza.

Sesgo El sesgo mide lo lejos que se encuentra el valor estimado respecto al real de la población completa. Por ejemplo, si se desea calcular la vida media de unas bombillas es necesario escoger una muestra. El tiempo de vida promedio de esta muestra es el que se le asocia a la población, pero no tiene porque se el de la población total. Este error es lo que se llama como sesgo.

Varianza Al trabajar con una muestra aleatoria de la población total es de esperar que sea diferente de otra muestra. Esta diferencia entre las muestras es lo que la varianza. Así cada vez que se realiza un nuevo muestreo se observa que los resultados suelen ser diferentes.

Sesgo y varianza en aprendizaje automático Los conceptos de sesgo y varianza que se han visto anteriormente se pueden extender fácilmente a los modelos de aprendizaje automático. En esta ocasión se puede ver que cada una de las familias presenta diferentes características en cuanto al sesgo y la varianza.

Sesgo En aprendizaje automático para estimar un valor se utilizan modelos. Existiendo muchas familias entre los que escoger. Por ejemplo, en un problema de clasificación se puede utilizar regresiones logísticas o random forest entre otros. Pero no todos los modelos son iguales, ya que cada uno presenta diferentes propiedades.

Así que una pregunta obvia es cómo se relaciona cada una de las familias de modelos con el sesgo de las predicciones. El sesgo habitualmente presenta una relación inversa con la complejidad de los modelos. Es decir, a mayor complejidad del modelo utilizado es de esperar una menor sesgo.

Ahora bien, ¿qué se entiende por complejidad de un modelo? Por ejemplo, la regresión logística es un modelo más simple que un árbol de decisión. La regresión logística asume cierta relación entre las características y el valor a predecir. Por otro lado, random forest es más complejo en el sentido de que utiliza un conjunto de árboles de decisión para realizar las predicciones.

Varianza El entrenamiento de los modelos se realiza con conjuntos de dato diferentes sobre los que posteriormente se utiliza para validar las predicciones. A los que se conocen como conjunto de entrenamiento y test respectivamente. Por este hecho es de esperar que ambos conjuntos sean ligeramente diferentes. Es importante tener en cuenta que cuando entrena a un modelo no se esperar que este memorice los valores, sino que encuentre patrones. Observándose en muchas ocasiones que modelos complejos ajustan bien a los datos de entrenamiento, pero no sucede lo mismo con los de validación. En donde se suele observar que fallan.

La varianza también se puede relacionar con la complejidad de los modelos. A medida que aumenta la complejidad, aumentan las posibilidades de sobreajuste, es decir, la varianza aumenta. Al comparar la regresión logística con random forest se espera que la varianza del primero se meno que la del segundo https://www.analyticslane.com/2019/05/24/los-conceptos-de-sesgo-y-varianza-en-aprendizaje-automaticos/

Usuario anónimo

User

Hace 6 años

El estimador es una variable aleatoria. Por lo tanto tiene varianza. Esta varianza queremos que sea pequeña. Esto se puede hacer aumentando la muestra. Estimadores distintos tienen varianzas diferentes.

Usuario anónimo

User

Hace 6 años

Un estimador que tiene la varianza más pequeña que todos los demás se denomina un estimador de mínima varianza.

Geovanny Garcia

Hace 5 años

Que buen ejemplo la de la edad del perro jajaja excelente profesor (Y) quedo claro al fin lo que es el sesgo y la varianza

JAVIER SANTIAGO SALGADO

Hace 6 años

“The fundamental cause of the trouble is that in the modern world the stupid are cocksure while the intelligent are full of doubt.” ― Bertrand Russell

Recursos

¿Qué diferencia hay entre sesgo y varianza en estadísticas?

En el mundo de la estadística y la ciencia de datos, entender las diferencias entre sesgo y varianza es crucial para cualquier profesional del área. El sesgo y la varianza son conceptos fundamentales que afectan la precisión de las estimaciones y modelos, y conocer sus particularidades puede mejorar nuestras habilidades analíticas.

¿Qué es el sesgo?

El sesgo en estadística se refiere a la diferencia entre el valor esperado del estimador (lo que afirmas como investigador) y el parámetro real. Este sesgo se manifiesta cuando las inferencias hechas a partir de los datos no coinciden con la realidad. Un estimador es considerado incesgado si el valor esperado del estimador es exactamente igual al parámetro real. Por ejemplo, el promedio y la varianza muestral son estimadores incesgados, mientras que el máximo y el mínimo suelen ser sesgados.

Ejemplo del sesgo

Imagina que estás evaluando la edad de un perro. Adivinas que la edad está entre cero y veinte años. Aunque esta afirmación es verdadera, es imprecisa y no tiene utilidad práctica. El sesgo aquí implica que tu estimación no coincide con la verdad precisa deseada.

¿Qué es la varianza?

La varianza se refiere a la amplitud de los intervalos de confianza en nuestras estimaciones. Una alta varianza indica que las estimaciones varían ampliamente, dificultando su utilidad. Aunque la afirmación hecha puede ser cierta, como cuando decimos que un perro tiene entre cero y veinte años, es inútil debido a la amplitud de rango. Para mejorar la precisión, debemos controlar la varianza, generalmente incrementando el tamaño muestral.

Ejemplo de control de varianza

Si deseas que la varianza de tus estimaciones sea pequeña, aumenta la muestra. Una mayor cantidad de datos puede reducir la amplitud de los intervalos de confianza, haciendo las afirmaciones más útiles y precisas.

Estimadores de mínima varianza y estimadores incesgados

En estadística, los estimadores más valorados son aquellos que son incesgados y de mínima varianza. Estos estimadores ofrecen el balance óptimo entre sesgo y precisión, siendo precisos y reflejando la realidad.

Equilibrio entre el sesgo y la varianza

El error cuadrático medio, una medida importante, es la suma del sesgo al cuadrado más la varianza. Este error se mantiene constante, lo que implica que al reducir el sesgo, la varianza tiende a aumentar, y viceversa. Sin embargo, el objetivo es alcanzar un balance donde ambas medidas sean mínimas.

Historial y evolución del sesgo y varianza

Ronald Fisher, conocido como el padre de la estadística moderna, sentó las bases de estos conceptos a principios del siglo pasado. Posteriormente, Jesse Neumann y Egon Pearson ampliaron su trabajo, afianzando el marco teórico actual que usamos en la ciencia de datos.

Recomendaciones prácticas para minimizar el sesgo y la varianza

Aumenta el tamaño muestral: Para reducir la varianza, es efectivo incrementar el número de observaciones en tus estudios.
Selecciona los estimadores apropiados: Usa estimadores incesgados de mínima varianza siempre que sea posible.
Equilibra el sesgo y la varianza: Trabaja en minimizar ambos factores, utilizando el error cuadrático medio como guía.

Conocer a fondo estos conceptos no solo te permitirá mejorar la precisión en tus análisis, sino también fortalecer tus habilidades como científico de datos, permitiéndote crear modelos más efectivos y útiles. ¡Sigue aprendiendo y practicando para convertirte en el mejor en tu campo!

Resumen

¿Qué diferencia hay entre sesgo y varianza en estadísticas?

¿Qué es el sesgo?

Ejemplo del sesgo

¿Qué es la varianza?

Ejemplo de control de varianza

Estimadores de mínima varianza y estimadores incesgados

Equilibrio entre el sesgo y la varianza

Historial y evolución del sesgo y varianza

Recomendaciones prácticas para minimizar el sesgo y la varianza

Aumenta el tamaño muestral: Para reducir la varianza, es efectivo incrementar el número de observaciones en tus estudios.
Selecciona los estimadores apropiados: Usa estimadores incesgados de mínima varianza siempre que sea posible.
Equilibra el sesgo y la varianza: Trabaja en minimizar ambos factores, utilizando el error cuadrático medio como guía.

Teoría

Inferencia Estadística: Fundamentos y Aplicaciones con Simulación en R

Valor Esperado Condicional en Ciencia de Datos

Poblaciones y Muestras: Conceptos y Generalización Estadística

Muestreo Probabilístico y No Probabilístico: Métodos y Aplicaciones

Estimadores y Parámetros en Ciencia de Datos

Estimación Paramétrica y No Paramétrica en Ciencia de Datos

Gráficos y Espacio de Parámetros en Modelos Estadísticos

Estimadores Puntuales y su Comportamiento Aleatorio

Intervalos de Confianza: Cálculo y Significado en Estadística

Tamaño Muestral y su Impacto en la Precisión Estadística

Sesgo y Varianza en Ciencia de Datos: Precisión y Exactitud

Teoría No Paramétrica: Estimación y Modelos Aplicados

Estimación Funcional: Kernel y Funciones de Densidad Acumulada

Estimación Funcional del Valor Esperado Condicional

Inferencia Estadística con Bootstrapping para Modelos Paramétricos

Validación Cruzada y Generalización de Modelos Estadísticos

Pruebas de Hipótesis: Conceptos y Aplicaciones Estadísticas

Pruebas de Hipótesis: P Valor y Significancia Estadística

Simulación

Simulación de Datos con R: Teoría a la Práctica

Instalación de R y RStudio en Windows, macOS y Ubuntu

Simulación de Datos en R: Distribuciones y Modelos Lineales

Simulación de Estimación de Parámetros usando R

Simulación de Intervalos de Confianza para Poblaciones Normales

Simulación de Convergencia de Estimadores con Diferentes Tamaños Muestrales

Estimación Kernel y Distribución Acumulada Empírica

Estimación Condicional con Redes Neuronales en R

Estimación Kernel: Aplicación en Distribución Uniforme y Normal

Boostrapping en R para Regresión Lineal: Implementación y Análisis

Validación cruzada en redes neuronales usando R

Simulación de Potencia en Pruebas de Hipótesis con R

Proyecto

Análisis Estadístico del Examen Saber Once con R

Estimación de Intervalos de Confianza para Comparar Poblaciones con y sin Internet

Pronóstico de Puntaje en Matemáticas con Redes Neuronales

Generalización de Redes Neuronales a Poblaciones Completas

Análisis de Tamaño Muestral Óptimo para Redes Neuronales

Interpretación de Redes Neuronales en Predicción Educativa

Conclusiones

Programación Dinámica y Estocástica en Simulación

Sesgo y Varianza en Ciencia de Datos: Precisión y Exactitud