Bonus: Teorema del límite central

Cursos Empresas Blog Live Conf Precios

Contenido del curso

Introducción al análisis exploratorio de datos

Análisis univariado

Análisis bivariado

Análisis multivariado

Conclusiones

Tomar examen

Bonus: Teorema del límite central

Comentarios

María Eugenia Pereira Chévez

student

Por si se les presenta una serie de advertencias de numpy como me paso, le dejo un código que tal vez no es el mejor pero me ayudo a eliminar la gran cantidad de advertencias.

number_samples = 1000
sample_size = 35

np.random.seed(42)

# definimos el DataFrame en blanco con su tamaño definido
samples_df = pd.DataFrame(np.random.randint(1, sample_size, size =(sample_size, number_samples)))
# Le asignamos nombres a las columnas.
col_names = []
for i in range(1, number_samples + 1):    
    col_names.append(f"sample_{i}")
samples_df.columns = col_names


for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()    
    sample_name = f"sample_{i}"
    samples_df[sample_name] = sex_numeric_sample

male_population_mean = samples_df.mean().mean()
print(f"El porcentaje estimado de pingüinos machos en la población es: {male_population_mean * 100:.4f}%")

David Sarmiento

student

Excelente, muchas gracias!!

Erika Lombana

student

GRACIAS

Jeinfferson Bernal G

student

Demostracion Computacional del T. de los grande numeros

Tomamos como ejemplo el lanzamiento de una dado

#calculo de la probabilidad para cada cara del dado
dice = empiricaldist.Pmf.from_seq([1,2,3,4,5,6])
dice.bar()

Valores de probabilidad para cada cara del dado en diferentes tamaños de muestras

for sample_size in (1e2, 1e3,1e4):  #100 1000 10000
    sample_size = int(sample_size)
    values = dice.sample(sample_size) # obtener valores segun tamaño de la muestra
    sample_pmf = empiricaldist.Pmf.from_seq(values) #calculo de la probabilidad para cada valor
	
		#graficas para cada tamaño de muestra
    plt.figure(figsize=(5, 5))
    sample_pmf.bar()
    plt.axhline(y=1/6, color='red', linestyle='dashed')
    plt.ylim([0,0.50])
    plt.title(f'Sample size: {sample_size}')

Demostracion del T. del Limite Central

Analizamos una variable binaria

preprocessed_penguins_df.sex.value_counts(normalize=True)

La variable sex sigue una distribucion binomial. Como es categorica, debemos convertirla en una variable numerica

sex_numeric = preprocessed_penguins_df.sex.replace(['male', 'female'], [1, 0])

Fijamos el numero de muestras a tomar y el tamaño de cada muestra, luego calculamos la media de los machos de cada muestra y a todas ellas le sacamos la media observando asi que se aproxima a la proporcion de machos dada por los datos

number_sample = 1000 #cantidad de muestras a tomar
sample_size = 35 #tamaño de la muestra

sample_df = pd.DataFrame() #dataframe donde se almacena las media de cada muestra

np.random.seed(42)

for i in range(1, number_sample + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    sample_name = f'sample {i}'
    sample_df[sample_name] = sex_numeric_sample

male_population_mean = sample_df.mean().mean()
print(f'El porcentaje de pinguinos machos en la poblacion es de: {male_population_mean*100:.4f}%')

La distribucion binomial se convierte en este caso en una distribucion Normal como se evidencia en la grafica que sigue

sample_means_binomial = pd.DataFrame(sample_df.mean(), columns=['sample_mean'])
sns.kdeplot(data=sample_means_binomial)
plt.axvline(x=sex_numeric.mean(), color='red', linestyle='dashed')

Otra manera de verlo es ir incrementando la cantidad de muestras y observar el efecto en la proporcion de machos

sample_size_experiment = pd.DataFrame(
    [[i, sample_df.iloc[:, 0:i].mean().mean().mean()] for i in range(1, number_sample + 1)],
    columns=['sample_size', 'estimated_mean']
)

#grafica  del efecto
sns.scatterplot(
    data=sample_size_experiment,
    x='sample_size',
    y='estimated_mean'
)

plt.axhline(
    y=sex_numeric.mean(),
    color='red',
    linestyle='dashed'
)

plt.ylim([sex_numeric.mean() - 0.20, sex_numeric.mean() + 0.20])

Ruddy Ramos

student

Gracias por el aporte.

Rafael Rivera

student

Muchas gracias por el aporte

Jeinfferson Bernal G

student

Teorema de los grandes números

La probabilidad experimental tiende a la probabilidad teorica a medida que aumenta el numero de repeticiones del experimento. Es muy util cuando no se conoce la probabilidad teorica de un evento y tenemos la capacidad de aumentar la muestra. Mediante este teorema, al incrementar la muestra la probabilidad experimental al final se convertira en la probabilidad teorica.

Teorema del Limite Central

La media de las muestras tiende aproximadamente a una distribución normal

La suma de n variables aleatorias independientes con medias y varianzas finitas converge en distribucion a una variable aleatoria normal

David Romero

student

El método 'replace' también puede recibir un diccionario 😉

sex_numeric = df_limpio.sex.replace({'male':1,'female':0})

Nelson Ricardo Ramírez García

student

Muchas gracias David. Tu respuesta me ayudo a resolver el error que me salía ejecutando el código que puso el profesor Jesús: 'sex_numeric = processed_penguins_df.sex.replace([‘Male’, ‘Female’], [1, 0])' Cuando lo ejecutaba no me transformaba la columna ‘sex’ en valores numéricos porque el código tiene un error de sintaxis que descubrí con el tuyo: escribe 'Male' y 'Famale' con mayúscula inicial, cuando debería ser minúscula. Con el código que proporcionaste también se puede llegar a la respuesta: 50.1829% que coincide con el valor que debería dar. De nuevo gracias. 👍

Alfonso Andres Zapata Guzman

student

Al ejecutar el bucle for, da este Warning (traducido al español) como resultado en jupiter lab, y estoy seguro que no es por falta de buen hardware:

DataFrame está muy fragmentado. Esto suele ser el resultado de llamar a `frame.insert` muchas veces, lo que tiene un rendimiento deficiente. Considere unir todas las columnas a la vez usando pd.concat(axis=1) en su lugar. Para obtener un marco desfragmentado, use `newframe = frame.copy()`

Se soluciona con:

from warnings import simplefilter
simplefilter(action="ignore", category=pd.errors.PerformanceWarning)

Alfonso Andres Zapata Guzman

student

Detallito en el codigo.

Andrés Cardona

student

Gracias por la solución Alfonso. Quería preguntarte por qué se generó ese warning??

Naren Fragozo

student

En Python, las expresiones como 1e3 o 1e2se utilizan para representar números en notación científica. En particular, 1e3 significa "1 multiplicado por 10 elevado a la potencia de 3", que es igual a 1000. De manera similar, 1e2 significa "1 multiplicado por 10 elevado a la potencia de 2", que es igual a 100.

Jorge Miguel Diaz

student

Gracias por la información!

Luis Guzmán

student

Gracias crack!

Dario Andres Acero Guerrero

student

Muy buena clase, sin embargo me queda la duda, el parámetro 42, adentro de la función np.random.seed(), a que hace referencia??

Adolfo Sebastián Jara Gavilanes

student

Esa función de numpy sirve para poner una semilla del código, realmente puede ser cualquier número. El objetivo es que si por ejemplo genero valores randómicos, siempre obtener los mismos valores, y que no pase que cada vez que se ejecuta el código se generen nuevos números. A continuación te muestro un ejemplo:

Jeinfferson Bernal G

student

Tenia la misma duda! Gracias

Bryan Carvajal

student

Por si les aparece el error de DataFrame is highly fragmented correr este codigo antes:

from warnings import simplefilter
simplefilter(action="ignore", category=pd.errors.PerformanceWarning)

Nixon Rolando García Ramírez

student

Muchas gracias, ya me estaba comenzando a enojar con migo mismo jajaja, ve parce como es que sabes resover ese error?, es que tambien quiero ser capaz de resolve futuros errores similares a ese.

Mauricio Escobar

student

Buenas 👋 Al ejecutar el código me salía un festival de warnings :/ por si a alguien le sirve, pude resolverlo usando map en vez de replace + cambiando un poco el código.

Versión de pandas: 2.2.1

sex_numeric = df_penguins['sex'].map({'male': 0, 'female': 1}).astype(int)

number_samples = 1000
sample_size = 35 # número de muestras
np.random.seed(42)

# lista auxiliar: almacenar las muestras
samples_list = []

for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    samples_list.append(pd.Series(sex_numeric_sample, name=f'sample_{i}')) # almacenar cada muestra en una serie
    
    # Concatenar todas las muestras en un nuevo df
    samples_df = pd.concat(samples_list, axis=1)

male_proportion_mean = samples_df.mean().mean()
print(f'Estimated percentage for male penguins (in total population): {male_proportion_mean * 100:.2f}%')

Rodolfo Barillas

student

Correlaciones entre variables Correlación Person:

*Correlación positiva Alta: En orden de correlación>5

1ro: body_mass con Flipper_length_mm El peso de los pingüinos presenta una alta correlación con la longitud de sus alas (0,87)

2do: flipper_length_mm con bill_length_mm La longitud de las alas de los pingüinos presenta una correlación positiva media o alta con respecto a el largo de sus picos (0,65)

3ro: body_mass con bill_length_mm El peso de los pingüinos presenta una correlación positiva media con respecto al largo de sus picos (0,59)

Correlación positiva baja: <=5 body_mass con numeric_sex (0,42) body_mass con year (0,022) bill_length_mm con numeric_sex(0,34) bill_length_mm con year (0,033) Flipper_length_mm con numeric_sex (0,26) Flipper_length_mm con year (0,15) Estas variables no guardan relación entre ellas

****Correlación negativa: **** La única variable con una correlación negativa media o alta mayor a 5, es bill_depth_mm con Flipper_length_mm.

Juan R. Vergara M.

student

Gran aporte amigo.

Yonatan Efraín Jara Boza

student

Hola, por qué en 13:55 se aplicó mean() 3 veces? Note al escribir que con 2 veces se obtiene el mismo resultado como sospechaba.

Felipe mejia

student

Les comparto la forma de eliminar el warning del Teorema del límite central

number_samples = 1000
sample_size = 35

np.random.seed(42)

samples_list = []
for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    samples_list.append(sex_numeric_sample)

samples_df = pd.DataFrame(np.column_stack(samples_list), columns=[f"sample_{i}" for i in range(1, number_samples + 1)])

male_population_mean = samples_df.mean().mean()
print(f"Estimated percentage of male penguins in population is: {male_population_mean * 100:.4f}%")

Emel GM

student

A qué se debe aplicar 2 veces el método del promedio?

male_population_mean = sample_df.mean().mean()

Sergio Ardila

student

La primera vez que lo aplicas calcula el promedio por cada sample. Ya aplicándolo por segunda vez calcula el promedio para todo el set de datos.

Diego Cesar Lerma Torres

student

El reto del profesor

sample_means_binomial= pd.DataFrame(samples_df.mean(), columns=['sample_mean'])

#Distribucion de los datos
sns.kdeplot(
    data=sample_means_binomial, 
    label='Distribucion real', 
    fill=True,
    alpha=0.1,
    color ='red',
    linewidth=0.4,
    )

# Distribucion teorica
plt.plot(
    xs,
    ys, 
    color='#891652', 
    linestyle='dashed', 
    label='Disribucion teorica', 
    alpha=0.9)

# Linea vertical en la media poblacional
xs=np.linspace(sample_means_binomial.min(), sample_means_binomial.max())
ys=scipy.stats.norm(sample_means_binomial.mean(), sample_means_binomial.std()).pdf(xs)
plt.axvline(
    x=sex_numeric.mean(), 
    color='#FEC7B4', 
    label='Media poblacional'
    )


plt.legend()
plt.show()

Jhon Freddy Tavera Blandon

student

El teorema del límite central es uno de los conceptos fundamentales de la estadística. El teorema establece que, si tomamos suficientes muestras aleatorias de una población, la distribución de las medias muestrales se aproxima a una distribución normal independientemente de la distribución de la población original, siempre que el tamaño de muestra sea suficientemente grande.

En otras palabras, el teorema del límite central nos dice que, a medida que aumenta el tamaño de la muestra, la distribución de las medias muestrales se acerca cada vez más a una distribución normal. Esto es importante porque muchas de las técnicas estadísticas que utilizamos asumen que las variables tienen una distribución normal, y el teorema del límite central nos permite utilizar estas técnicas incluso cuando la población original no es normal.

import seaborn as sns

# Cargamos los datos de pingüinos
penguins = sns.load_dataset('penguins')

# Seleccionamos la columna del largo del pico para la especie Adelia
adelia_bill_length = penguins[penguins['species']=='Adelie']['bill_length_mm']

import numpy as np

# Generamos 100 muestras aleatorias de tamaño 30
n_samples = 100
sample_size = 30
samples = np.random.choice(adelia_bill_length, size=(n_samples, sample_size))
means = samples.mean(axis=1)

import matplotlib.pyplot as plt

# Graficamos la distribución de las medias muestrales
plt.hist(means, bins=20)
plt.title('Distribución de las medias muestrales de Adelia (n=30)')
plt.xlabel('Largo del pico (mm)')
plt.ylabel('Frecuencia')
plt.show()

Mauro Benito Montoya Arenas

student

¿Por que el profesor no deja el codigo ya hecho en la seccion de recursos?. A veces lo que pasa la comunidad esta mal tipeado. Seria bueno que el profe sea el que pase la documentacion correcta.

Rigoberto Acosta González

student

Por si se les presenta un montón de warnings.

number_samples = 1000
sample_size=35

samples = []

np.random.seed(42)
for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    samples.append(pd.Series(sex_numeric_sample, name=f"sample_{i}"))

samples_df = pd.concat(samples, axis=1)

male_population_mean = samples_df.mean(numeric_only=True).mean()
print(f"Estimated percentage of male penguins in population is: {male_population_mean * 100:.4f}%")

Jose Potes

student

Estimad@, si sentiste que esto no te quedó claro, yo te lo voy a dejar clarisimo. La ley de los grandes numeros consiste en que, entre mas numeros tengas, la probabilidad de tener eventos tienden a equilibrarse. y el teorema de limite central es que, segun la ley anterior, la distribucion de los numeros, tienden a ser central. y esto tiene todo el sentido del mundo. porque: imaginate tu tienes 3 frutas.

Manzana.
Pera.
Coco. se distribuyen asi. 1 = 40 unidades. 2 = 15 unidades. 3 = 2 unidades.

si las metes en una caja. cual es la probabilidad de sacar Manzana, Pera y coco(respectivamente) obviamente Manzana es la mayor probabilidad. entonces, la ley de los numeros grandes establece que: entre mas unidades(muestras) tengas, esta probabilidad tiende a equipararse(equilibrarse) osea que, ya sacar una manzana no es una gran probabilidad.

ahora. el teorema de limite central acompaña a esta teoria(complementa), diciendo que: entonces, cuando se aplica la ley anterior, la distribucion de los numeros tienden a ser centrales. es decir, van a ser limites centrales, limite central es que busca una distribucion normal. (**SI NO LO ENTIENDES AQUI, TE RECOMIENDO QUE COPIES Y PEGUES ESTA INFORMACION EN CHAT-GPT **y le hagas preguntas sobre esto.)

Carlos Fabrishio Venegas Arana

student

el codigo tiene mayusculas: sex_numeric = processed_penguins_df.sex.replace(['Male', 'Female'], [1, 0])

Nelson Ricardo Ramírez García

student

Un error muy sutil, pero que genera que tu código no se ejecute de la manera correcta. Gracias por la observación.

Andres Sanchez

student

15. Bonus: Teorema del límite central

Ley de los grandes números

“La probabilidad experimental tiende a la probabilidad teórica a medida que aumenta el número de repeticiones del experimento”

Teorema del Límite Central

“La media de las muestras tiende aproximadamente a una distribución normal.”

“La suma de n variables aleatorias independientes con medias y varianzas finitas converge en una distribución a una variable aleatoria con distribución normal.”

number_samples = 1000
sample_size = 35

np.random.seed(42)

# definimos el DataFrame en blanco con su tamaño definido
samples_df = pd.DataFrame(np.random.randint(1, sample_size, size =(sample_size, number_samples)))
# Le asignamos nombres a las columnas.
col_names = []
for i in range(1, number_samples + 1):    
    col_names.append(f"sample_{i}")
samples_df.columns = col_names


for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()    
    sample_name = f"sample_{i}"
    samples_df[sample_name] = sex_numeric_sample

male_population_mean = samples_df.mean().mean()
print(f"El porcentaje estimado de pingüinos machos en la población es: {male_population_mean * 100:.4f}%")

for sample_size in (1e2, 1e3,1e4):  #100 1000 10000
    sample_size = int(sample_size)
    values = dice.sample(sample_size) # obtener valores segun tamaño de la muestra
    sample_pmf = empiricaldist.Pmf.from_seq(values) #calculo de la probabilidad para cada valor
	
		#graficas para cada tamaño de muestra
    plt.figure(figsize=(5, 5))
    sample_pmf.bar()
    plt.axhline(y=1/6, color='red', linestyle='dashed')
    plt.ylim([0,0.50])
    plt.title(f'Sample size: {sample_size}')

number_sample = 1000 #cantidad de muestras a tomar
sample_size = 35 #tamaño de la muestra

sample_df = pd.DataFrame() #dataframe donde se almacena las media de cada muestra

np.random.seed(42)

for i in range(1, number_sample + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    sample_name = f'sample {i}'
    sample_df[sample_name] = sex_numeric_sample

male_population_mean = sample_df.mean().mean()
print(f'El porcentaje de pinguinos machos en la poblacion es de: {male_population_mean*100:.4f}%')

sample_size_experiment = pd.DataFrame(
    [[i, sample_df.iloc[:, 0:i].mean().mean().mean()] for i in range(1, number_sample + 1)],
    columns=['sample_size', 'estimated_mean']
)

#grafica  del efecto
sns.scatterplot(
    data=sample_size_experiment,
    x='sample_size',
    y='estimated_mean'
)

plt.axhline(
    y=sex_numeric.mean(),
    color='red',
    linestyle='dashed'
)

plt.ylim([sex_numeric.mean() - 0.20, sex_numeric.mean() + 0.20])

DataFrame está muy fragmentado. Esto suele ser el resultado de llamar a `frame.insert` muchas veces, lo que tiene un rendimiento deficiente. Considere unir todas las columnas a la vez usando pd.concat(axis=1) en su lugar. Para obtener un marco desfragmentado, use `newframe = frame.copy()`

sex_numeric = df_penguins['sex'].map({'male': 0, 'female': 1}).astype(int)

number_samples = 1000
sample_size = 35 # número de muestras
np.random.seed(42)

# lista auxiliar: almacenar las muestras
samples_list = []

for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    samples_list.append(pd.Series(sex_numeric_sample, name=f'sample_{i}')) # almacenar cada muestra en una serie
    
    # Concatenar todas las muestras en un nuevo df
    samples_df = pd.concat(samples_list, axis=1)

male_proportion_mean = samples_df.mean().mean()
print(f'Estimated percentage for male penguins (in total population): {male_proportion_mean * 100:.2f}%')

number_samples = 1000
sample_size = 35

np.random.seed(42)

samples_list = []
for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    samples_list.append(sex_numeric_sample)

samples_df = pd.DataFrame(np.column_stack(samples_list), columns=[f"sample_{i}" for i in range(1, number_samples + 1)])

male_population_mean = samples_df.mean().mean()
print(f"Estimated percentage of male penguins in population is: {male_population_mean * 100:.4f}%")

sample_means_binomial= pd.DataFrame(samples_df.mean(), columns=['sample_mean'])

#Distribucion de los datos
sns.kdeplot(
    data=sample_means_binomial, 
    label='Distribucion real', 
    fill=True,
    alpha=0.1,
    color ='red',
    linewidth=0.4,
    )

# Distribucion teorica
plt.plot(
    xs,
    ys, 
    color='#891652', 
    linestyle='dashed', 
    label='Disribucion teorica', 
    alpha=0.9)

# Linea vertical en la media poblacional
xs=np.linspace(sample_means_binomial.min(), sample_means_binomial.max())
ys=scipy.stats.norm(sample_means_binomial.mean(), sample_means_binomial.std()).pdf(xs)
plt.axvline(
    x=sex_numeric.mean(), 
    color='#FEC7B4', 
    label='Media poblacional'
    )


plt.legend()
plt.show()

import seaborn as sns

# Cargamos los datos de pingüinos
penguins = sns.load_dataset('penguins')

# Seleccionamos la columna del largo del pico para la especie Adelia
adelia_bill_length = penguins[penguins['species']=='Adelie']['bill_length_mm']

import numpy as np

# Generamos 100 muestras aleatorias de tamaño 30
n_samples = 100
sample_size = 30
samples = np.random.choice(adelia_bill_length, size=(n_samples, sample_size))
means = samples.mean(axis=1)

import matplotlib.pyplot as plt

# Graficamos la distribución de las medias muestrales
plt.hist(means, bins=20)
plt.title('Distribución de las medias muestrales de Adelia (n=30)')
plt.xlabel('Largo del pico (mm)')
plt.ylabel('Frecuencia')
plt.show()

number_samples = 1000
sample_size=35

samples = []

np.random.seed(42)
for i in range(1, number_samples + 1):
    sex_numeric_sample = sex_numeric.sample(sample_size, replace=True).to_numpy()
    samples.append(pd.Series(sex_numeric_sample, name=f"sample_{i}"))

samples_df = pd.concat(samples, axis=1)

male_population_mean = samples_df.mean(numeric_only=True).mean()
print(f"Estimated percentage of male penguins in population is: {male_population_mean * 100:.4f}%")

Introducción al análisis exploratorio de datos

¿Qué es y para qué sirve el análisis exploratorio de datos?

¿Cómo hacer un análisis exploratorio de datos?

Tipos de análisis de datos

Tipos de datos y análisis de variables

Herramientas de software para el análisis exploratorio de datos

Conociendo nuestros datos: palmerpenguins

Recolección de datos, limpieza y validación

Ejercicio de validación de datos

Análisis univariado

Explorando una variable categórica: conteos y proporciones

Estadística descriptiva aplicada: medidas de tendencia central

Estadística descriptiva aplicada: medidas de dispersión

Ejercicio de obtención de medidas de dispersión

Estadística descriptiva aplicada: distribuciones

Estadística descriptiva aplicada: funciones de densidad de probabilidad