Aplicando PCA para clustering

Clase 20 de 27 • Curso de Clustering con Python y scikit-learn

Fernando Jesús Núñez Valdez

student•

Dándole un poco mas de contexto a la imagen: ..........

cum_var = np.cumsum(np.round(var, decimals=4)*100)
components = list(range(0,9))
plt.figure(figsize=(5,5))
for s,d in zip(components,cum_var):
    plt.annotate(np.round(d,decimals=2), xy=(s,d-2.5))

plt.plot(components,cum_var, 'r-x')
plt.title("PCA Decomposition")
plt.xlabel('PCA components')
plt.ylabel('% Variance')

Pablo .

student•

Si desea obtener la cantidad de componentes necesarias para una determinada varianza usé el siguiente código:

Quiero obtener la cantidad de componentes que expliquen una varianza del 85%.

pcs_needed = np.where(np.cumsum(pca.explained_variance_ratio_) >=.85)[0][0]
print("PC's are needed to explain 85% of the variance for data: ", pcs_needed)

[Output]
"PC's are needed to explain 85% of the variance for data:  3"

Sebastian Sarasti

student•

Podrian hacer un curso de reducción de dimensionalidad para datasets con variables numericas y categoricas?

Kevin Fiorentino

student•

Cualquier sugerencia de curso será muy bien recibido enviándolo a team@platzi.com, aquí en el foro quedará perdido. Saludos!

Federico Mario

student•

Si querés entenderlo a la perfección, recomiendo el libro Mathematics for machine learning. Es gratis y se puede descargar desde la página de los autores. Está muy bien explicado desde distintos ángulos y además trae un tutorial para ponerlo en práctica. Recominedo su lectura 100%

Nixon Rolando García Ramírez

student•

Casi que no logro entender PCA, practicamente toda la ruta de ciencia de datos me enseñaron PCA pero hasta ahora logre comprender su importancia, muchas gracias.

Julián Cárdenas

student•

JAJAJA totalmente de acuerdo!

David Gabriel Luna Pérez

student•

Para este caso ¿qué tan necesario es aplicar la prueba de esfericidad de Bartlett y/o el índice KMO previa la estimación del PCA? Y de ser necesarias, ¿existen condiciones bajo las cuales puede estimarse el PCA omitiendo dichas pruebas? Gracias

Alarcon7a

student•

Depende mucho de el índice de silueta

Alfonso Andres Zapata Guzman

student•

Con la grafica que creamos usando:

np.cumsum(np.round(var, decimals=4)*100)

aplica tambien lo del codo y la rodilla?

Ya que noto que la grafica practicamente es igual solo que esta rotada, pero visualmente si intercambio los ejes x e y, la aprecio con la misma logica que la grafica de rodillla, salvando als distancias, claro esta.

Federico Mario

student•

Lo que uno busca es tener el mayor porcentaje explicado con la menor cantidad de dimensiones posibles, con lo cual usar esa técnica puede ser util. Sin embargo creo que a veces puede ser mejor usar menos dimensiones para el clustering aunque se pierda algo más información.

Alfonso Andres Zapata Guzman

student•

Por cierto, ya conectamos en LinkedIn?

Conectemos en LinkedIn 👈 o tambien en GitHub 👈

Ampliemos juntos nuestra red de contactos, sigueme y te sigo!

david jurado

student•

Al final no se podía simplemente volver a usarlo pero con 4 componentes?

pca = PCA(``n_components``=4)

Mario Alexander Vargas Celis

student•

Aplicar PCA (Análisis de Componentes Principales) antes del clustering puede ayudarte a:

Reducir la dimensionalidad del dataset.
Eliminar ruido y redundancia.
Mejorar visualización de los grupos.
Hacer que algoritmos como K-means o DBSCAN funcionen mejor si los datos tienen muchas dimensiones.

🔧 Pasos para aplicar PCA antes de clustering:

from sklearn.decomposition import PCA from sklearn.preprocessing import StandardScaler

# 1. Escalar los datos scaler = StandardScaler() X_scaled = scaler.fit_transform(df_country.drop('country', axis=1)) # Asegúrate que 'country' existe

# 2. Aplicar PCA pca = PCA(n_components=2) # Elige 2 o más componentes para visualización o clustering X_pca = pca.fit_transform(X_scaled)

# 3. Visualización opcional import matplotlib.pyplot as plt

plt.figure(figsize=(8,6)) plt.scatter(X_pca[:, 0], X_pca[:, 1]) plt.xlabel('PCA 1') plt.ylabel('PCA 2') plt.title('Datos reducidos con PCA') plt.grid(True) plt.show()

🧪 Usar PCA con K-means (ejemplo):

from sklearn.cluster import KMeans

kmeans = KMeans(n_clusters=3, random_state=42) clusters = kmeans.fit_predict(X_pca)

# Visualizar clustering plt.figure(figsize=(8,6)) plt.scatter(X_pca[:, 0], X_pca[:, 1], c=clusters, cmap='viridis') plt.xlabel('PCA 1') plt.ylabel('PCA 2') plt.title('Clustering con K-means después de PCA') plt.colorbar(label='Cluster') plt.grid(True) plt.show()

✅ ¿Cuántos componentes usar?

Puedes revisar cuánta varianza explica cada componente:

print(pca.explained_variance_ratio_) print("Varianza acumulada:", sum(pca.explained_variance_ratio_))

Si los primeros 2 o 3 componentes explican >80% de la varianza, puedes usarlos sin perder mucha información.

Edwar Hernandez

student•

La reducción de dimensionalidad se realiza utilizando el ratio de varianza para asegurarse de que las características más importantes de los datos se conserven. Al priorizar las dimensiones que capturan la mayor parte de la variación, se minimiza la pérdida de información y se mejora el rendimiento de los modelos. Esto es esencial en técnicas como PCA (Análisis de Componentes Principales), donde se busca identificar las direcciones (componentes) que maximizan la varianza de los datos, facilitando así el análisis y visualización.

Alfonso Andres Zapata Guzman

student•

from sklearn.decomposition import PCA
from sklearn.decomposition import IncrementalPCA
import plotly.graph_objects as go
import plotly.express as px

n = 6

principal_components = {
    'PCA': PCA(n_components=n),
    'IncrementalPCA': IncrementalPCA(n_components=n, batch_size=10)
}

fig = go.Figure()

for name, principal_component in principal_components.items():
    principal_component.fit(df_country_scaled)

    cum_var = np.cumsum(np.round(pca.explained_variance_ratio_, decimals=4)*100) 

    # Aqui anexamos a la misma figura cada trazo
    fig.add_trace(go.Scatter(
        x=list(range(1, len(principal_component.explained_variance_) + 1)),
        y=cum_var,
        name=name,
        mode='lines+markers',
    ))

    # Aqui verificamos que varianza de datos esta agrupando el metodo usado para nuestros features
    components = principal_component.fit_transform(df_country_scaled)

    total_var = principal_component.explained_variance_ratio_.sum() * 100
    print(f"Total Explained Variance: {total_var:.2f}%, para {n} componentes con {name}")

# Aqui ejecutamos el plot de nuestra grafica
fig.update_layout(showlegend=True)

fig.show()

Pizarro Pizarro

student•

No se si la base esta contruida para que "pca.explained_variance_ratio_" me de las varianzas de mayor a menor o que la función las ordena de mayor a menor.

Neicer Vásquez

student•

La propiedad los ordena de forma descendente de manera implícita o por debajo del código.

Antonio Demarco Bonino

student•

Le puse amor a la gráfica e hice esta misma:

cum_var = np.cumsum(np.round(var, decimals=4)*100)
plt.figure(figsize=(10,5))
plt.plot(cum_var, 'r-o')
plt.axhline(y=95, color='yellow', linestyle='--', label='95% of cumulative variance')
plt.xlabel('Number of components')
plt.ylabel('Cumulative variance')
plt.title('Cumulative variance')
plt.legend(loc='upper left', bbox_to_anchor=(1, 1))
plt.show()

Antonio Demarco Bonino

student•

Le puse amor a la gráfica y me quedé con la siguiente:

cum_var = np.cumsum(np.round(var, decimals=4)*100)
plt.figure(figsize=(10,5))
plt.plot(cum_var, 'r-o')
plt.axhline(y=95, color='yellow', linestyle='--', label='95% of cumulative variance')
plt.xlabel('Number of components')
plt.ylabel('Cumulative variance')
plt.title('Cumulative variance')
plt.legend(loc='upper left', bbox_to_anchor=(1, 1))
plt.show()
```![](https://static.platzi.com/media/user_upload/image-f2d2b60d-85f3-4d7a-a7ff-de0167e355d5.jpg)

cum_var = np.cumsum(np.round(var, decimals=4)*100)
components = list(range(0,9))
plt.figure(figsize=(5,5))
for s,d in zip(components,cum_var):
    plt.annotate(np.round(d,decimals=2), xy=(s,d-2.5))

plt.plot(components,cum_var, 'r-x')
plt.title("PCA Decomposition")
plt.xlabel('PCA components')
plt.ylabel('% Variance')

from sklearn.decomposition import PCA
from sklearn.decomposition import IncrementalPCA
import plotly.graph_objects as go
import plotly.express as px

n = 6

principal_components = {
    'PCA': PCA(n_components=n),
    'IncrementalPCA': IncrementalPCA(n_components=n, batch_size=10)
}

fig = go.Figure()

for name, principal_component in principal_components.items():
    principal_component.fit(df_country_scaled)

    cum_var = np.cumsum(np.round(pca.explained_variance_ratio_, decimals=4)*100) 

    # Aqui anexamos a la misma figura cada trazo
    fig.add_trace(go.Scatter(
        x=list(range(1, len(principal_component.explained_variance_) + 1)),
        y=cum_var,
        name=name,
        mode='lines+markers',
    ))

    # Aqui verificamos que varianza de datos esta agrupando el metodo usado para nuestros features
    components = principal_component.fit_transform(df_country_scaled)

    total_var = principal_component.explained_variance_ratio_.sum() * 100
    print(f"Total Explained Variance: {total_var:.2f}%, para {n} componentes con {name}")

# Aqui ejecutamos el plot de nuestra grafica
fig.update_layout(showlegend=True)

fig.show()

cum_var = np.cumsum(np.round(var, decimals=4)*100)
plt.figure(figsize=(10,5))
plt.plot(cum_var, 'r-o')
plt.axhline(y=95, color='yellow', linestyle='--', label='95% of cumulative variance')
plt.xlabel('Number of components')
plt.ylabel('Cumulative variance')
plt.title('Cumulative variance')
plt.legend(loc='upper left', bbox_to_anchor=(1, 1))
plt.show()

cum_var = np.cumsum(np.round(var, decimals=4)*100)
plt.figure(figsize=(10,5))
plt.plot(cum_var, 'r-o')
plt.axhline(y=95, color='yellow', linestyle='--', label='95% of cumulative variance')
plt.xlabel('Number of components')
plt.ylabel('Cumulative variance')
plt.title('Cumulative variance')
plt.legend(loc='upper left', bbox_to_anchor=(1, 1))
plt.show()
```![](https://static.platzi.com/media/user_upload/image-f2d2b60d-85f3-4d7a-a7ff-de0167e355d5.jpg)

Aplicando PCA para clustering

Fundamentos de clustering

¿Qué es el clustering en machine learning?

Tu primer clustering con scikit-learn

¿Cuándo usar clustering?

¿Cómo evaluar modelos de clustering?

K-means

¿Qué es el algoritmo de K-means y cómo funciona?

¿Cuándo usar K-means?

Implementando K-means

Encontrando K

Evaluando resultados de K-means

Hierarchical clustering

¿Qué es hierarchical clustering y cómo funciona?

¿Cuándo usar hierarchical clustering?

Implementando hierarchical clustering

Evaluando resultados de hierarchical clustering

DBSCAN

¿Qué es DBSCAN y cómo funciona?

¿Cuándo usar DBSCAN?

Implementando DBSCAN

Encontrar híper-parámetros

Evaluando resultados de DBSCAN

Proyecto: resolviendo un problema con clustering

Preparar datos para clusterizar

Aplicando PCA para clustering

Resolviendo con K-means

Resolviendo con hierarchical clustering

Resolviendo con DBSCAN

Resolviendo con DBSCAN (sin PCA)

Evaluación resultados de distintos modelos de clustering

Conclusiones

Proyecto final y cierre

Comparte tu proyecto de segmentación con clustering y certifícate