Resolviendo con hierarchical clustering

Clase 22 de 27 • Curso de Clustering con Python y scikit-learn

Anuar Steven Garcia

student•

Hay varias razones potenciales por las cuales el puntaje de silueta puede ser peor cuando se usa PCA en su conjunto de datos en comparación con solo usar datos escalados. Algunas de las posibles razones son:

La estructura de los datos puede no ser adecuada para PCA y puede no estar capturando efectivamente los patrones subyacentes en el conjunto de datos.

PCA es una técnica de reducción de dimensionalidad lineal, por lo que puede no ser capaz de capturar relaciones no lineales entre las variables presentes en los datos.

Es posible que no tenga suficientes muestras de datos para que PCA funcione bien.

Es posible que el número de componentes principales que se han retenido sea demasiado alto y causando overfitting, lo que podría resultar en un puntaje de silueta más bajo.

Por último, es posible que los datos tengan una distribución no normal y PCA asume una distribución normal. En este caso, el uso de técnicas no paramétricas como MDS o t-SNE pueden ser más adecuadas.

Es importante tener en cuenta que el puntaje de silueta es una medida relativa de cómo similar es un objeto a su propio cluster en comparación con otros clusters, por lo que es importante tener en cuenta que un puntaje de silueta alto no implica que el agrupamiento sea bueno, sino que el agrupamiento no es malo. Siempre es bueno comprobar los resultados con otras métricas de validación de agrupamiento para obtener una mejor comprensión del desempeño del algoritmo de agrupamiento.

Federico Mario

student•

Le pregunté a Bing chat y me dijo exactamente eso, y con las mismas palabras. Me podrías decir de donde sacaste esa información? Osea si lo escribiste vos, lo encontraste en internet o le preguntaste a alguna IA (ChatGPT, Bing chat, GPT3/4) y te respondió eso. Me dio curiosidad porque Bing chat no me supo decir de dónde sacó la info.

johan Stever Rodriguez Molina

student•

En general los resultados hasta aquí, con los datos disponibles hacen dudar de dos cosas.

La poca “separabilidad” que pueden tener los datos , al menos con las features actuales. Podriamos pensar en hacer un poco más de data engineering y crear nuevos features.
Las assumptions de los modelos hasta ahora aplicados no tienen mucho sentido para el caso de uso(esfericidad clusers, no captacion de outliers,..etc) Nota: El caso de uso hace pensar que muy probablemente tenga más sentido el asumir que hay paises "atípicos" respecto a sus variables.

Sobre el PCA, solo recordar que al reducir estamos perdiendo información(Inertia) asi sea mínima: con una diferencia tan insignificante podría deberse a eso

Juan Felipe Zárate

student•

Desde el 2024 en adelante, aparece un error por que AgglomerativeClustering de sklearn ya no acepta el argumento affinity. En versiones más recientes de sklearn, affinity ha sido reemplazado por metric

Rodrigo Martinez

student•

Es un detalle tecnico 🤓 pero es muy importante saber la diferencia de waring (este caso) y error, cuando tenemos un warning nuestro codigo corre pero con advertencia de que algo no esta bien, en cuando cuando hay un error nuestra ejecucion se detiene.

Cristian Mateo Velez Duran

student•

👏

Juan Sebastian Torres Lozano

student•

Creo que se dio un peor resultado con pca ya que al escalar los datos los estamos juntando. Esto resulta en que el algoritmo agrupe mucho mas datos que sin ser escalados estarian separados. Me gustaria saber cuales son su hipotesis?

Juan Jose Sepulveda Calderon

student•

El objetivo de escalar los datos es para que todos los valores de las diferentes variables (o columnas) tengan la misma relación y que no se le dé preferencia a ninguna variable por sus unidades. Por ejemplo, imagina que en tus datos de entrada son 100 centímetros y 1 metro, nosotros sabemos que son lo mismo, pero la computadora no. Si los sumas sin haberlos estandarizado (escalado), el resultado sería 101, pero este resultado no tiene sentido. Lo correcto sería convertir los centímetros a metros o los metros a centímetros para que el resultado sea 200 cm o 2 metros.

Pero cuando tenemos tantas variables de entrada no nos ponemos a buscar las unidades de cada una, en su lugar escalamos todas las variables a un rango estándar que suele ser entre 0 y 1. Básicamente por eso se tiene que estandarizar al implementar el algoritmo PCA, de no hacerlo seria como sumar 100 cm con 1 metro, no tendría sentido el resultado.

Jeison Gerardo Rodriguez

student•

Pero son muy similares los valores con y sin PCA, en todo caso peores que con kmeans. Creo que esto se debe a los outliers, al principio se identificaron algunos y en presencia de outliers este algoritmo no funciona muy bien. Por otra parte, el kmeans con PCA nos dio 4 clústers, pero el último es muy pequeño en comparación con los demás, lo que indicaría aún más esa presencia de outliers.

Juan Acevedo

student•

Se podría decir que los modelos de clustering pueden llegar a mejorar un poco mas sin pca debido que tecnicamente están perdiendo cierta informacion por lo que cierta inforamcion que podrían tomar como cluster no los están tomando lo que permite de alguna manera centrarse mas en ciertos cluster especificos

Mario Alexander Vargas Celis

student•

Para resolver un problema de segmentación o clasificación de vehículos (o cualquier conjunto de datos similar) usando hierarchical clustering (clustering jerárquico), se siguen estos pasos generales. A continuación te muestro un ejemplo completo con Python aplicado a un conjunto de vehículos con características como precio, consumo, y tamaño.

✅ 1. Importar librerías

import pandas as pd import matplotlib.pyplot as plt from scipy.cluster.hierarchy import dendrogram, linkage, fcluster from sklearn.preprocessing import StandardScaler

✅ 2. Crear o cargar el dataset

Ejemplo de vehículos (puedes usar tus propios datos):

data = { 'Modelo': ['Onix', 'Kia Soluto', 'Swift', 'S-Cross', 'Picanto', 'K3 Cross', 'Kardian'], 'Precio': [82320000, 69990000, 85000000, 125000000, 65000000, 120000000, 110000000], 'Consumo_kmgl': [65, 60, 70, 55, 68, 58, 62], 'Longitud_mm': [4474, 4300, 3840, 4300, 3595, 4365, 4115] } df = pd.DataFrame(data)

✅ 3. Normalizar los datos

scaler = StandardScaler() X = scaler.fit_transform(df[['Precio', 'Consumo_kmgl', 'Longitud_mm']])

✅ 4. Aplicar Clustering Jerárquico

linked = linkage(X, method='ward') # También puedes usar 'single', 'complete', 'average'

✅ 5. Graficar el dendrograma

plt.figure(figsize=(10, 6)) dendrogram(linked, labels=df['Modelo'].values, orientation='top', distance_sort='descending', show_leaf_counts=True) plt.title('Dendrograma de vehículos') plt.xlabel('Modelos') plt.ylabel('Distancia') plt.show()

✅ 6. Formar grupos (clusters)

Por ejemplo, 3 grupos:

clusters = fcluster(linked, 3, criterion='maxclust') df['Cluster'] = clusters print(df.sort_values('Cluster'))

🧠 Interpretación

Al formar 2–4 clusters, puedes analizar qué vehículos están en el mismo grupo y por qué (precio similar, tamaño, consumo, etc). Por ejemplo:

Cluster 1: Autos compactos y económicos (Picanto, Soluto)
Cluster 2: Autos medianos con mejor equipamiento (Onix, Kardian)
Cluster 3: SUV o crossover (S-Cross, K3 Cross)

Federico Arias

student•

Hola chicos, yo usé un componente más que el profe tal que capturaba el 93% de la varianza.

Y usando Esta clusterizacion, con n_clustering=4 obtuve un silouette score de 0.326

Julián Cárdenas

student•

Curiosos los resultados y los comentarios en está clase...