¿Qué es el algoritmo de K-means y cómo funciona?

Un par de observaciones que pueden servir.

1. Kmeans es un método basado en “distancias”, luego el calculo en cada iteracion se puede ver afectado ante la existencia de outliers.
2. Es costoso a nivel computacional cuando la cantidad de datos aumenta, ya que implica comparar cada dato con todos los demás.
3. Tiene un problema grave y es que a cada punto NECESARIAMENTE lo ubica dentro de un cluster. Si tenemos un outlier nunca lo vamos a percibir por que lo va a asignar a un cluster

Jajaja cuando hasta una animacion te da resultados dudosos jajaja 😔.

No sera mucho aporte este comentario por que tiendo a realizar mi resumen completo con los proyectos. Pero como siempre dije y digo en estos cursos, Carlos sos de las mejores personas que vi en esta plataforma explicando temas, siempre estuve el pendiente por que hace cuando empecé a estudiar Web Dev hacia los cursos del profe Sergio Orduz de matemáticas por gusto propio, y sentí que faltaba esa calidad de profesor y manera extensa de explicar las cosas, por que armaban cursos muy al punto y se sentían como si buscara un tutorial paso a paso en medium de cómo hacer un X en especifico y ya.
Muy lindo tener un profe como vos en la plataforma 😃
10/10

Esa pagina es adictiva para un cientifico de datos 😉

Para ilustrar cómo funciona el algoritmo K-means, consideremos un ejemplo simple con un conjunto de datos bidimensional en el que queremos agrupar puntos en dos clústeres. Imagina que tienes los siguientes puntos en un plano cartesiano:

Punto A: (2, 3)
Punto B: (3, 3)
Punto C: (2, 2)
Punto D: (6, 5)
Punto E: (6, 6)
Punto F: (7, 7)

Pasos del algoritmo K-means:

Inicialización: Inicialmente, seleccionamos dos puntos aleatorios como los centros iniciales de los clústeres. Supongamos que elegimos los puntos A y D como centros iniciales.

1. Asignación: Calculamos la distancia entre cada punto de datos y los centros de los clústeres (A y D) y asignamos cada punto al clúster cuyo centro está más cerca. Por ejemplo, los puntos A, B, y C se asignarían al clúster A, y los puntos D, E, y F se asignarían al clúster D.

2. Actualización de los centros: Calculamos los nuevos centros de los clústeres como el promedio de los puntos asignados a cada clúster. Los nuevos centros serían (2.33, 2.67) para el clúster A y (6.33, 6.0) para el clúster D.

3. Repetición: Repetimos los pasos 2 y 3. Después de la segunda iteración, los puntos se asignarán de manera diferente. Ahora, los puntos A, B, C, y D se asignarán al clúster A, y los puntos E y F se asignarán al clúster D.

4. Resultados: Después de varias iteraciones, el algoritmo convergerá a una solución. En este caso, los dos clústeres resultantes serán:

• Clúster 1:

Punto A: (2, 3)
Punto B: (3, 3)
Punto C: (2, 2)
Punto D: (6, 5)

• Clúster 2:
  Punto E: (6, 6)
  Punto F: (7, 7)

En este ejemplo, K-means ha agrupado los puntos en dos clústeres basados en su proximidad en el espacio bidimensional. Ten en cuenta que la elección de los centros iniciales puede afectar los resultados, y en la práctica, el algoritmo se ejecuta varias veces con diferentes inicializaciones para mejorar la estabilidad de los clústeres.

K-means es un algoritmo de agrupamiento (clustering) ampliamente utilizado en el campo de la minería de datos y el aprendizaje automático. Su objetivo principal es dividir un conjunto de datos en grupos o clústeres, de tal manera que los elementos dentro de un mismo grupo sean similares entre sí, mientras que los elementos de grupos diferentes sean distintos. A continuación, te explicaré cómo funciona el algoritmo K-means:
*

• Inicialización: El primer paso es seleccionar un número predefinido de clústeres (K) que deseas obtener a partir de tus datos. Luego, se eligen K puntos iniciales como centros de los clústeres. Estos puntos iniciales pueden ser seleccionados aleatoriamente o mediante algún otro método, como k-means++ para mejorar la inicialización.

• Asignación: Para cada punto de datos en tu conjunto, se calcula la distancia entre el punto y los K centros de los clústeres. El punto se asigna al clúster cuyo centro está más cerca de él. Esto crea K grupos iniciales.

• Actualización de los centros: Una vez que todos los puntos de datos se han asignado a un clúster, se recalculan los centros de cada clúster como el promedio de todos los puntos asignados a ese clúster. Estos nuevos centros representan el “centroide” de cada grupo.

• Repetición: Los pasos 2 y 3 se repiten iterativamente hasta que se cumpla algún criterio de detención, como la convergencia (cuando los centros de los clústeres dejan de cambiar significativamente) o después de un número fijo de iteraciones.

• Resultados: Una vez que el algoritmo ha convergido, los puntos de datos se encuentran asignados a sus respectivos clústeres. El resultado es un conjunto de K grupos, donde cada grupo contiene puntos de datos similares entre sí y diferentes de los puntos en otros grupos.

Es importante tener en cuenta que K-means es un algoritmo heurístico y puede converger a un mínimo local en lugar de encontrar la solución óptima global. Por lo tanto, en la práctica, es común ejecutar el algoritmo varias veces con diferentes inicializaciones y seleccionar la mejor solución. También, la elección de un valor adecuado para K puede ser crucial, y se pueden utilizar métodos como el codo (elbow method) o el índice de Davies-Bouldin para determinar el número óptimo de clústeres.

• K-means es eficiente y fácil de implementar, pero tiene limitaciones, como la sensibilidad a la inicialización y la forma de los clústeres. Para problemas más complejos, es posible que se necesiten algoritmos de agrupamiento más avanzados.

Es verdad lo facil que es entender este algoritmo con visulizacion, me encanta.