Pseudo inversa de NumPy para matrices singulares

Curso de Álgebra Lineal para Machine Learning

Contenido del curso

No sé dónde empezar

Introducción al Álgebra Lineal para Machine Learning

Operaciones con Vectores y Matrices

Multiplicación de Matrices

Construcción de un Modelo de Regresión Lineal

Tomar examen

Cursos Empresas Blog Live Conf Eventos Precios

0:0011:51

Pseudo inversa de NumPy para matrices singulares

Curso de Álgebra Lineal para Machine Learning

Clase 16 de 16

Clase 16 / 16

Recursos

Cuando un modelo de regresión lineal falla por multicolinealidad, la pseudo inversa de NumPy se convierte en la herramienta de rescate. Aprenderás qué es, por qué funciona y cómo aplicarla con np.linalg.pinv para encontrar la mejor solución aproximada en problemas reales de machine learning.

¿Qué es la pseudo inversa y por qué resuelve la multicolinealidad?

La pseudo inversa, también conocida como inversa de Moore-Penrose, es una generalización de la matriz inversa tradicional. Su gran ventaja es que funciona con cualquier tipo de matriz: cuadrada, rectangular o singular.

Cuando una matriz tiene columnas linealmente dependientes, como ocurre al duplicar la columna de pies cuadrados a partir de metros cuadrados, los métodos clásicos np.linalg.inv o np.linalg.solve arrojan el error singular matrix. Ahí entra np.linalg.pinv para encontrar los pesos que minimizan el error cuadrático, la técnica que conoces como mínimos cuadrados [1:00].

¿Qué hace la pseudo inversa cuando hay infinitas soluciones? Elige la única cuyo vector de pesos theta tiene la norma más pequeña posible. Es decir, la solución más simple y estable entre todas las matemáticamente válidas.

Como dato curioso, la pseudo inversa se apoya en una técnica avanzada llamada SVD o descomposición en valores singulares [1:35].

¿Cómo aplicar np.linalg.pinv paso a paso en Python?

Partimos del proyecto previo, donde X_enfermo tiene una columna duplicada entre metros cuadrados y pies cuadrados. Primero construimos las matrices base del sistema normal de ecuaciones [2:00]:

python A_enfermo = X_enfermo_bias.T @ X_enfermo_bias B = X_enfermo_bias.T @ Y

Al intentar np.linalg.inv(A_enfermo) @ B confirmamos el error de matriz singular. La solución es reemplazar la inversión tradicional por la pseudo inversa:

python A_pinv = np.linalg.pinv(A_enfermo) theta = A_pinv @ B print(theta)

Esta vez el cálculo se ejecuta sin errores y obtienes los pesos del modelo [3:00].

¿Cómo se ven los pesos theta bajo multicolinealidad?

Al imprimir theta notarás que los coeficientes asociados a las columnas linealmente dependientes (metros cuadrados y pies cuadrados) son muy pequeños comparados con los del modelo saludable original. Esa es una de las firmas más claras de la multicolinealidad: la pseudo inversa reparte el peso entre las variables redundantes en lugar de concentrarlo en una sola [3:30].

¿Las predicciones siguen siendo buenas con un dataset enfermo?

La prueba final está en comparar valores reales contra predicciones del modelo rescatado:

python predicciones = X_enfermo_bias @ theta print(f"Predicciones del modelo enfermo: {np.round(predicciones, 2)}")

Los resultados muestran aproximaciones bastante cercanas a los precios originales [4:20]:

Casa 1: real 310, predicción 308.07.
Casa 2: real 390, predicción 407.37.
Casa 3: real 325, predicción 317.28.
Casa 4: real 530, predicción 522.

A pesar de que el dataset estaba enfermo, la pseudo inversa logra una línea de regresión coherente con los datos reales.

¿Por qué los pesos son pequeños pero las predicciones acertadas? Porque la pseudo inversa distribuye el aporte entre las columnas redundantes y aun así proyecta correctamente los datos sobre el plano de mejor ajuste.

¿Cómo graficar la línea de regresión con la pseudo inversa?

Para visualizar el ajuste con matplotlib generamos puntos nuevos respetando la estructura de cuatro columnas de X_enfermo_bias [5:30]:

python import matplotlib.pyplot as plt

plt.figure(figsize=(8, 6)) plt.scatter(X_enfermo[:, 1], Y, color='blue', label='Datos reales de las casas')

X_linea = np.array([[50], [160]]) X_linea_bias = np.c_[np.ones((2, 1)), X_linea, np.array([[2, 538], [4, 1722]])] Y_linea_pred = X_linea_bias @ theta

plt.plot(X_linea, Y_linea_pred, color='red', label='Línea de regresión con pinv') plt.xlabel('Metros cuadrados') plt.ylabel('Precio en miles') plt.grid(True) plt.legend() plt.show()

El gráfico final muestra una línea roja que se ajusta correctamente a los datos azules, confirmando que las proyecciones ortogonales entregan la mejor solución aproximada al problema [6:30].

¿Qué significa que pinv encuentre la solución de mínima norma?

Con multicolinealidad existen infinitas combinaciones de pesos theta que resuelven el sistema. La pseudo inversa elige la que tiene el vector theta más corto, es decir, la de mínima norma euclidiana. Esto la convierte en la opción matemáticamente más estable y la menos propensa a comportamientos erráticos en producción.

Haber rescatado un modelo matemáticamente roto es una habilidad clave para un científico de datos, porque los datasets del mundo real rara vez son perfectos. Aun así, recuerda que la redundancia entre columnas debe tratarse en la etapa de preprocesamiento siempre que sea posible: la pseudo inversa es un salvavidas, no un sustituto del análisis exploratorio.

¿Te animas a investigar por qué la solución de mínima norma es la más corta de todas las posibles? Comparte tus hallazgos en los comentarios.

Gabriel Obregón

Hace 10 meses

📈 Regresión lineal con multicolinealidad y seudoinversa

🎯 PROBLEMA PRINCIPAL

⚠️ La multicolinealidad rompe el entrenamiento del modelo

🔹 Ocurre cuando hay columnas dependientes

🔹 La matriz se vuelve singular

🔹 Métodos como inv o solve ❌ fallan

🔹 El entrenamiento no puede continuar

➡️ No es un fallo del modelo, es un problema matemático.

💡 IDEA CLAVE

🛠️ Cambiar la herramienta, no el modelo

➡️ Usar la seudoinversa de Moore-Penrose

✔️ Funciona con matrices singulares

✔️ Permite entrenar por mínimos cuadrados

✔️ Si hay infinitas soluciones → elige la más estable

🔍 ¿QUÉ ES LA MULTICOLINEALIDAD?

🔁 Dependencia lineal entre columnas

📌 Ejemplo clásico:

· metros cuadrados

· pies cuadrados

📉 Ambas columnas contienen la misma información

❗ Consecuencia:

· Redundancia

· Pérdida de invertibilidad

🧠 CONCEPTOS CLAVE (MEMORIZAR)

🧩 Multicolinealidad → columnas duplicadas o dependientes

🧩 Matriz singular → no se puede invertir

🧩 Seudoinversa (Moore-Penrose) → np.linalg.pinv

🧩 Mínimos cuadrados → minimiza el error cuadrático

🧩 Solución de mínima norma → el theta más corto posible

🧩 Proyección ortogonal → mejor ajuste sobre los datos

⚙️ ¿POR QUÉ FUNCIONA LA SEUDOINVERSA?

🔧 Generaliza la inversa clásica 🔧 Funciona con matrices:

· cuadradas ⬛

· rectangulares ▭

· singulares ⚠️

🔗 Basada en SVD (valores singulares)

📌 Efecto importante:

· Columnas redundantes → pesos muy pequeños

· El modelo detecta la redundancia solo

🔄 FLUJO EN NUMPY (PASO A PASO)

1️⃣ Construcción del sistema

🧱 Matriz “enferma” + bias

🧱 Ecuaciones normales

2️⃣ Fallo esperado

❌ inv no funciona

❌ matriz singular

3️⃣ Solución correcta

✅ pinv

✅ cálculo de theta

✅ predicciones sin error

Comentarios (14)14 comentarios

Johan L

lizardo durand

Daniel Erazo

Profesor

Marlon Marin

Hace 8 meses

Bryan Castano

Hace 9 meses

NESTOR IVAN RONCANCIO CABALLERO

Gabriel Londoño

Hace 6 meses

Luis Alejandro Arellano Camacho

Hace 5 meses

John Felipe Vélez

Edgardo Riveros Sepulveda

Alejandro José Hugo Escalante Santos

José Eder Guzmán Mendoza

Hace 7 meses

Camilo Alejandro Quiroz Castellanos

Hace 2 días

Wilson Alexander Pinzon Rueda

Hace un mes

Introducción al Álgebra Lineal para Machine Learning

Álgebra lineal detrás de Spotify y Netflix

Configura Google Colab para álgebra lineal

NumPy y Matplotlib para datos en Python

Vectores, matrices y tensores en NumPy

Operaciones con Vectores y Matrices

Resta y broadcasting de vectores en NumPy

Norma L2 vs L1 en vectores con NumPy

Similitud coseno con vectores de palabras

Ortogonalidad y ortonormalidad con NumPy

Multiplicación de Matrices

Producto matriz-vector para inferencia en NumPy

Multiplicación matricial en redes neuronales

Matriz identidad e inversa en NumPy

Construcción de un Modelo de Regresión Lineal

Regresión lineal desde cero con álgebra lineal

Regresión lineal resuelta con álgebra lineal

Determinante y rango para diagnosticar matrices

Multicolinealidad: por qué rompe tu modelo

Pseudo inversa de NumPy para matrices singulares

Pseudo inversa de NumPy para matrices singulares

Progreso del curso

Introducción al Álgebra Lineal para Machine Learning

Operaciones con Vectores y Matrices

Multiplicación de Matrices

Construcción de un Modelo de Regresión Lineal

Recursos

Recursos