Postprocesamiento de modelos

Curso Profesional de Computer Vision con TensorFlow

Contenido del curso

Comprender la visión computarizada

Dimensionamiento de proyecto de visión computarizada

Obtención y procesamiento de los datos

Entrena, testea y optimiza tus modelos

Producto con visión computarizada en producción

Siguientes pasos en inteligencia artificial

Tomar examen

Cursos Empresas Blog Live Conf Eventos Precios

0:0013:54

Postprocesamiento de modelos

Curso Profesional de Computer Vision con TensorFlow

Clase 29 de 33

Clase 29 / 33

import numpy as np

\# Supón que `predicciones` es un array de predicciones que necesitas reescalar a \[0, 1]

def rescale(predictions):

&#x20;   return (predictions - predictions.min()) / (predictions.max() - predictions.min())

&#x20;  &#x20;

\# Aplicar reescalado

predictions\_rescaled = rescale(predictions)

\# Ejemplo de suavizado usando un filtro de media simple

def moving\_average(predictions, window\_size=3):

&#x20;   return np.convolve(predictions, np.ones(window\_size)/window\_size, mode='valid')

&#x20;  &#x20;

\# Aplicar suavizado

smoothed\_predictions = moving\_average(predictions)

def apply\_threshold(predictions, threshold=0.5):

&#x20;   return (predictions >= threshold).astype(int)

\# Convertir probabilidades a etiquetas binarias

binary\_predictions = apply\_threshold(predictions, threshold=0.7)

\# Supón que `predicciones` es una matriz donde cada fila contiene las probabilidades para cada clase

def decode\_classes(predictions):

&#x20;   return np.argmax(predictions, axis=1)

\# Obtener clases predichas

predicted\_classes = decode\_classes(predictions)

from scipy.stats import mode

def aggregate\_predictions(predictions, method='majority'):

&#x20;   if method == 'majority':

&#x20;       return mode(predictions)\[0]\[0]

&#x20;   \# Agrega más métodos según sea necesario

\# Ejemplo de uso

aggregated\_result = aggregate\_predictions(predicted\_classes)

import shap

\# Supón que tienes un modelo de Scikit-Learn y datos de entrada para el análisis

explainer = shap.TreeExplainer(model)

shap\_values = explainer.shap\_values(X\_test)

\# Visualización con SHAP

shap.summary\_plot(shap\_values, X\_test, plot\_type="bar")

import json

import pandas as pd

\# Convertir predicciones a JSON

predictions\_json = json.dumps(predictions.tolist())

\# Convertir predicciones a CSV

pd.DataFrame(predictions).to\_csv("predictions.csv", index=False)

import cv2

\# Suponiendo que tienes las predicciones de bounding boxes y sus probabilidades

def non\_maximum\_suppression(boxes, scores, threshold=0.5):

&#x20;   indices = cv2.dnn.NMSBoxes(boxes, scores, score\_threshold=threshold, nms\_threshold=0.4)

&#x20;   return \[boxes\[i] for i in indices]

\# Aplicar NMS

final\_boxes = non\_maximum\_suppression(boxes, scores)

from google.cloud import storage

import json

def postprocess(event, context):

&#x20;   client = storage.Client()

&#x20;   bucket = client.get\_bucket(event\['bucket'])

&#x20;   blob = bucket.blob(event\['name'])

&#x20;  &#x20;

&#x20;   \# Cargar las predicciones desde el archivo

&#x20;   predictions = json.loads(blob.download\_as\_string())

&#x20;  &#x20;

&#x20;   \# Ejemplo de umbralización

&#x20;   thresholded\_predictions = apply\_threshold(predictions)

&#x20;  &#x20;

&#x20;   \# Guardar el resultado postprocesado

&#x20;   result\_blob = bucket.blob("processed/" + event\['name'])

&#x20;   result\_blob.upload\_from\_string(json.dumps(thresholded\_predictions))

import numpy as np

\# Supón que `predicciones` es un array de predicciones que necesitas reescalar a \[0, 1]

def rescale(predictions):

&#x20;   return (predictions - predictions.min()) / (predictions.max() - predictions.min())

&#x20;  &#x20;

\# Aplicar reescalado

predictions\_rescaled = rescale(predictions)

\# Ejemplo de suavizado usando un filtro de media simple

def moving\_average(predictions, window\_size=3):

&#x20;   return np.convolve(predictions, np.ones(window\_size)/window\_size, mode='valid')

&#x20;  &#x20;

\# Aplicar suavizado

smoothed\_predictions = moving\_average(predictions)

def apply\_threshold(predictions, threshold=0.5):

&#x20;   return (predictions >= threshold).astype(int)

\# Convertir probabilidades a etiquetas binarias

binary\_predictions = apply\_threshold(predictions, threshold=0.7)

\# Supón que `predicciones` es una matriz donde cada fila contiene las probabilidades para cada clase

def decode\_classes(predictions):

&#x20;   return np.argmax(predictions, axis=1)

\# Obtener clases predichas

predicted\_classes = decode\_classes(predictions)

from scipy.stats import mode

def aggregate\_predictions(predictions, method='majority'):

&#x20;   if method == 'majority':

&#x20;       return mode(predictions)\[0]\[0]

&#x20;   \# Agrega más métodos según sea necesario

\# Ejemplo de uso

aggregated\_result = aggregate\_predictions(predicted\_classes)

import shap

\# Supón que tienes un modelo de Scikit-Learn y datos de entrada para el análisis

explainer = shap.TreeExplainer(model)

shap\_values = explainer.shap\_values(X\_test)

\# Visualización con SHAP

shap.summary\_plot(shap\_values, X\_test, plot\_type="bar")

import json

import pandas as pd

\# Convertir predicciones a JSON

predictions\_json = json.dumps(predictions.tolist())

\# Convertir predicciones a CSV

pd.DataFrame(predictions).to\_csv("predictions.csv", index=False)

import cv2

\# Suponiendo que tienes las predicciones de bounding boxes y sus probabilidades

def non\_maximum\_suppression(boxes, scores, threshold=0.5):

&#x20;   indices = cv2.dnn.NMSBoxes(boxes, scores, score\_threshold=threshold, nms\_threshold=0.4)

&#x20;   return \[boxes\[i] for i in indices]

\# Aplicar NMS

final\_boxes = non\_maximum\_suppression(boxes, scores)

from google.cloud import storage

import json

def postprocess(event, context):

&#x20;   client = storage.Client()

&#x20;   bucket = client.get\_bucket(event\['bucket'])

&#x20;   blob = bucket.blob(event\['name'])

&#x20;  &#x20;

&#x20;   \# Cargar las predicciones desde el archivo

&#x20;   predictions = json.loads(blob.download\_as\_string())

&#x20;  &#x20;

&#x20;   \# Ejemplo de umbralización

&#x20;   thresholded\_predictions = apply\_threshold(predictions)

&#x20;  &#x20;

&#x20;   \# Guardar el resultado postprocesado

&#x20;   result\_blob = bucket.blob("processed/" + event\['name'])

&#x20;   result\_blob.upload\_from\_string(json.dumps(thresholded\_predictions))

Comentarios (5)5 comentarios

Daniel Díaz

Hace 5 años

No soy profesional, pero tengo entendido que hacer el llamado a la predicción directamente desde Flask es mala práctica, porque consume recursos de forma innecesariamente. por ejemplo cada vez que se ejecuta la línea sc = smartcities() estás cargando un modelo nuevo el costo de esa sola línea en producción es muy alto, teniendo en cuenta que entre más existoso sea tu producto (más llamadas al servicio) mayor es el costo computacional, esto lo puedes resolver sacando esta línea del método y convertirlo en atributo de la clase, por otro lado llamar al método predict() del modelo no es eficiente en producción, TensorFlow recomienta usar TensorFlow Serving (Docker) o incluso en el mismo GCP puedes gestionar tus modelos sin siquiera manejar Docker, lo que es mucho más eficiente y escalable.

Adonai Vera

Profesor

Hola Daniel, excelente aporte claro que si, aqui pudiesemos desplegar una arquitectura completa para lograr que este sistema sea optimo y a su vez que nos permita escalar de manera dinamica, si quizas tienes en mente una arquitectura para compartir a los compañeros de la clase dejala por acá, todos los aportes contribuyen al curso.

Muchas gracias!

David Sanchez Alzate

Hace 4 años

Harías un gran aporte a lo comunidad si expresas en código tu comentario, yo también veo que se puede mejorar... pero me confundo un poco al plantear la solución.

¿Por qué es muy importante poner el nombre de la clase en minúsculas?, ¿El estándar no dice que debe empezar con mayúscula?

Hola Daniel, si puedes seguir el estandar y dejar la primera en mayuscula; aquì dejo mas información sobre clases y nombramientos: https://docs.python.org/es/3/tutorial/classes.html

Saludos

Mario Alexander Vargas Celis

Hace 2 años

El postprocesamiento de modelos en Machine Learning implica tomar las predicciones del modelo y transformarlas o interpretarlas de una manera que sea útil para los usuarios o los sistemas que consumen esos resultados. Este proceso varía según el tipo de modelo, los datos y los requisitos de la aplicación. A continuación, se describen algunas técnicas comunes de postprocesamiento de modelos, así como una guía de implementación para algunos de estos métodos.

### 1. **Escalado y Normalización de Resultados**

Si el modelo devuelve valores en una escala que no es adecuada para la aplicación final, es común reescalar estos resultados. Por ejemplo, algunos modelos de redes neuronales pueden dar como salida valores no acotados, por lo que se utiliza una función de activación final para comprimir los valores en un rango específico (ej., [0, 1] o [-1, 1]).

### 2. **Filtrado de Ruido en Resultados**

Para evitar resultados erráticos, especialmente en aplicaciones de visión por computadora o series temporales, se pueden aplicar técnicas de suavizado como filtros de media o mediana, filtros gausianos, o algoritmos de suavizado exponencial.

### 3. **Umbralización para Detección Binaria**

En algunos modelos, como los de clasificación binaria, la salida del modelo es una probabilidad. Para clasificar estos resultados, es común establecer un umbral que determina si el resultado se considera positivo o negativo.

### 4. **Decodificación de Clases**

En clasificación multiclase, los modelos suelen devolver probabilidades para cada clase. Si necesitas obtener la clase final, toma el índice de la probabilidad más alta como la predicción.

### 5. **Agrupación y Agravación de Resultados**

Para aplicaciones donde se necesita tomar decisiones basadas en secuencias de predicciones (por ejemplo, en reconocimiento de voz o análisis de series temporales), se pueden aplicar técnicas de agrupación para unificar varias predicciones en un resultado final, como el método de votación mayoritaria.

### 6. **Explicabilidad y Generación de Reportes**

En algunos casos, es importante que los resultados sean interpretables para los usuarios. Herramientas como **SHAP** o **LIME** pueden ayudar a entender cómo el modelo llegó a sus predicciones.

### 7. **Conversión a Formatos Requeridos (JSON, CSV, ProtoBuf)**

Para que los resultados sean consumidos por otras aplicaciones o servicios, puedes convertir las predicciones a un formato específico. JSON es común para servicios web, mientras que CSV puede ser útil para reportes.

### 8. **Redondeo y Acondicionamiento de Resultados**

Si los valores predichos representan cantidades que requieren redondeo (como precios, cantidad de unidades, etc.), puedes redondear los resultados según sea necesario.


\# Redondeo a dos decimales para valores monetarios

predictions\_rounded = np.round(predictions, 2)

### 9. **Postprocesamiento de Detección de Objetos**

Para detección de objetos (usualmente en visión por computadora), el postprocesamiento puede incluir la eliminación de detecciones duplicadas usando **Non-Maximum Suppression (NMS)**.

### 10. **Automatización del Postprocesamiento en Google Cloud**

Para sistemas en producción, puedes configurar una función de postprocesamiento en **Cloud Functions** o **Vertex AI Pipelines** en Google Cloud Platform.

#### Ejemplo usando Cloud Functions:

Para activar esta función, configúrala para que se ejecute automáticamente cada vez que se suban nuevas predicciones al bucket de GCS.

### Resumen de Postprocesamiento

1. **Escalado y Normalización**: Reescalar valores según el rango deseado.

2. **Filtrado de Ruido**: Suavizar predicciones para evitar cambios abruptos.

3. **Umbralización**: Convertir probabilidades en etiquetas binarias.

4. **Decodificación de Clases**: Obtener las clases predichas en clasificación multiclase.

5. **Agrupación**: Combinar múltiples predicciones en una sola salida.

6. **Explicabilidad**: Utilizar herramientas como SHAP para entender las predicciones.

7. **Conversión de Formatos**: Convertir resultados a JSON, CSV u otros formatos requeridos.

8. **Redondeo y Acondicionamiento**: Ajustar valores numéricos finales.

9. **Non-Maximum Suppression (NMS)**: Filtrar detecciones en visión por computadora.

10. **Automatización**: Configurar postprocesamiento automático en Google Cloud.

Este enfoque asegura que tus resultados sean precisos, limpios y fácilmente interpretables para la aplicación final.

Alejandro Lloveras

Aqui se puede ver la importancia de utilizar bien desde un principio la indentación del código. El vídeo quedó extremadamente confuso de forma innecesaria por reutilizar ese fragmento d código mal indentado. Por algo existen las “buenas prácticas”.

Ese tipo de detalles pueden ser la diferencia entre que alguien incursionando en estos temas pueda avanzar o abandone definitivamente. Podría ser mucho mas didáctico y fluido el aprendizaje cuidando esos pequeños detalles.

Joaquin Romero Flores

Revisen la identacion. lo que dice el profe es tal cual

Comprender la visión computarizada

¿Por qué aprender computer vision?

¿Qué es la visión computarizada?

Tipos de visión computarizada

Introducción a object detection: clasificación + localización

Aprende a identificar problemas

Dimensionamiento de proyecto de visión computarizada

Cómo definir los tiempos de tu proyecto

Cómo costear tu proyecto

Cómo identificar los roles necesarios en el proyecto

Producto mínimo viable en computer vision

Obtención y procesamiento de los datos

Obtención de datos para tu proyecto

Limpieza de la base de datos

Distribución de datos en entrenamiento y testeo

Etiquetado de los datos de test

Etiquetado de los datos de train

Transforma tu base de datos a TFRecord

Transformar CSV a TFRecord

Entrena, testea y optimiza tus modelos

Librerías a importar durante fase de entrenamiento

Fase de entrenamiento del modelo

Balanceo de imágenes y data augmentation

Entrena, evalua y optimiza con TensorBoard

Validación de modelo en un entorno de ejecución

Re-entrenamiento del modelo para obtener mejores resultados

Seguimiento de centroides con OpenCV

Configuración de los centroides con OpenCV

Algoritmo de dirección y conteo con OpenCV

Crea un ciclo de entrenamiento de tu modelo: MLOps

Producto con visión computarizada en producción

Prepara tu entorno en Google Cloud Platform

Carga y preprocesamiento de modelos

Postprocesamiento de modelos

Despliega y consume tu modelo en producción

Bonus: aprende a apagar las máquinas de GCP para evitar sobrecostos

Siguientes pasos en inteligencia artificial

Siguientes pasos en inteligencia artificial

Comparte tu proyecto de detección de vehículos en carretera y certifícate

Postprocesamiento de modelos