Creación de Flujos de Trabajo con Prefect para Machine Learning

Clase 18 de 35Curso de MLOPS: Despliegue de Modelos de Machine Learning

Resumen

¿Qué es un flow y cómo se compone?

Un flow es el orquestador de las tareas necesarias para resolver un problema de machine learning. Es crucial entender que un flow agrupa múltiples tareas, cada una con una función específica. En el desarrollo de un proyecto de machine learning, el flow es una herramienta esencial que permite estructurar, automatizar y optimizar los procesos desde la obtención de datos hasta la implementación de un modelo.

¿Cómo definimos y componemos un flow en Visual Studio Code?

Para definir un flow en Visual Studio Code, se requiere definir las tareas necesarias y luego integrarlas en un solo flujo. El ejemplo que abordamos utiliza un flow para la clasificación de iris. Este incluye tareas como la obtención de datos, la división en conjunto de entrenamiento y prueba, y el entrenamiento de un modelo usando un clasificador aleatorio (Random Forest Classifier).

# Ejemplo de código para dividir datos utilizando Scikit Learn
from sklearn.model_selection import train_test_split

def split_data(data):
    X = data['data']
    y = data['target']
    return train_test_split(X, y, test_size=0.2, random_state=42)

¿Qué tareas añadimos a un flow?

Las tareas que usualmente añadimos a un flow están orientadas al flujo completo del proceso de machine learning. Las tareas más comunes son:

  1. Obtención de datos: Extraemos los datos usando Scikit Learn.

  2. División de datos (split data): Dividimos los datos en entrenamiento y prueba.

  3. Entrenamiento del modelo (train model): Entrenamos un modelo para predecir o clasificar los datos.

    Ejemplo de entrenamiento de un modelo usando Random Forest

    from sklearn.ensemble import RandomForestClassifier

    def train_model(X_train, y_train): model = RandomForestClassifier() model.fit(X_train, y_train) accuracy = model.score(X_train, y_train) print(f"Accuracy: {accuracy}") return model

¿Cuáles son las ventajas de implementar flows?

Implementar flows presenta una serie de ventajas sustanciales. Entre ellas, permite automatizar los procesos repetitivos, minimizando errores humanos y aumentando la eficiencia del proyecto. Además, la visualización y seguimiento de cada tarea dentro de un flow es más sencilla, especialmente si utilizamos herramientas como Prefect para ejecutarlos.

¿Cómo se ejecuta un flow en Prefect?

Para ejecutar un flow en Prefect es necesario tener un servidor prefabricado y correr los scripts correspondientes:

# Ejecutando el servidor de Prefect
prefect server start

# Ejecutando el script con el flow
python my_flow_script.py
  • Terminal A: Inicializa el servidor de Prefect.
  • Terminal B: Ejecuta el script.

¿Qué debemos tener en cuenta al crear flujos automáticos?

Al crear flujos de trabajo, es vital que consideremos los parámetros que cada flow puede recibir. Esto incluye los nombres, descripciones, etiquetas, entre otros. Además, la integración con programadores externos como Cron puede facilitar la ejecución periódica de estos flujos, lo cual es indispensable para tareas recurrentes como el reentrenamiento de modelos.

¿Cómo gestionamos los artefactos generados en flows?

En un flow, una tarea puede generar artefactos como salidas. Por ejemplo, la división de datos puede producir archivos comprimidos para su uso futuro, minimizando el impacto en la memoria. Es recomendable familiarizarse con la creación y gestión de estos artefactos como parte integral de los procesos de machine learning.

En resumen, dominar los fundamentos y aplicaciones de los flows es esencial para cualquier profesional en el ámbito de machine learning, ya que permite llevar las tareas experimentales a entornos productivos de manera eficiente y eficaz.