Como hacer inferencia del modelo entrenado y cargado en HF

Dentro del curso no queda clara la manera de como utilizar el modelo entrenado para hacer predicciones, así que les dejo los pasos necesarios para que puedan probar sus modelos .

• Lo primero es, debemos guardar el vocabulario generado con el dataset de entrenamiento

torch.save(vocab, 'vocab.pt')

• Y lo subimos al repositorio en HuggingFace

from huggingface_hub import HfApi

api = HfApi()

api.upload_file(
    path_or_fileobj ="vocab.pt",
    path_in_repo="vocab.pt",repo_id="TU_REPOSITORIO"
)

• Les dejo los pasos siguientes en un Notebook de colab para que puedan experimentar.
  Notebook