Creo que es importante hacer notar la diferencia entre with torch.no_grad() y with torch.inference_mode() ya que lo usamos en el notebook anterior.
- torch.no_grad(): desactiva el cálculo de gradientes para reducir el uso de memoria y acelerar la evaluación de la red neuronal.
- torch.inference_mode(): es una función que se utiliza para optimizar la inferencia en tiempo real en dispositivos móviles y otros dispositivos con recursos limitados. En lugar de desactivar el cálculo de gradientes, “with torch.inference_mode()” desactiva las operaciones que no son necesarias para la inferencia y optimiza las operaciones restantes para mejorar el rendimiento.
¿Quieres ver más aportes, preguntas y respuestas de la comunidad?