Si quiero actualizar mi version de python puedo simplemente instalar la nueva version y desinstalar la anterior?

Si se puede hacer, pero si no quiere estar con dolores de cabeza instalando y desinstalando versiones de python cada que necesite una diferente le recomiendo mucho usar Pyenv.

Aquí le dejo un tutorial sencillo de como instalarlo, Y si está en ubuntu o debian solo es ejecutar este comando

sudo apt-get update; sudo apt-get install make build-essential libssl-dev zlib1g-dev \
libbz2-dev libreadline-dev libsqlite3-dev wget curl llvm \
libncursesw5-dev xz-utils tk-dev libxml2-dev libxmlsec1-dev libffi-dev liblzma-dev

Pd: Claro que también puede usar Docker pero si quiere algo rápido es mejor Pyenv.