Se puede usar Visual Studio Code en vez de Rstudio?

Teóricamente todo se puede, pero es mejor usar VSC. Algo si que me ha funcionado y es interesante es usar Jupyter Notebook como cuando trabajas con Python, porque puedes seguir viendo los frames y los gráficos de manera amigable

No te compliques la vida y usa RStudio.

RStudio tiene todo para trabajar con las ayudas (documentación), librerías, gráficos, variables, consola, archivos, etc. etc.

La verdad con todo lo que he trabajado con RStudio no me imagino hacerlo en VS Code. Y si se pudiera necesitaría bastante configuración.

Sí, pero personalmente te recomiendo usar Rstudio ya que está totalmente optimizado para R, además de todas las herramientas que incluye y las formas de visualizar los gráficos/tablas de datos.