¿Al error cuadrático medio también se le llama **Desviación estándar **en Estadística? ¿o me estoy confundiendo?

No se mucho de estadística pero creo que no son lo mismo. El error cuadrático medio es un método que al final te ayuda a establecer la función más cercana a todos los puntos. Mientras que la desviación estándar es una medida que te explica qué tan alejados están todos los puntos con respecto a la media.

Aunque se puede notar que en la fórmula de desviación estándar se utiliza el método de mínimos cuadrados ordinarios. Así que no están tan lejos al fin y al cabo.

Hay una diferencia sutil en la fórmula, que tiene que ver con lo que mencionó @cesarruiznavarro. La fórmula de la desviación estándar tiene una "rayita" encima de la segunda "X", lo cual hace referencia a la media. Por otro lado, la fórmula del error cuadrático medio (o RMSE) tiene un "sombrerito" encima de la segunda "X", lo que indica que es una medida en función a un valor calculado, además la segunda "X" tiene un subíndice "i", que indica que la diferencia es con cada valor calculado, y no con un único valor como es la media.