Cuando uno hace <code>npx create-react-app appName</code> automaticamente se instala algo de webpack y empieza a funcionar o que onda? es...

aqui puedes leer más sobre los features de CRA https://github.com/facebook/create-react-app#whats-included

aquí puedes leer sobre el código generado al ejecutar el comando "eject" de CRA https://github.com/nitishdayal/cra_closer_look#yarn-ejectnpm-run-eject

y aquí puedes leer más sobre el proceso de compilación que ejecuta CRA https://github.com/nitishdayal/cra_closer_look#yarn-ejectnpm-run-eject

En efecto, CRA usa webpack y babel. Pero la configuración de webpack interna está preparada de forma robusta para diferentes integraciones y situaciones como Typescript, Flow, JSX, React, Autoprefixed CSS, ES6, Jest, JS, CSS, Imágenes preparadas para producción, y genera hashes y sourcemaps.

Adicional que está preparado con service workers y un manifest listos para comenzar a desarrollar un PWA, e incluye un dev environment auto ejecutado y con hot reload.

Que otras cosas intersantes corre por detras? babel o algo asi?

CRA es un tool de React oficial. Si, al ejecutar el instalador de CRA te crea un proyecto Client Side de React, e internamente tiene una configuración de webpack que hace el trabajo por ti. Esa configuración y muchos otros archivos no los ves, son parte de los scripts de CRA, pero si hay forma de aumentar el comportamiento del webpack de CRA y exponerlo.

create-react-app es un "programa" que te crea una aplicación de React de forma automática, tiene detrás corriendo muchas cosas, una de ellas es webpack; te ahorra toda la configuración, su defecto es que no es personalizable. Si tu quieres saber qué es lo que trae detrás creo que lo explican en el curso práctico de React.