Si ejecutamos un archivo PHP con ajax al terminar retorna con una respuesta, al terminar las variables creadas en PHP permanecen en memoria?

PHP una vez terminado el script, termina todas la conexiones a la base de datos, y limpia la memoria.

PHP hasta la versión 5.2 no tenia un garbage collector, este fue incluido desde la versión 5.3 y ayuda a limpiar de la memoria información que no esta siendo usada, ten en cuenta que si haces un llamado ajax al menos que estés solo en tu computador local el script se va a llamar varias veces creando varias instancias de las variables para cada petición luego que responde el garbage collector limpia esto.