¿Habra que pagar alguna licencia para poder utilizar Java EE al crear software para empresas?

Para nada. No es obligatorio. Oracle hizo el intento, pero no triungo. Hay una JVM de oracle que es de pago, pero esa casi nadie la usa.

Esta la JVM SE de Oracle (la que todos usan) y esa no requiere pago.

Esta la JVM de IBM y esta si es de pago. Supuestamente tiene cosas que mejoran el performance, pero aplica unicamente con Software IBM. A nivel de criptografia, tiene mas algoritmos de encripcion que los que vienen con el de oracle.

Y finalmente esta OpenJDK.

Tengo entendido que no, hay mucho software gratuito que usa Java y no tienen problema.

Se puede pagar licencia para que validen que tu software es compatible y cumple los test de oracle http://www.oracle.com/technetwork/java/javaee/javaee-faq-jsp-135209.html#licensee