Porque al instalar algunas aplicaciones me salen diferentes versiones (32-bit o 64-bit). Esto tiene que ver con los Bytes?

Es la arquitectura del procesador, la arquitectura para 32 bits es conocida como x86 y para 64 bits es x64, no pasa nada en general, la diferencia es que tienes más capacidad de computo generalmente con 64 bits.

Si quieres saber donde se instala cada programa, existe una carpeta en el disco C de windows, se llama Program Files o archivos de programa, para 32 bits se llama Program Files x86.

Puedes ejecutar programas de 32 bits en un pc de 64 bits, ya que windows tiene una capa de más que se encarga de interpretar las intrucciones y procesarlas como si fueran de 64 bits.

si tu computador es de 32 bits solo encontrarás una unica carpeta que se llamará Program Files ya que no es necesario incluir una carpeta de más, solo saldrán estas 2 carpetas si tu computadora es de 64 bits.

Esto tiene que ver con el procesador. Los de 32 bits no son capaces de gestionar tanta memoria RAM como los de 64. Por dentro estos sistemas deben hablar un mismo "idioma" al momento de almacenar la información. Puedes descargar software de 32 bits en un ordenador de 64 bits pero no puedes hacer lo contrario ya que generalmente no podrás ejecutarlo.