¿Cómo se cuando usar Fragment o cuando usar div simplemente? ¿O como saber cuando usar un Fragment?

El Fragment lo puedes usar cuándo no deseas agregar un elemento extra al DOM ya que el Fragment es un "elemento fantasma". Por ejemplo tu archivo html tiene un div y dentro de este div solo quieres mostrar un texto si retornas un div en el componente entonces tu html quedaría

<div>
	<div>
	texto
	</div>
</div

mientras que con un Fragment sería:

<div>
	texto
</div>

Es más por un tema semantico, si la agrupacion que estas haciendo tiene valor semantico, como por ejemplo una lista de Algo, o un Container de elementos, es mejor utilizar un Div normal o un componente, pero si no tiene valor semantico, pues utilizas Fragment.

Te recomiendo esta lectura: https://getstream.io/blog/react-fragments/.

Por defecto al guardar el Fragment me desaparece, no necesito importarlo y cambia por <> </>