Sesgos y bias en modelos de generación de imágenes

Recuerdo el caso del prompt de salmones en el río, siempre genera carne de salmón 🤦‍♂️

“La diversidad es nuestra mayor fortaleza”.

Información resumida de esta clase
#EstudiantesDePlatzi

• Importante crear ética dentro del IA

• Existe sesgo en nuestra sociedad y la IA ha aprendido de lo que esta en internet, lo que esta en internet hasta el momento ha sido creado por nosotros

• Como sociedad debemos cambiar los sesgos

Puede que el sesgo que presentan las IAs Text-to-Image se deba a que la corriente de la inclusión, diversidad, género, igualdad laboral y demás, me atrevería a decir que es relativamente “reciente”. Por lo mismo, hay poco material para enseñar el algoritmo, por tanto, al ser entrenado con imágenes sesgadas, es natural que lo replique en los prompts. No digo que sea bueno o malo, probablemente en cinco o 10 años más, la calidad del entrenamiento mejore, porque habrá una mayor cantidad de imágenes para mejorar los algoritmos y arroje una representación más fidedigna del momento que se vive. Por ejemplo: Aquí en Chile, desde hace unos tres años, se ha empezado a incluir mujeres de talla “XL” en las publicidades, también se incluyen mujeres y hombres de raza negra, asiáticos y preferencias sexuales. El Estado se ha hecho eco de la situación actual, en las comunicaciones de políticas públicas incluye hombres y mujeres de raza negra, porque es nuestra realidad actual producto de la globalización y la inmigración.
Como digo, todo depende del momento y quizás en 30 años más, nuestra realidad sea considerada “prehistórica”.