Funciones de costo o pérdidas

Clase 8 de 22 • Curso de Redes Neuronales en Keras y Scikit-Learn 2019

Alberto Perdomo

student•

La función de perdida al igual que la función de activación depende de la naturaleza del problema a resolver. La siguiente es una selección común encontrada en la literatura:

Para un problema de regresión la función de perdida es MSE
Para un problema de clasificación binaria la función de perdida favorita es BCE(Binary Cross Entropy)
Para un problema de clasificación multiclase, la función de perdida más usada es NLL (Negative Log-likehood). Esta función no se comenta en esta sesión, pero su grafica es esta:

Y su ecuación es esta:

johan Stever Rodriguez Molina

student•

en el caso del mean absolute error, el profe no menciona su gran desventaja, la cual radica en que su “derivada” tiene problemas muy cerca a cero, lo cual es poco conveniente ya que en las iteraciones, el conocido “back propagation” hace uso de dichas derivadas.

María José Medina

student•

En la binary cross entropy: ŷ → valores predichos.

Christian Sanclemente

student•

Los outliers son valores atípicos, es decir aquellos que se encuentran por fuera del comportamiento general de una muestra de datos.

Hector F

student•

¿A qué se refiere con "robusto" ante outliers?

Luis Fernando Úbeda Camacho

student•

Pues que es una métrica que no se ve afectada por los valores muy extremos. Como por ejemplo el promedio se ve afectada por los valores extremos, porque estás sumando todos los valores y dividiendo por el total, al tener un valor extremo el promedio aumentará, pero la mediana no se ve afectada por los valores extremos porque es el dato que se encuentra justo a la mitad y da igual que haya un valor extremo, no se verá afectada. En esta caso MAE es más robusta que MSE porque la segunda eleva al cuadrado las diferencias y si tienes un valor muy grande, al elevarlo al cuadrado será extremadamente grande.

Hector F

student•

¡Muchas gracias @luifer088!

Jony Caleb Hurtado Ramos

student•

Comparación de funciones de pérdida -> Orientación residual -> Robusto frente a Outliers MAE (Mean Absolute Error) -> Valor absoluto -> SI MSE (Mean Squared Error) -> Cuadrado -> NO MAPE (Mean Absolute Precentage Error) -> Valor Absoluto -> SI

Rodrigo Urquizo Yepez

student•

Estas funciones de costo se usan para problemas de regresion, es decir, con variables continuas.

Christian Quispe Bonilla

student•

Excelente. Muy clara y sencilla tu explicación. Espero que más adelante vengan ejemplos para cada caso :)

Funciones de costo o pérdidas

Apropiar conceptos fundamentales de las redes neuronales

¿Qué es una red neuronal?

Identificar los principales Frameworks usados en la industria para el desarrollo de Deep Learning

Frameworks de Deep Learning

Comprender los modelos de representación de las redes neuronales artificiales usados en Deep Learning

Estructura de redes neuronales

Creando nuestra primer red neuronal

Entrenando nuestra primera red neuronal

Visualizando el proceso de entrenamiento

Funciones de activación

Funciones de costo o pérdidas

Inicialización y Entrenamiento de RN

Optimizadores en redes neuronales

Clasificación Binaria

Clasificación de potenciales clientes

Análisis de resultados

Métricas de desempeño: regresión y clasificación

Evaluando métricas de desempeño

Ajuste de redes neuronales: overfitting y regularización

Regularización

Ajuste de redes neuronales: Hiper parámetros

Crear un modelo de regresión a partir de un caso de uso real

Introducción a las regresiones con Deep Learning: Planteamiento del problema

Solución del problema de regresión

Ajustes finales al proyecto

Cierre del curso

Cierre del curso