Navegando la superficie de error con gradientes

Clase 11 de 28 • Curso de Introducción al Deep Learning 2018

Contenido del curso

Introducción a la Inteligencia Artificial

Proyecto práctico

4
Un problema aun no resuelto: La computación afectiva (affective computing)
07:02 min

Sesión interactiva: Configurar tu ambiente de trabajo

Conceptos básicos

Algoritmos de Deep Learning y Redes Neuronales

Comentarios

Alberto Moreno Castro

student•

Que libros recomiendas ?

Julián Rodríguez

student•

En la sección de archivos y enlaces puedes encontrar referencias algunos libros sobre el tema.

Joel Ricci López

student•

La hipersuperficie, para este caso, representa un valor de error. Nuestro objetivo es minimizar el error de nuestro modelo.
La hipersuperficie esta definida por múltiples dimensiones, y encontrar un mínimo local en ella puede ser muy costoso al tener que probar un número enorme de combinaciones de nuestros pesos (W). Por lo tanto para poder "navegar" en ella y encontrar un mínimo usamos un descenso de gradiente.
La función costo (Loss), es la suma de errores por cada observación.
Para encontrar la dirección hacia la cual el costo decrece, usamos el negativo de la primera derivada de la función. este es el GRADIENTE.
El valor del gradiente es añadido a los pesos (W = W + aG).
El Learning rate (alfa) es el parámetro que multiplica al gradiente (la derivada de la función de costo). Es un valor que merma o potencializa el valor del gradiente.
Un algoritmo de deep learning* puede demorar mucho en entrenarse debido a que puede haber muchos mínimos locales en la hipersuperficie. Generalmente, esto puede corregirse 1) Modificando el valor del learning rate, 2) Cambiar la función de activación (se recomienda ReLU), o 3) Usar un optimizador adaptatico.

Wilson Fernando Antury Torres

student•

Si la primer derivada de la función loss / coste es mayor a cero, indica que está subiendo, está encontrando valores de error más altos.
Si la primer derivada de la función loss / coste es menor a cero, indica que está bajando, está encontrando valores de error bajos, estamos en la dirección correcta.
Si el valor de la primer derivada de la función loss es muy cercana a cero, podríamos estar en un máximo o en un mínimo.
El objetivo es cambiar los pesos de la N.N (parámetros entrenables) un pequeño paso en la dirección que minimice el error / loss.
Pasos: función de loss, gradiente, actualización de los pesos.
El aumento del learning rate hace que encontremos el mínimo local rápidamente, pero así mismo podemos pasar a un nuevo mínimo, pero puede tener un gradiente positivo.
Saddle point: cuando elementos en el proceso de entrenamiento son mínimos y máximos al mismo tiempo.
SGD: stochastic Gradient Descent

Carlos Cabas

student•

#con este código pueden observar gráficamente el descenso del #gradiente, en Google Colaboratory.

import numpy as np import scipy as sc import matplotlib.pyplot as plt

func = lambda th: np.sin(1/2th[0]**2 - 1/4th[1]2 + 3)np.cos(2th[0]+1 - np.eth[1])

res = 100 _x = np.linspace(-2, 2, res) _y = np.linspace(-2, 2, res) _z = np.zeros((res, res))

for ix, x in enumerate(_x): for iy, y in enumerate(_y): _z[iy][ix] = func([x, y])

plt.contourf(_x, _y, _z, 100) plt.colorbar()

#theta = np.random.rand(2)*4-2 theta = [0.0, 0] plt.plot(theta[0], theta[1], "o", c="white") h = 0.001 lr = 0.01 _t = np.copy(theta) grad = np.zeros(2)

for _ in range(10000): for it, th in enumerate(theta): _t = np.copy(theta) _t[it] = _t[it] + h deriv = (func(t) - func(theta))/h grad[it] = deriv theta = theta - lr*grad if(%100 == 0): plt.plot(theta[0], theta[1], "o", c="red")

Joel Ricci López

student•

Aquí un aporte del canal DOT CSV, como siempre una gran explicación del gran Carlos Santana: https://www.youtube.com/watch?v=A6FiCDoz8_4&t=205s

Y en inglés, otro gran canal, increíblemente didáctico, StatQuest: https://www.youtube.com/watch?v=sDv4f4s2SB8

Gonzalo Ferrando

student•

Me uno a la pregunta! ¿Qué libros recomiendas?

Julián Rodríguez

student•

En la sección de archivos y enlaces puedes encontrar referencias algunos libros sobre el tema.

Luis E. Gama Ramirez

student•

Hay alguna otra fuente, de donde podamos enriquecer todos estos conocimientos. ?

Julián Rodríguez

student•

En la sección de archivos y enlaces puedes encontrar referencias algunos libros sobre el tema.

Joel Ricci López

student•

Puedes revisar estos dos videos: https://www.youtube.com/watch?v=A6FiCDoz8_4&t=205s https://www.youtube.com/watch?v=-_A_AAxqzCg

Wilson Fernando Antury Torres

student•

Regla: Un algoritmo de DL demora mucho en entrenar es porque encuentra muchos mínimos locales en la superficie de error.
Fórmula para evitar éste problema: Usar función de activación: ReLU, Usar un optimizador adaptativo(Adam)

Usuario anónimo

user•

Un vídeo para complementar este video: https://www.youtube.com/watch?v=A6FiCDoz8_4 de Dot CSV

Luis Carlos Parra Raffán

student•

Todos los pesos se actualizan con el mismo learning rate ?

Omar Florez

teacher•

Es una gran pregunta, la respuesta es que aunque el learning rate (alpha) se define de forma constante en el codigo de la clase, esta se actualiza de forma adaptativa dado el tipo de optimizador que usamos: Adam.

Permiteme dar un poco de contexto: Es posible establecer una politica manual para reducir el learning rate con el tiempo (Learning Rate Schedules). La intuicion es que la red neuronal tiene menos incertidumbre con el tiempo y por lo tanto puede tomar decisiones mas conservadoras en su busca del minimo global. En su forma mas simple, algunos ejemplos incluyen:

Negative exponential decay: alpha = e^-t
Negative geometric decay: alpha = 1/t

Sin embargo, optimizadores mas modernos como Adam (Adaptive Moment Estimation) permiten calcular la media y varianza de la gradiente de cada parametro entrenable, adaptando el learning rate de forma adaptativa para cada parametro. Es decir, si la gradiente de un peso no muestra mucha variacion con el tiempo, su learning rate sera menor y por lo tanto la actualizacion de este parametro sera mucho mas conservador. Mas detalles en:

Luis Carlos Parra Raffán

student•

Muchas gracias

Usuario anónimo

user•

¿esas derivadas no deberían ser parciales y no totales?

Eddy Nelson Pérez Decena

student•

Pienso que son parciales porque estamos hablando de una funcion multivariable

Odette Elizabeth Huerta Gonzalez

student•

en que parte estan los archivos y enlaces para consultar libros, ya los estuve buscando y no los encontre

Usuario anónimo

user•

Muchas gracias por la explicación

Usuario anónimo

user•

La explicación es muy buena, solo un poco bajo el audio.

Usuario anónimo

user•

no comprendo porque el "básicamente" del profesor les afecta tanto si lo importante es el contenido de la clase y lo que podamos aprender. me parece que ya le estan es faltando al respecto con tanto comentario fuera de lugar.

Usuario anónimo

user•

muy bien.. interesante!

Usuario anónimo

user•

algo interesante sucede cuando BASICAMENTE la funcion de la derivada es BASICAMENTE cercana a cero, BASICAMENTE me dice de que es BASICAMENTE un area en la cual no me puedo mover porque BASICAMENTE....

Usuario anónimo

user•

Usuario anónimo

user•

Gracias

Usuario anónimo

user•

Me anima a seguir aprendiendo.

Usuario anónimo

user•

Buena clase, seguimos.

Navegando la superficie de error con gradientes

Introducción a la Inteligencia Artificial

Todo lo que aprenderás sobre Deep Learning

¿Qué es la Inteligencia Artificial (IA), Machine Learning y Deep Learning?

Objetivo del curso

Proyecto práctico

Un problema aun no resuelto: La computación afectiva (affective computing)

Sesión interactiva: Configurar tu ambiente de trabajo

Configura tu ambiente de trabajo

Resumen

Conceptos básicos

¿Qué es una neurona?

¿Qué es una red neuronal?

Función softmax(z)

¿Cómo aprende una red neuronal?

Navegando la superficie de error con gradientes

Un Ejemplo Concreto: Aprendiendo la Función XOR

Recapitulación

Proyecto: Diccionario en español

Algoritmos de Deep Learning y Redes Neuronales

Modelo #1: Logistic Classifier

Sesión interactiva: Implementación de Logistic Classifier valores de entrada

Sesión interactiva: Implementación de Logistic Classifier arquitectura

Modelo #2: Multi Layer Perceptron (MLP)

Sesión interactiva: Implementación de MLP ingresando datos

Sesión interactiva: Implementación de MLP a nivel de arquitectura

Modelo #3: Long-Short Term Memory (LSTM)

Sesión interactiva: Implementación de LSTM definiendo entradas

Sesión interactiva: Implementación de LSTM arquitectura y optimización

Corriendo modelos

Recapitulando

Evaluando un modelo

Precisión, Accuracy, Recall, y F1 Confussion Matrix

Conclusiones del curso

A gran poder, gran responsabilidad: Ética e Inteligencia Artificial

Contenido Bonus

El Algoritmo Maestro