Redes Neuronales

Clase 16 de 28 • Curso de Introducción a Machine Learning 2017

Resumen

Historia de las Redes Neuronales:

El concepto de Redes Neuronales llega gracias a un científico que experimentaba con tejido animal. En uno de sus experimentos con un cerebro, se dio cuenta que si desconectaba la parte que estaba conectada al ojo, es decir, la parte que tenía la capacidad de recibir y procesar imágenes, y la conectaba al oído, esta parte desarrollaba la capacidad de escuchar. Con esto llegó a la conclusión de que nuestro cerebro tiene un algoritmo maestro de aprendizaje. Todo depende de la entrada de información que se le provea.

Como resultado de este descubrimiento decidió replicarlo en un algoritmo matemático.

Las Redes Neuronales existen hace más de 60 años. En los años 80´s eran muy utilizadas, pero en los años 90´s decayeron considerablemente debido a que el costo computacional para entrenar una red neuronal era muy elevado.

Hoy en día ha tomado fuerza nuevamente debido a los grandes avances tecnológicos y al hecho de que existe un alto grado de precisión que tienen los resultados de las predicciones que se hacen con estas Redes Neuronales.

Notas importantes:

Las Redes Neuronales son el algoritmo más utilizado hoy en día.
Las neuronas, como lo vimos en el tema de Regresión Lineal, disparan solamente valores de 0 y 1, es decir, ejecutan o no ejecutan
En las Redes Neuronales artificiales todos los resultados caen entre 0 y 1.
Una Red Neuronal se mide por capas. En el esquema que describe a las Redes Neuronales, tenemos por defecto la capa de entrada y de salida, por lo que depende del número de capas de en medio la medición de éstas.
Las compuertas lógicas realizan operaciones basadas en las condiciones lógicas por las que están diseñadas.
Las compuertas lógicas pueden sumar, restar, multiplicar, negar o afirmar un valor.
Las** operaciones sigmoidales** solo dan resultado o 0 o 1.

Ignacio Esteban Aredez Diaz

student•

Redes neuronales _ Puntos importantes para cuando repasamos el curso
Puerta logica “And” y puerta logica “ Oder”

-Todos los resultados están en ceros y unos
-Las capas de una red neuronal de entrada y salida van por default no las contamos, y pueden tener las capas internas qué las vamos a denominar capas ocultas
-En la capa de entrada recibimos los input
-En la capa de salida mandamos los output
-Son operaciones sigmoidales las cuales solo devuelve “0” o “1”

Imput Output ( para el valor “und”)
A B A & B
0 0 0
0 1 0
1 0 0
1 1 1

Imput Output ( para el valor “oder” )

A B A & B
0 0 0
0 1 1
1 0 1
1 1 1

Ricardo Andrés Nakanishi

student•

Es Input no imput, de entrada. Espero que no te moleste mi comentario, pero me molestan mucho esas pequeñeces. Keep it up.

Ignacio Esteban Aredez Diaz

student•

Gracias por la correccion 😉

Fernando López Velasco

student•

¡Hola comunidad!
Una corrección para la profesora: Una red neuronal no es un algoritmo, es una técnica. Las redes neuronales utilizan algoritmos para su entrenamiento.

Juan Puerta Montoya

student•

En el apartado notas, habría que corregir Regresión Lineal por Regresión Logística que la que da salidas binarias. no?

Daniel Eduardo Espitia Corredor

student•

Buen día, ¿que es y para que sirve el bias?

Ivan Triviño

student•

Todos los inputs (x) que ingresan a una neurona se multiplican por unos pesos (W) y a eso se le suma un “bias”; lo anterior es similar a tener:

a = W*x + b

Donde “a” es el valor que se evalúa en la función de activación. Si te fijas, la ecuación anterior es lo que conocimos en secundaria como la ecuación de la recta:

y = m*x + b

De manera que lo que la red neuronal hace en cada una de sus neuronas cuando está aprendiendo es “trazar” rectas (o planos en caso de tener más dimensiones) y con cada iteración las ajusta lo mejor posible para generar la separación más óptima de las muestras positivas y negativas.
Respondiendo tu pregunta de manera más concreta, el “bias” es un parámetro que tienen algunos modelos de red neuronal el cual permite encontrar más rápidamente dicha separación óptima.

Daniel Eduardo Espitia Corredor

student•

Muy buena tu respuesta es lo que buscaba… Gracias!!

Jairo Ramirez Castaño

student•

los pesos que se asignan salen de algún lado o siempre son esos valores?

Diego Forero

Team Platzi•

Sobre el minuto 6 del video explica que los pesos pueden ser aleatorios e ir ajustando a medida que vas corriendo experimentos, o si ya tienes experiencia puedes tomar algunos aproximados para que puedas ajustar más rápido y con menos experimentos.

Jairo Ramirez Castaño

student•

Sii @GOLLUM23 tienes toda la razón, muchas gracias.

Carlos Jacob Carrasco Rodriguez

student•

Es lo mismo que estudiamos en el colegio sobre lógica y las tablas de verdad cuando tenemos :

Negación ( - ) NOT
Conjunción ( ^ ) AND
Disyunción Devil ( v ) OR
Disyunción fuerte ( Δ ) XOR
Condicional ( --> ) Si (pasa algo) entonces
Bicondicional ( <–> ) (algo) si y solo Si (ambas condiciones son Verdades)
En la tablas serían así
Negación
P | - P
V F
F V

Conjunción
P Q | P ^ Q
V F = F
F V = F
F F = F
V V = V

Disyunción débil:
P Q | P v Q
V F = V
F V = V
F F = V
V V = F

Disyunción fuerte:
P Q | P Δ Q
V F = V
F V = V
F F = F
V V = F

Condicional:
P Q | P --> Q
V F = F
F V = V
F F = V
V V = V

Bicondicional:
P Q | P <–> Q
V F = F
F V = F
F F = V
V V = V

Cristian Orozco Benjumea

student•

Las compuertas lógicas serían entonces los mismo operadores booleanos?

Daniel Eduardo Espitia Corredor

student•

Si, ya que la logica es igual debido a que se basan en las mismas tablas de verdad

Héctor Daniel Vega Quiñones

teacher•

Quizá se pregunten "¿Qué pasa si el output es diferente al de la compuerta lógica utilizada? Es decir, sí usan AND lo lógico sería tener un OUTPUT de [0, 0, 0, 1] y a esto se le llama tautología ya que todos sus valores son verdaderos.

En caso de contener valores verdaderos y falso, por ejemplo: [1, 0, 0, 1]. Se le llama contingencia.

Por último, si todos sus valores son falsos, es decir, [1, 1, 1, 0]. Se le llama contradicción.

Danilo Toro

student•

Para que sea tautología nos tiene que entregar [1,1,1,1] y para que sea contradicción nos debe entregar [0,0,0,0]

En binarios el 1 representa “verdadero” o “si” y el 0 representa el “falso” o el “no”.

Recuerda V & V = V y en el ejemplo, 1 & 1 = 1

Héctor Daniel Vega Quiñones

teacher•

@DaniloToro
¡Gracias por la observación!

Daniel Eduardo Espitia Corredor

student•

Si les quedo dudas, aqui les dejo un tutorial para comprender mejor el entrenamiento del perceptron.

Carlos Ernesto Millán Hernández

student•

El perceptrón es un clasificador lineal basado en el concepto de una neurona, que al recibir valores de entrada se activa y se obtiene como salida un valor 0 o 1. Es un modelo simple, pero perfecto para entender el funcionamiento de las redes neuronales.
Mediante un perceptrón se puede resolver el problema del AND y el OR. Sin embargo, no puede resolver el XOR por su limitante como clasificador lineal. La posibilidad de tener una estructura de varias capas (estructura de la red neuronal) permite crear representaciones intermedias de los datos y resolver problemas no lineales.

Daniel Eduardo Espitia Corredor

student•

Muy buena explicación sobre porque el perceptrón solo sirve para problemas lineales como el AND y el OR. Tambien, me parece muy bueno el ejemplo que das con el XOR ya que es una aplicación sencilla que demuestra porqué una red multicapa es necesaria para resolver problemas no lineales

Pedro Contreras

company_admin•

Podria aplicarse a cualquier caso de clasificación binaria como: 1) esta persona es hombre o mujer. 2) este libro sera leido o no en los proximos dias. 3) un numero de loteria saldra o no en el proximo sorteo. 4) la pelicula le gustara o no a las personas.

Luis Fernando Úbeda Camacho

student•

Apuntes de clase

Las redes neuronales es una técnica que utiliza algoritmos de machine learning.

El funcionamiento de una red neuronal de una sola capa consta de 3 subcapas iternas que son la capa de entrada, la capa oculta y la capa de salida:

La capa de entrada: se encarga de las variables input que son los datos de entrada.
La capa oculta: se encarga del procesamiento de los datos a trabes de los algoritmos de machine learning.
La capa de salida: nos devuelve la variables output, que serán los datos de salida, que sera igual al resultado obtenido después del procesamiento de la red neuronal.

Juan Sebastián Daza Vanegas

student•

Existe un canal excelente de habla hispana: DotCSV.

Podríamos complementar este tema con la superlativa explicación del encargado del canal. Además, em estos se aclara la parte donde mediante una función sigmoidal convertimos los outputs a cero o uno; pero no existe sólo la función sigmoidal para modificar el output, está también la tangente hiperbólica; a este conjunto de funciones se les conoce como “Funciones de activación”.

Estos videos son muy recomendados:
¿Qué es una red neuronal?
Parte 1: La neurona -
Parte 2: La red -
Parte 2.5: Jugando con redes neuronales -

Andrés Felipe Martínez Salazar

student•

Que pasaría si tuviera un resultado tal que g(0), se evaluaría como 0 o como 1?, porque según lo entendí la ecuación sigmoidal evalúa como 0 si es negativo y como 1 si es positivo, pero el cero no se considera ni positivo ni negativo.
(En lo personal pienso que seria 0, pero no estoy seguro)

Javier Gomez Velasco

student•

Pues, de hecho en muchas funciones de activacion de redes neuronales, se toma de la siguiente manera
-La neurona se activa si g(0) >= 0 (digamos que el estatus de la neurona es igual a 1)
-La neurona se desactiva si g(0) <0 (el estatus de la neurona es igual a 0)

De acuerdo lo anterior, con una entrada = 0, tenemos una neurona activada y un valor de retorno igual a 1

Andrés Felipe Martínez Salazar

student•

Gracias @xavierjoangomezvelasco.

José Pillado

student•

Las RNA tienen mucha similitud con los modelos de regresión lineal por MCO de economía, según yo, por lo que vi en el video, necesitaríamos encontrar la bondad de ajuste para asignar los mejores pesos a nuestra red.

Emmanuel Diaz

student•

en el minuto 6:09 no entendí que son los vías y los pesos.

Diego Forero

Team Platzi•

bias es un valor que se utiliza para lograr una convergencia más rápida de la red neuronal en la capa oculta.

El valor de los pesos de cada una de las variables de los inputs puede ser definida aleatoriamente e ir ajustando hasta llegar al valor deseado con algo que es conocido y sabemos su resultado, es como si se entrenara un modelo de machine learning.

Juan Sebastián Daza Vanegas

student•

bias también se puede definir como un sesgo, aunque, siendo un poco más analística, bias respresenta el intersecto con el eje y, es decir, es el valor a de la ecuación de regresión lineal vista en videos anteriores.

Maximiliano Rodríguez Porras

student•

Aquí les dejo el código en python que sería la aplicación de ejemplo en esta clase:

import math

def net_and(A,B):
  x = -30.0+20*A+20*B
  sigmoide=1/(1+math.e**(-x))
  return 1 if sigmoide >= 0.5 else 0
  
def run():
  print('A  B  A&B')
  print('{}  {}   {}'.format(0,0,net_and(0,0)))
  print('{}  {}   {}'.format(0,1,net_and(0,1)))
  print('{}  {}   {}'.format(1,0,net_and(1,0)))
  print('{}  {}   {}'.format(1,1,net_and(1,1)))
  
if __name__ == '__main__':
	run()

>  run()
A  B  A&B
0  0  0
0  1  0
1  0  0
1  1  1

Maximiliano Rodríguez Porras

student•

Aquí les dejo el código en python que sería la aplicación de ejemplo en esta clase:

import math

def net_and(A,B):
  x = -30.0+20*A+20*B
  sigmoide=1/(1+math.e**(-x))
  return 1 if sigmoide >= 0.5 else 0
  
def run():
  print('A  B  A&B')
  print('{}  {}   {}'.format(0,0,net_and(0,0)))
  print('{}  {}   {}'.format(0,1,net_and(0,1)))
  print('{}  {}   {}'.format(1,0,net_and(1,0)))
  print('{}  {}   {}'.format(1,1,net_and(1,1)))
  
if __name__ == '__main__':
	run()

Python 3.6.1 (default, Dec 2015, 13:05:11)
[GCC 4.8.2] on linux
   
>  run()
A  B  A&B
0  0   0
0  1   0
1  0   0
1  1   1

Pueden probar el código online aquí si no tienen python:

Mauricio Andrés Guerra Cubillos

student•

Las capas de una red neuranal se miden por el número de capas ocultas que tenga.

Mauricio Andrés Guerra Cubillos

student•

La capa de entrada y la capa de salida existen por defecto.

Redes Neuronales

¡Espera pronto la actualización de este curso!

¡Espera pronto la actualización de este curso!

Introducción a Inteligencia Artificial

Conoce a tu profesora y la estructura del curso

¿Qué es Inteligencia Artificial?

Anatomía de la Inteligencia Artificial

Machine Learning

¿Qué es Machine Learning?

Probablidiad y Estadítica

Revisando Probabilidad y Estadística

Ejercicio escrito: Media, moda y mediana

Varianza y Desviación Estándar

Ejercicio escrito: Varianza y desviación estándar

Algoritmos

¿Qué son algoritmos?

Ejercicio escrito: Secuencia de Fibonacci

Regresión Lineal

Ejercicio escrito: Regresión Lineal

Regresión Logística

Regresión Logística Multinomial