Fundamentos de Redes Neuronales y Deep Learning
Contenido del curso
Axel Yaguana
Team Platzi
Ikal Esteban Fernández Galván
Hubert Teller
Daniel Pérez
Julián Cárdenas
Patricio Sánchez Fernández
Antonio Demarco Bonino
Julián Cárdenas
Gian HM
Matías Collado
Wilmer Fernando Sanabria
Lilia Susana Hernández Trimiño
Jhon Freddy Tavera Blandon
Rodmy Suarez
Jovanny Delgado
Jovanny Delgado
Jovanny Delgado
Emmanuel Guerra Sánchez
Valentina Cobo Paz
Heberto Nicolás Hernández Andrade
NESTOR IVAN RONCANCIO CABALLERO
Javier Emanuel González Andrade
Jorge Guevara
Sebastian Hernandez Matiz
Isaac Bryan Ascanoa Roncall
Juan José Mamani Tarqui
Sebastian Lopez Acero
José Pablo Cabrera Romo
Jovanny Delgado
Min 3:55. g1(x) = 6, not 7. 🤔
!noice
Sería bueno que en la pestaña de recursos colocaran una sección de "ERRATA". Para evitar confusiones para los futuros estudiantes. Especialmente, si esto ya fue reportado.
Les recomiendo este video sobre redes neuronales, les va a encantar.
Gracias!
Daniel, muchas gracias por el link...!
Este video me ayudo a entender mejor la clase: https://www.youtube.com/watch?v=HMEjoBnCc9c&t=6s&ab_channel=AprendeInnovando
Buen aporte!
el peor curso que eh tomado de platzi
Honestamente me gustaría saber por qué. Yo opino en esta clase todo lo contrario. Los profes que se salvan son muy pocos y me parece que esta chica es uno de ellos.
Coincido, siento que los profes suelen dar clases con el proposito que entendamos y por ende el material y lenguaje que utilizan, pero en esta clase siento ella esta cumpliendo con dar la clase, en una permanente lectura, tomando con la misma importancia conceptos simples y conceptos mas densos de entender.
Tipos de Función de activación para la capa de salida
Ahora Deep learning es introducir profundidad en nuestras capas ocultas.
El proceso de funcionamiento de una red neuronal consta de varias etapas:
Entrada:
Propagación hacia adelante:
Funciones de activación:
Pesos y bias:
Capas ocultas:
Función de pérdida:
Retropropagación del error:
Ajuste de pesos:
Predicción:
En el contexto del aprendizaje profundo (deep learning), la idea principal es agregar más capas a una red neuronal. A diferencia de las redes neuronales tradicionales, que suelen tener una o dos capas ocultas, las redes neuronales profundas están compuestas por muchas capas ocultas, lo que les permite aprender y modelar representaciones jerárquicas de los datos.
A medida que se añaden más capas a una red neuronal, se aumenta la capacidad del modelo para capturar características y patrones más complejos en los datos. Cada capa adicional puede aprender representaciones más abstractas y de nivel superior basadas en las características extraídas por las capas anteriores. Esto permite que la red neuronal profundice en la estructura de los datos y extraiga características más sofisticadas a medida que se avanza en las capas.
El aprendizaje profundo ha demostrado ser especialmente eficaz en problemas de visión por computadora, procesamiento del lenguaje natural, reconocimiento de voz y otras tareas que implican datos de alta dimensionalidad y relaciones complejas. Al añadir más capas y aumentar la profundidad de la red neuronal, los modelos de aprendizaje profundo pueden alcanzar un rendimiento superior en comparación con modelos más superficiales.
Sin embargo, es importante tener en cuenta que agregar más capas a una red neuronal también puede hacer que el modelo sea más difícil de entrenar y requiera más datos y recursos computacionales. Además, el diseño y la arquitectura de la red, así como la elección adecuada de funciones de activación, optimizadores y otras técnicas de regularización, también son factores críticos para el éxito del aprendizaje profundo.
En el contexto de las redes neuronales, una función de activación es una función matemática que se aplica a la salida de cada neurona en una capa de una red neuronal. La función de activación introduce no linealidad en el modelo y permite que la red pueda aprender y modelar relaciones más complejas en los datos.
Aquí hay algunos tipos comunes de funciones de activación utilizadas en redes neuronales:
Función de activación lineal: Esta función simplemente calcula una combinación lineal de las entradas y los pesos de la neurona. No introduce no linealidad en el modelo y generalmente se utiliza en capas de salida para problemas de regresión. Su fórmula es: f(x) = x.
Función de activación sigmoide: La función sigmoide transforma los valores de entrada a un rango entre 0 y 1. Es útil en problemas de clasificación binaria, donde se busca una salida que represente la probabilidad de pertenecer a una clase. Su fórmula es: f(x) = 1 / (1 + exp(-x)).
Función de activación ReLU (Rectified Linear Unit): La función ReLU es una función no lineal que activa la neurona si la entrada es mayor que cero, y de lo contrario, la desactiva. Es una función simple y ampliamente utilizada que ayuda a mitigar el problema del desvanecimiento del gradiente. Su fórmula es: f(x) = max(0, x).
Función de activación Leaky ReLU: Es una variante de la función ReLU que permite un valor pequeño y no nulo para las entradas negativas. Esto evita que las neuronas se desactiven completamente y puede ayudar a mejorar el rendimiento en algunos casos. Su fórmula es: f(x) = max(αx, x), donde α es un valor pequeño.
Función de activación softmax: La función softmax se utiliza comúnmente en la capa de salida de una red neuronal para problemas de clasificación multiclase. Transforma las salidas en una distribución de probabilidad, donde la suma de todas las salidas es igual a 1. Su fórmula es: f(x) = exp(x) / sum(exp(x)).
Estos son solo algunos ejemplos de funciones de activación utilizadas en redes neuronales. Cada función de activación tiene sus propias características y es más adecuada para ciertos tipos de problemas. La elección de la función de activación depende del tipo de tarea que se esté abordando y de la naturaleza de los datos.
Al asignar pesos a las variables de entrada en un modelo de red neuronal, es importante considerar el impacto relativo que cada variable tiene en la predicción o resultado final. Aquí hay algunos criterios comunes para tomar en cuenta al asignar pesos a las variables de entrada:
Importancia de la variable: Si tienes conocimiento previo o evidencia que sugiere que ciertas variables son más relevantes para el problema en cuestión, puedes asignarles pesos más altos. Esto puede basarse en conocimientos expertos, estudios anteriores o intuiciones sobre la relación entre las variables y el resultado que estás tratando de predecir.
Escala de la variable: Si las variables de entrada tienen diferentes escalas o rangos de valores, es posible que desees normalizar o estandarizar las variables antes de asignar pesos. Esto asegura que las variables se consideren de manera equitativa y no se vean dominadas por aquellas con valores más grandes.
Coeficiente de correlación: Puedes calcular los coeficientes de correlación entre las variables de entrada y la variable de salida. Variables que tengan una correlación más fuerte con la variable de salida pueden recibir pesos más altos, ya que se considera que tienen una mayor influencia en la predicción.
Importancia relativa de la característica: Si las variables de entrada representan diferentes características o aspectos del problema, puedes asignar pesos basados en la importancia relativa de esas características. Por ejemplo, en un problema de detección de fraudes, las características relacionadas con el historial de transacciones pueden considerarse más importantes que las características demográficas.
Es importante tener en cuenta que la asignación de pesos a las variables de entrada puede ser un proceso iterativo y sujeto a ajustes. Puedes probar diferentes asignaciones de pesos, evaluar el rendimiento del modelo y realizar ajustes en función de los resultados.
Además, es importante destacar que la asignación de pesos en una red neuronal también puede realizarse automáticamente a través del proceso de aprendizaje. Los algoritmos de aprendizaje de redes neuronales, como el descenso de gradiente, ajustarán los pesos durante el entrenamiento para minimizar la función de costo y mejorar la precisión del modelo.
Este proceso de capas es optimizable hasta que punto? Imagino que esta pensando para computadoras con buenas GPU cuando se tiene una gran cantidad de datos
Lo que tengo entendido es que el objetivo es llegar a un punto de equilibrio entre la capacidad de aprendizaje de las features y la capacidad de generalización. Por eso es recomendable empezar con una arquitectura de red simple con pocas capas ocultas. Con el desempeño de esta arquitectura inicial se puede ir agregando más capas y evaluando rendimiento hasta que se estabilice o llegar a un punto óptimo. Tambien toca verificar que no haya un sobreajuste y aplicar las técnicas de regularización, pero para cada modelo hay que hacer la exploración correspondiente. En otras palabras, jugar con los parámetros del modelo mientras evaluas el rendimiento hasta llegar al óptimo. Puede que sea con pocas capas, puede que se necesiten muchas.
Amazing explanation !
This course is excellent, but i think we might know some previous statistics knowleadge.
Also, some knowledge of linear algebra
En el siguiente link pueden acceder a un sandbox de tensor flow, una de las librerias para crear redes neuronales mas usada. En esta web pueden crear sus propias redes neuronales de una manera visual para ganar una mejor intuicion de como funcionan:
Es interesante el uso de las redes neuronales. Espero que algun dia ese curso llame mi atencion. Soy de esas personas que le gusta aprender de manera sencilla y no tediosa.
<u>Cómo funcionan las redes neuronales</u>
Otro recurso de Youtube para reforzar conceptos
Wow, me habría servido mucho saber todo esto antes de tomar clases de optimización y simulación.
Ejemplo de Código para una red Neuronal: import numpy as np from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler import tensorflow as tf from tensorflow import keras from keras.models import Sequential from keras.layers import Dense
Datos de entrada
edad = np.array([25, 30, 35, 40, 45, 50, 55, 60, 65, 70]) salario = np.array([50000, 60000, 70000, 80000, 90000, 100000, 110000, 120000, 130000, 140000]) dinero_gastado = np.array([1000, 2000, 3000, 4000, 5000, 6000, 7000, 8000, 9000, 10000]) objetos_comprados = np.array([5, 6, 7, 8, 9, 10, 11, 12, 13, 14]) gusta_anuncio = np.array([0, 0, 0, 0, 1, 1, 1, 1, 1, 1]) # 0 = No gusta, 1 = Gusta
Preprocesamiento de los datos
X = np.column_stack((edad, salario, dinero_gastado, objetos_comprados)) y = gusta_anuncio scaler = StandardScaler() X = scaler.fit_transform(X)
División de los datos en conjuntos de entrenamiento y prueba
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
Creación del modelo de red neuronal
model = Sequential() model.add(Dense(16, input_dim=4, activation='relu')) model.add(Dense(1, activation='sigmoid'))
Compilación y entrenamiento del modelo
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) model.fit(X_train, y_train, epochs=100, batch_size=8)
Evaluación del modelo
loss, accuracy = model.evaluate(X_test, y_test) print('Precisión del modelo:', accuracy)
Predicción de nuevos datos
nueva_persona = np.array([[35, 75000, 5000, 6]]) nueva_persona = scaler.transform(nueva_persona) prediccion = model.predict(nueva_persona) print('Predicción:', prediccion)
