Funcionamiento interno de los grandes modelos de lenguaje
Contenido del curso
Moises Baldenegro Melendez
Edgar A. Gonzalez Ambriz
Juan Carlos Gutiérrez Ayala
Manuel Ayala
Diana Cristina Arias Centeno
Santiago Perozo
Gustavo Mamani
Gustavo Mamani
Frank Torres
Frank Stephano Alayza Herrera
Mireya Lara
Erick Garita Morales
Jhon Maldonado
Carlos Alberto Zapata Rodriguez
Carlos Emiliano Buelna García
Gabriel Obregón
Manuel Bourrouett
Luis Angel Frias Herrera
Roberto Vergara Trejo
Leyder Sanchez
Mauricio Suarez
Javier Ramos
Daniel Eduardo Cruz Gonzalez
Gonzalo Blasco
José Luis Puc Sarmiento
Mariangelica Useche
Team Platzi
Mauricio Martínez Orjuela
Juan Diego Ussa Aponte
Sergio Eyzhan Del Castillo
Jesús Isaías Ramos
Jesús Isaías Ramos
Gonzalo Andrés Rojas Cardona
Esto de estar sacando los cursos a pedazos, será habitual? ...
No, es la primera vez que me sucede
Otos cursos han estado así recuerdo uno de ChatGPT y otro del mismo Freddy sobre Intgiería de software.
No sé por qué sacas pedazos, se rompe el ritmo y luego al final uno no sabe si ya acabó el curso o qué. No hay ni aviso de "continuará" ni aviso al inicio de que es solo una parte y no sé cuando continuará.
A mí me ayuda entender los LLMs comparándolos con nuestro propio cerebro.
La tokenización sería como cuando los sentidos captan información y la mente la corta en pedacitos: palabras, imágenes, recuerdos. Los embeddings se parecen a las asociaciones que construimos con nuestras experiencias: para cada palabra o situación, nuestro cerebro tiene un “vector” de significados, emociones y memorias. Y las capas ocultas recuerdan a nuestros procesos internos: ahí es donde nuestras creencias, prejuicios y aprendizajes anteriores combinan todo y terminan generando lo que pensamos, sentimos o decimos (el output).
Si lo miramos así, casi podríamos decir que nuestras creencias funcionan como “parámetros” o “pesos” matemáticos: deciden a qué le damos más atención y qué ignoramos. Y eso conecta con la neurolingüística y la idea de reprogramar la mente: cambiar el “modelo” interno para que produzca respuestas diferentes ante los mismos estímulos.
Si los LLMs aprenden de los datos con los que se entrenan, ¿de qué datos se ha entrenado nuestro propio “modelo mental”: familia, cultura, medios, algoritmos…?
Y, sobre todo, ¿qué tan conscientes somos de que también podemos “fine-tunearnos” a nosotros mismos?
GRACIAS
Que genial tu explicación, me ayudo a verlo desde una perspectiva muy práctica
Intro to Large Language Models by Andrej Karpathy (founding member OpenAI 2015 and ex Director of AI Tesla 2017)
It's written for other engineers who are new to topics like neural networks, deep learning, and transformers. ->
Gustavo, that article from leerob is amazing, thank you for sharing!
Hola Frank, gracias por tu aporte gráfico. Llevo varios cursos usandolos como guía a la hora de tomar los exámenes.
El query en el modelo de atención no necesariamente es solo la última palabra del prompt, sino que es un vector que representa la consulta que se hace sobre el contexto completo. Sin embargo, en el caso específico del proceso de generación de texto, el último token o palabra del prompt se utiliza como referencia para determinar qué palabras cercanas en el contexto son relevantes para predecir la siguiente palabra. Así, aunque el último token es fundamental, el query puede involucrar otros elementos del contexto para hacer una elección más informada.
La clase se centra en el funcionamiento de los grandes modelos de lenguaje (LLMs). Se abordan conceptos como tokenización, embeddings, y la arquitectura de Transformers. Se explica cómo se entrenan estos modelos, dividiendo el lenguaje en tokens y evaluando la correlación entre ellos en un espacio multidimensional. Se presenta el modelo de atención, que permite identificar palabras significativas en el contexto. Finalmente, se destaca la importancia del aprendizaje reforzado con retroalimentación humana (RLHF) para mejorar la interacción de los modelos como chatbots.
1. Correcciones clave (importantes)
Sobre los tokens
“El inglés utiliza aproximadamente 50,000 tokens”
Impreciso
✔ Corrección:
Ejemplos reales:
Pero:
No son palabras, son subpalabras (ej: “caminar” → “cami” + “nar”)
Sobre el 70% / 30%
“70% entrenamiento y 30% prueba”
Simplificación incorrecta para LLM modernos
✔ Realidad:
Sobre “no se analizan todas las palabras”
“solo las relevantes”
⚠️ Parcialmente cierto
✔ En realidad:
⚙️ 2. Explicación más rigurosa (nivel ingeniería)
Tokenización (mejor formulación)
Tokenizar no es solo dividir: Es un proceso de compresión inteligente del lenguaje
🔹 Representación vectorial (embeddings)
✔ Correcto lo que dijiste, pero falta profundidad:
Cada token → vector en un espacio de alta dimensión (ej: 4096 dimensiones)
No es solo “cercanía semántica”, también codifica:
🔹 Aquí está la base matemática clave:
\text{Attention}(Q,K,V)=\text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V
Esto es el corazón de modelos como:
🔹 Redes neuronales (mejor explicado)
No solo “detectan patrones”:
Realmente hacen:
Capas:
🔹 Predicción del lenguaje (clave que te faltó)
Los LLM hacen algo muy específico:
Predicen el siguiente token dada una secuencia
Formalmente:
[ P(w_t | w_1, w_2, ..., w_{t-1}) ]
👉 Todo lo demás (chat, razonamiento, etc.) emerge de esto.
🔹 RLHF (bien, pero incompleto)
✔ Correcto:
❗ Pero también hay:
3. Lo más importante que NO mencionaste
Esto eleva tu nivel:
A. No “entienden” como humanos
🔥 B. El “razonamiento” es emergente
Modelos como:
👉 No fueron programados para razonar directamente 👉 El razonamiento surge del entrenamiento + escala
🔥 C. Multimodalidad
Modelos modernos:
Pero: todo termina convertido en vectores
4. Evaluación de tu texto (tipo académico)
Fortalezas
❗ Debilidades
5. Cómo mejorar (temas a estudiar)
Si quieres subir de nivel real:
6. Preguntas para desarrollar tu inteligencia
Respóndeme sin buscar en internet:
Si quieres, en el siguiente paso puedo:
convertir tu texto en un artículo académico nivel universidad (APA 7) o llevarte a nivel aún más profundo (tipo ingeniería de IA real)
Es un gran complemento, me fascino la clase del instructor para comenzar a desarrollar los conceptos de tokens, llm, atención y después refinar con este comentario. Es un buen ejercicio para despues de cada clase someterlo a retroalimentación con IA
1. Cómo funciona nuestra atención
Cuando escuchamos la frase “el gato maúlla y el perro…”, la mayoría completa con “ladra”. ¿Por qué? Porque nuestro cerebro presta atención a ciertas palabras clave y deduce lo más probable. Esto es lo que se llama atención.
2. ¿Qué hacen los modelos de lenguaje?
Los modelos de lenguaje como GPT-4 funcionan prestando atención a ciertas palabras para predecir otras. Para lograrlo:
3. ¿Qué son los tokens y cómo se usan?
Cada token se representa como un vector en un espacio con muchas dimensiones, lo que permite:
4. ¿Qué hacen las redes neuronales?
Las redes neuronales:
5. ¿Cómo predicen la siguiente palabra?
6. El modelo de atención
El modelo de atención se basa en tres componentes:
Ejemplo:
7. ¿Cómo se elige la palabra final?
8. ¿Cómo aprendieron los modelos a conversar?
Este proceso se llama RLHF (Aprendizaje Reforzado con Retroalimentación Humana).
Feliz de iniciar este curso! Que excelente trabajo del equipo Platzi, la forma en que explican conceptos complejos de manera que logremos comprender como se relacionan.
¿Cuántos más están aquí después de..?
Corpus
Es el conjunto de textos con los que se entrena el modelo para aprender a generar respuestas y comprender el lenguaje.
70% Training data – entrenar la red neuronal
30% Testing data – probar la red neuronal
Red Neuronal
Mecanismo estadístico para encontrar los patrones escondidos entre los datos.
Capa de entrada: recibe índices de tokens.
Embedding layer: convierte índices a vectores densos.
Capas Ocultas: Procesan y filtran información.
Capa de salida: genera probabilidades para predecir el siguiente token.
Patrones: Emergen simplemente por la posición de las letras, las sílabas y las palabras, que nosotros llamamos tokens.
Tokens
Un token es una unidad mínima de texto que un modelo de lenguaje usa para leer, procesar y generar texto.
Un token puede ser:
· Una palabra
· Parte de una palabra
· Un símbolo
· Un número
· incluso un espacio
No son palabras, ni letras: son bloques optimizados de significado.
GPTs: Generative Pretrain Transformers
RLHF: Reinforcement Learning with Human Feedback // Es la forma en la que los modelos aprenden a hablar como un chat.
🚸 Día 👁️🗨️ *19* 🙂 *¡Carpe Diem!*👌
Curso de Fundamentos de LLMs
Les recomiendo el libro "Prompt Engineering for Generative AI" de James Phoenix y Mike Taylor. ¡Una excelente guía para profundizar en el tema! lo encuentran en Amazon
Gracias por la recomendación
Red Neuronal: Es un mecanismo estadístico para encontrar un patrón escondido en el lenguaje. Tiene una capa de entrada (Que son los tokens que se otorgan como INPUT, bueno, una representación vectorial de ellos), una capa de salida (La cual provee probabilidades para predecir el siguiente token). Y las capas ocultas, son funciones matemáticas de interconexión que detectan los patrones. Estos algoritmos nacieron en los años 50. Los modelos no son deterministas.
Clase 1 de Fundamentos de LLMs
1. Qué es realmente un LLM
Un LLM no entiende el lenguaje. Solo hace esto:
predice el siguiente token más probable según el contexto.
Todo lo demás (respuestas coherentes, conversación, “inteligencia”) sale de estadística + entrenamiento masivo.
Esto es clave para entrevistas.
2. Tokenización → la base de todo
El texto se rompe en tokens:
Los modelos trabajan con eso, no con frases humanas.
Dato mental útil:
3. Embeddings → significado matemático
Cada token se convierte en un vector numérico en un espacio multidimensional.
Eso permite:
👉 Esto es lo que habilita:
(O sea: trabajo real con IA).
4. Redes neuronales → detectar patrones
El modelo aprende viendo muchísimo texto:
Las capas ocultas ajustan pesos → descubren patrones del lenguaje → predicen la siguiente palabra.
No hay comprensión. Hay probabilidad sofisticada.
5. Atención → por qué los transformers funcionan
El mecanismo de attention decide:
qué palabras del contexto importan más para predecir la siguiente.
Esto hace posible:
Sin atención → no existiría ChatGPT.
6. RLHF → cómo pasa de autocompletar a conversar
Los modelos base solo completaban texto.
Con Reinforcement Learning from Human Feedback:
Esto crea la experiencia “chat”.
Lo único que tenés que recordar de esta clase
Si mañana te preguntan en entrevista:
¿Cómo funciona un LLM?
Respuesta corta correcta:
Tokeniza texto → lo convierte en vectores → usa transformers con atención para predecir el siguiente token → y se ajusta con RLHF para conversar.
Con eso ya parecés alguien que sí entiende IA.
A este curso le van agregar más clases?
Sí. Pronto estarán disponibles.
En el sigiente link podran ver probar visualmente como como se tokeniza las palabras o frases que uno inserte:
Muchas gracias!
70% para entrenar y 30% para probar
Convertir las palabras en matematicas
es posible ver este curso:
Al parecer lo cambiaron, sin embargo, tiene muy buena pinta tener a Natasha Seelam PhD,
Sin intentar decir que el nuevo curso sea bueno o malo, me gustaría, si es posible, poder acceder a este curso.
