Leyes de escalado y modelos multimodales en inteligencia artificial
Contenido del curso
Sebastian Vahos
NotebookLM es una herramienta experimental de Google que funciona como un asistente de inteligencia artificial para organizar y entender información.
NotebookLM puede tomar documentos que incluyen texto, tablas, imágenes o gráficos, y razonar sobre todos esos elementos al mismo tiempo. Por lo tanto es una herramienta de IA multimodal.
📌 Ventajas:
🎯 ¿Para qué sirve?
Yuly Andrea Gualtero Martinez
Podria decir que es un producto IA First. me parece genial
Gabriel Obregón
🧠 Leyes de Escalado y Modelos Multimodales
📈 Leyes de Escalado
¿Qué son?
Reglas que explican cómo mejora el rendimiento de un modelo al aumentar:
Principio clave
⚖️ Equilibrio es esencial: Muchos parámetros sin suficientes datos (o viceversa) generan desperdicio de recursos.
Ejemplo real
🔹 GPT-3 (OpenAI): Mejoró con más datos y parámetros, pero con retornos decrecientes al seguir aumentando.
Base matemática
📉 Ley de potencia: Los errores disminuyen de forma predecible al aumentar recursos.
🔀 Modelos Multimodales
¿Qué son?
Modelos que procesan y combinan múltiples tipos de datos como:
¿Por qué son útiles?
✅ Comprensión más rica y contextual
✅ Generación de contenido de alta calidad
Ejemplos destacados
Desafíos principales
🛠️ Aplicaciones prácticas
Caso real
📱 App Chat LLM + Modelo O1 Carga texto, imagen, audio y video → ofrece respuestas contextualizadas
Consideración
⚠️ Modelo O3 mini → No es multimodal 🔍 Elegir según necesidades del proyecto
Ricardo Aviles Sanders
Si este curso fuera de música, sería algo así: Primera Clase: "Estas son las 7 notas fundamentales, Do, Re, Mi, Fa, Sol, La, Si" Segunda Clase: "Con lo aprendido en la clase anterior, vamos a tocar la novena sinfonía de Beethoven"
Héctor Salinas
jajajaja, muy buena analogía mi estimado.-
Mauricio Gonzalo Aliendre Pérez
Investigando un poco sobre un model multimodal como Flamingo, resulta que en vez de usar un Transformer (como GPT) utiliza algo llamado Perceiver Resampler, que básicamente resume entradas largas (como una imagen) en un conjunto fijo de tokens útiles (latent tokens), usando cross-attention, que —a diferencia del self-attention que utiliza el Transformer, donde Q, K y V provienen del mismo conjunto de vectores—, Q viene de un conjunto (esos latent tokens) y K,V vienen de otro (la imagen de entrada).
Edgar Villatoro Pérez
Ayuda Visual by GPT5.2
Daniel Alfonso Romero Cruz
super interesante todo lo que hay por detrás
Daniel Andres Rojas Paredes
Para las leyes de escalado me pregunto si son solo aplicables para el entrenamiento de cero de LLMs o si tambien son utiles a la hora de destilar o finetunear modelos. tengo entendifo que :
Porfa corrijanme si me equivoco o complementen si me falto algo a tener en cuenta.
En cuanto a los modelos multimodales estos suelen presentar una de 3 architecturas,
early fussion : todas las entradas se embeben y se concatenan en una sola, activa todo el transformer es muy bueno en razonamiento global pero lento
late fussion: todo se procesa independientemente hasta que llega a una arquitectura que une las representaciones, manteniendo el tex encoder y el image encoder perpendiculares, es menos costoso tambien menos inteligente
cross atention: este no lo termino de entender pero de alguna manera los encoders hablan entre ellos...
aca un ingeniero IA se preguntaria:
- como fusiono representaciones y que modulos necesito.
cual es el tamaño de el alingment
que tareas definen el performace
donde sucedera la inferencia ?
Tadeo Juarez
Que son las leyes de escalado
La ley de escalado dice que el modelo mejora el aumentar los parámetros, datos o costo de computo de un modelo. Pero para una eficiencia optima es mejor escalar los tres coordinadamente
Que son los modelos multimodales
Son modelos entrenados con varios tipos de datos como texto, imágenes, audio, video, etc. Para lograr esto en su arquitectura se necesita unificar cada tipo de dato con codificadores, después ya codificados se ponen en el embedding y aqui el modelo puede entender todos los tipos de dato. Esto les permite tener mejores resultados y poder ser mas sofisticados y robustos para usos reales
Manuel Roa Ojeda
Muy buena clases. Genial el contenido y la forma de tratarlo.
Gracias !
Roberto Carlos Jacobo Fuentes
ya en hecho videos y imagenes ocupando diferentes entornos y con diferentes agentes como Gemini y Chatgt y otros y cada uno de ellos casi dan la misma respuesta
Luis Elías García Poveda
¿Cuándo debería elegir un modelo puramente textual?
Deberías optar por un modelo exclusivamente de texto cuando tu caso de uso no requiera interacción con el mundo físico o visual, y necesites maximizar la velocidad y reducir costos. Modelos especializados en una sola modalidad (como el análisis de código, redacción de correos o estructuración de datos JSON) suelen ser mucho más ligeros y rápidos de ejecutar. La multimodalidad exige arquitecturas pesadas y un poder de cómputo masivo para procesar imágenes o audio, lo que incrementa la latencia y el precio por cada consulta a la API. Si estás construyendo un chatbot de atención al cliente que solo lee manuales en PDF y responde preguntas frecuentes, usar un modelo multimodal sería como comprar un camión de carga pesada solo para ir a la tienda de la esquina. Optimiza tu arquitectura según la necesidad real de tu producto.
Andres David Martinez Torres
Las IA's multimodelo son de lo mejor, pueden llegar a analizar cualquier informacion de entrada y adicional entragan esa informacion en varias formas
MARIA TERESA PANIAGUA RIVERA
Gracias
Santos Antonio Fraustro Solis
Juan Esteban Solarte Idrobo
A noviembre de 2025, multimodal por parte de OpenAI esta su familia de GTP-5, por parte de Anthropic está la filia 4.5(Haiku y Sonnet) y por parte de Google esta su filia Gemini 2.5
Daniel Moreno
Me gusta veo3 que usando texto o imágenes de referencia crea un video de buenísima calidad en segundos
