Buenas, no me parece tan grave que el codigo no este actualizado, en la vida profesional nos toca leer documentacion, es muy sencillo entrar a la documentacion y readaptar el codigo, no hay que ser genio para ello.
Animos!
Las cadenas son el corazón de LangChain y dan nombre a la librería. Si quieres aprender cómo usar chains en LangChain para resumir documentos PDF largos, aquí encontrarás el flujo completo: desde cargar el archivo hasta generar resúmenes con prompts personalizados. Es un recurso útil para desarrolladores que trabajan con modelos de lenguaje y necesitan procesar contexto extenso.
¿Qué es una cadena en LangChain y cómo funciona?
Una cadena es una secuencia de eslabones donde cada uno representa un proceso distinto. Tú ingresas un texto al inicio, ese texto pasa por varios puntos del flujo y al final recibes una respuesta generada por un modelo de lenguaje.
En esta sesión nos enfocamos en dos tipos: las cadenas fundacionales y las de utilidad. Las de utilidad resuelven tareas específicas como resumir, y son las que vas a ver en acción con un PDF de 18 páginas sobre criptografía de clave pública [0:30].
¿Qué hace una chain en LangChain? Conecta varios pasos (carga de datos, embeddings, modelo, prompt) en una secuencia única. Tú das una entrada, la cadena la procesa por etapas y devuelve una salida final.
¿Qué librerías necesitas para cargar un PDF en LangChain?
Antes de tocar LangChain, necesitas tres dependencias clave que trabajan en conjunto para preparar el documento.
Una vez instaladas, usas la librería Requests para descargar el PDF desde una URL y guardarlo localmente como public-key-cryptography.pdf. Hasta ahí no estás usando LangChain todavía, solo preparando el archivo.
¿Cómo cargar el PDF con PyPDFLoader?
Desde document_loaders de LangChain importas PyPDFLoader. Le pasas el path del archivo y llamas al método load() para obtener los datos en una variable. Ese objeto contiene las 18 páginas listas para procesarse [2:30].
¿Cómo generar embeddings y guardarlos en Chroma?
Importas OpenAIEmbeddings desde la librería de embeddings de LangChain. Esto convierte el texto a un formato numérico que el modelo entiende. Luego, desde vectorstores traes Chroma y guardas todo en una variable llamada vectorstore [3:00].
Con eso ya tienes el documento vectorizado y listo para alimentar una cadena de utilidad.
¿Cómo resumir un PDF largo con load_summarize_chain?
Un PDF de 18 páginas no cabe en el contexto de un modelo como ChatGPT por la interfaz gráfica. Aquí entra la cadena de utilidad load_summarize_chain, que importas desde la librería de chains de LangChain [4:00].
Creas una variable, por ejemplo cadena_que_resume_documentos, y le pasas dos argumentos:
map_reduce.¿Qué hace map_reduce en LangChain? Genera un resumen de cada página por separado y luego combina todos esos resúmenes en uno final. Así procesa documentos que no caben de golpe en el prompt.
Llamas al método run() pasándole data y obtienes el resumen completo de las 18 páginas. Ese es el poder de map_reduce: trabaja iterativamente para sortear el límite de contexto.
¿Cuándo usar el tipo de cadena Stuff con un prompt personalizado?
Map_reduce no te deja inyectar un prompt propio. Si quieres personalizar las instrucciones, debes usar el tipo Stuff. La diferencia clave: Stuff mete todo el contexto en un solo prompt, así que el texto debe caber dentro del límite del modelo.
¿Cómo crear un PromptTemplate en LangChain?
Defines una plantilla con tu instrucción, por ejemplo: "Escribe un resumen bien chido del siguiente rollo", y dejas una variable llamada text que se rellenará con el contenido del PDF [6:30].
Luego importas PromptTemplate y le pasas dos parámetros:
input_variables, en este caso ["text"].Con eso tienes un prompt reutilizable que la cadena va a inyectar dinámicamente.
¿Cómo configurar load_summarize_chain con tipo Stuff?
Creas otra variable, por ejemplo cadena_que_resume_con_slang, y vuelves a usar load_summarize_chain con estos argumentos:
llm: el modelo Davinci.chain_type: "stuff".prompt: el PromptTemplate que acabas de armar.verbose=True: te deja ver el proceso interno de la cadena [8:00].Como Stuff no parte el documento, solo le puedes pasar dos páginas del PDF, no las 18. Esa es su limitación principal.
¿Qué muestra el modo verbose al ejecutar una chain?
Al correr la cadena con run(), verbose imprime el prompt que se construye en tiempo real. Verás tu instrucción inicial, seguida del texto inyectado en la variable text (las primeras páginas del PDF en inglés), y al final la señal de que el modelo debe responder.
El resultado: un resumen en español con slang mexicano, aunque el texto fuente esté en inglés. Eso confirma que el PromptTemplate dirige el comportamiento del modelo.
En producción, pones verbose=False porque el usuario solo necesita ver el resultado, no el prompt interno.
¿Qué elementos básicos necesita una chain en LangChain?
Para armar una cadena funcional como las que viste, necesitas tres piezas mínimas:
La elección entre stuff y map_reduce depende del tamaño del documento y de si necesitas controlar el prompt. ¿Tú con cuál tipo de cadena empezarías para tu próximo proyecto? Cuéntame en los comentarios.
Las cadenas son el corazón de LangChain y dan nombre a la librería. Si quieres aprender cómo usar chains en LangChain para resumir documentos PDF largos, aquí encontrarás el flujo completo: desde cargar el archivo hasta generar resúmenes con prompts personalizados. Es un recurso útil para desarrolladores que trabajan con modelos de lenguaje y necesitan procesar contexto extenso.
Una cadena es una secuencia de eslabones donde cada uno representa un proceso distinto. Tú ingresas un texto al inicio, ese texto pasa por varios puntos del flujo y al final recibes una respuesta generada por un modelo de lenguaje.
En esta sesión nos enfocamos en dos tipos: las cadenas fundacionales y las de utilidad. Las de utilidad resuelven tareas específicas como resumir, y son las que vas a ver en acción con un PDF de 18 páginas sobre criptografía de clave pública [0:30].
¿Qué hace una chain en LangChain? Conecta varios pasos (carga de datos, embeddings, modelo, prompt) en una secuencia única. Tú das una entrada, la cadena la procesa por etapas y devuelve una salida final.
Antes de tocar LangChain, necesitas tres dependencias clave que trabajan en conjunto para preparar el documento.
Una vez instaladas, usas la librería Requests para descargar el PDF desde una URL y guardarlo localmente como public-key-cryptography.pdf. Hasta ahí no estás usando LangChain todavía, solo preparando el archivo.
Desde document_loaders de LangChain importas PyPDFLoader. Le pasas el path del archivo y llamas al método load() para obtener los datos en una variable. Ese objeto contiene las 18 páginas listas para procesarse [2:30].
Importas OpenAIEmbeddings desde la librería de embeddings de LangChain. Esto convierte el texto a un formato numérico que el modelo entiende. Luego, desde vectorstores traes Chroma y guardas todo en una variable llamada vectorstore [3:00].
Con eso ya tienes el documento vectorizado y listo para alimentar una cadena de utilidad.
Un PDF de 18 páginas no cabe en el contexto de un modelo como ChatGPT por la interfaz gráfica. Aquí entra la cadena de utilidad load_summarize_chain, que importas desde la librería de chains de LangChain [4:00].
Creas una variable, por ejemplo cadena_que_resume_documentos, y le pasas dos argumentos:
map_reduce.¿Qué hace map_reduce en LangChain? Genera un resumen de cada página por separado y luego combina todos esos resúmenes en uno final. Así procesa documentos que no caben de golpe en el prompt.
Llamas al método run() pasándole data y obtienes el resumen completo de las 18 páginas. Ese es el poder de map_reduce: trabaja iterativamente para sortear el límite de contexto.
Map_reduce no te deja inyectar un prompt propio. Si quieres personalizar las instrucciones, debes usar el tipo Stuff. La diferencia clave: Stuff mete todo el contexto en un solo prompt, así que el texto debe caber dentro del límite del modelo.
Defines una plantilla con tu instrucción, por ejemplo: "Escribe un resumen bien chido del siguiente rollo", y dejas una variable llamada text que se rellenará con el contenido del PDF [6:30].
Luego importas PromptTemplate y le pasas dos parámetros:
input_variables, en este caso ["text"].Con eso tienes un prompt reutilizable que la cadena va a inyectar dinámicamente.
Creas otra variable, por ejemplo cadena_que_resume_con_slang, y vuelves a usar load_summarize_chain con estos argumentos:
llm: el modelo Davinci.chain_type: "stuff".prompt: el PromptTemplate que acabas de armar.verbose=True: te deja ver el proceso interno de la cadena [8:00].Como Stuff no parte el documento, solo le puedes pasar dos páginas del PDF, no las 18. Esa es su limitación principal.
Al correr la cadena con run(), verbose imprime el prompt que se construye en tiempo real. Verás tu instrucción inicial, seguida del texto inyectado en la variable text (las primeras páginas del PDF en inglés), y al final la señal de que el modelo debe responder.
El resultado: un resumen en español con slang mexicano, aunque el texto fuente esté en inglés. Eso confirma que el PromptTemplate dirige el comportamiento del modelo.
En producción, pones verbose=False porque el usuario solo necesita ver el resultado, no el prompt interno.
Para armar una cadena funcional como las que viste, necesitas tres piezas mínimas:
La elección entre stuff y map_reduce depende del tamaño del documento y de si necesitas controlar el prompt. ¿Tú con cuál tipo de cadena empezarías para tu próximo proyecto? Cuéntame en los comentarios.
Buenas, no me parece tan grave que el codigo no este actualizado, en la vida profesional nos toca leer documentacion, es muy sencillo entrar a la documentacion y readaptar el codigo, no hay que ser genio para ello.
Animos!
El código usado en este video ya está obsoleto (21-2-24).
Por ejemplo el método run ya no se aplica.
Hay prevista alguna actualización de los videos?
Lo digo porque ahora mismo ya no sirve.
Gracias.
#%%
from langchain.chains.summarize.chain import load_summarize_chain
from langchain.prompts import ChatPromptTemplate
from langchain.chains.llm import LLMChain
from langchain.chains.combine_documents.stuff import StuffDocumentsChain
#%%
prompt_template = ChatPromptTemplate([
("system", "Eres un sistema de resumen didactico, dando como resultados resumenes con un lenguaje mas amigable para el usuario"),
("user", "Resume este documento {doc}")
],
input_variables=['doc']
)
#%%
# Define LLM chain
llm_chain = LLMChain(llm=llm_gpt4_1, prompt=prompt_template)
#%%
stuff_chain = StuffDocumentsChain(llm_chain=llm_chain, document_variable_name="doc")
#%%
stuff_chain.run(document[:2])
```Este es el código que use con la nueva versión de langchain. Comparto la documentación que usé
Algo que me ha servido mucho para entender mejor este tema (por que igual es complejo), es separar los procesos por pasos:
1. pasar el pdf a Document de Langchain 2. hacer un resumen previo para cada pagina 3. hacer el prompt-template 4. hacer resumen en español mexicano.
Creo que puede ser útil.
Lanchain Introdujo una nueva forma en que se declaran y usan las chain, ahora usa LCEL (Langchaing Expression Language). EL cual es una sintaxis declarativa para componer chains usando el "Pipe operator ( | )".
Summaryze as "stuff chain type" Code Example:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
# Allows wraps a regular python function to make it compatible with LCEL chains.
from langchain_core.runnables import RunnableLambda
# Converts the LLM output into a plain string
from langchain_core.output_parsers import StrOutputParser
def format_docs(docs):
""" Combine document pages content into a single string to be used as context in the prompt"""
return "\n\n".join([doc.page_content for doc in docs[:2]])
# Define the prompt that generates summary
summarize_prompt = ChatPromptTemplate.from_template(
"""Please provide a comprehensive summary of the following document:
{context}
Summary:"""
)
# Initialize openAI LLM
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
# create the LCEL chain defining steps separed by the pipe operator ( | )
summarize_docs_chain = (
{"context": RunnableLambda(format_docs)}
| summarize_prompt
| llm
| StrOutputParser()
)
# Gets the summary executing the LCEL chain.
summary = summarize_docs_chain.invoke(data)
Para los que quieren probar todo lo de la clase con PDFs distintos, pueden usar el siguiente sitio para que carguen los PDF de manera temporal y solo cambien la url
El vectorstore que se crea en esta clase no se uso para ninguno de los ejemplos...
La verdad muy mal que tengan código que NO es funcional, uno pierde más tiempo tratanto de arreglar cosas que realmente aprendiendo.
Les recomiendo pagar la suscripción a Medium, que estar perdiendo el tiempo aquí.
Super interesante el curso! Me queda la duda porque usas Davinci para resumir y no gtp-3.5. Funciona mejor para esta tarea?
Aqune algo complejo, veo mucho potencial en lo que podemos lograr con LangChain 🦜⛓