ConversationBufferMemory

El `conversation_buffer_memory()`, sólo usarlo cuando no sean demasiadas preguntas por parte del usuario. Recordar que existe el `conversation_chain()`

📝 Gestión de Memorización

ℹ️ Summary

Esta guía proporciona un caso de uso sobre “Conversation Buffer Memory”, para tener conversaciones cortas y con un enfoque ingenuo.
.

🗂️ Background

Dentro de LangChain, podemos gestionar la memorización en un LLM mediante 2 enfoques:
.

1. Implementar memorización.
2. Indexación mediante base de datos vectoriales.

.
Una implementación de una memorización a un LLM, se refiere a entregar un historial al modelo sobre un historial, fabricando un contexto,
.
Enlaces auxiliares:

• Conversation Buffer Memory

.

🎯 Problem

Implementar un “Conversation Buffer Memory” utilizando TypeScript para proveer de memorización de contexto a un LLM.
.

🚧 Solution

LangChain prove de BufferMemory, una clase que encapsula un tipo de memoria usada para almacenar y gestionar los mensajes previos en un historial de chat. El cual se soporta sobre el contenedor ChatMessageHistory que extrae los mensajes en una variable de entrada. Esta clase es particularmente útil en aplicaciones como chatbots donde es fundamental recordar interacciones anteriores.

import { BufferMemory, ChatMessageHistory } from 'langchain/memory'
import { HumanMessage, AIMessage } from 'langchain/schema'

const chatHistory = new ChatMessageHistory([
	new HumanMessage("Hi! I'm Jim."),
	new AIMessage(
		"Hi Jim! It's nice to meet you. My name is AI. What would you like to talk about?",
	),
])

const memory = new BufferMemory({
	chatHistory,
})

Con lo anterior, se agregó de un historial de conversación al LLM. Para darle de contexto y efectuar correctamente la siguiente tarea o pregunta.

import { ConversationChain } from 'langchain/chains'

const chain = new ConversationChain({
	llm,
	memory,
})
const response = await chain.call({ input: "What's my name?" })

🍻 Discussion

Las dos principales decisiones de diseño en cualquier sistema de memoria son:
.

• Cómo se almacena el estado
• Cómo se consulta el estado

.
Detrás de cualquier memoria hay un historial de todas las interacciones de chat. Aunque no se utilicen todas directamente, es necesario almacenarlas de alguna forma. Una de las partes clave del módulo de memoria de LangChain es una serie de integraciones para almacenar estos mensajes de chat, desde listas en memoria hasta bases de datos persistentes.

import { ConversationChain } from 'langchain/chains'
import { ChatOpenAI } from 'langchain/chat_models/openai'
import { BufferMemory, ChatMessageHistory } from 'langchain/memory'
import { HumanMessage, AIMessage } from 'langchain/schema'

const API_TOKEN = // 👈 Enter the API Token from OpenAI

const llm = new ChatOpenAI({
	maxTokens: -1,
	modelName: 'gpt-4',
	temperature: 0,
	openAIApiKey: API_TOKEN,
})

const chatHistory = new ChatMessageHistory([
	new HumanMessage("Hi! I'm Jim."),
	new AIMessage(
		"Hi Jim! It's nice to meet you. My name is AI. What would you like to talk about?",
	),
])

const memory = new BufferMemory({
	chatHistory,
})

const chain = new ConversationChain({
	llm,
	memory,
})
const response = await chain.call({ input: "What's my name?" })

.