ConversationBufferWindowMemory

Tener en cuenta que el `K`, o la `window`, son sólo de las interacciones del **user**, **no** cuenta las de **ia**.

📝 Sesgo de Memorización

ℹ️ Summary

Esta guía proporciona un caso de uso sobre “Conversation Buffer Window Memory”, para tener conversaciones sesgadas en interacciones.
.

🗂️ Background

En LangChain, se puede implementa:
.

• Un sistema de memoria muy simple que podría devolver los mensajes más recientes en cada ejecución.
• Un sistema de memoria algo más complejo que podría devolver un resumen sucinto de los últimos K mensajes.
• Un sistema aún más sofisticado podría extraer entidades de los mensajes almacenados y sólo devolver información sobre las entidades referenciadas en la ejecución actual.

.
Cada aplicación puede tener diferentes requisitos en cuanto a la forma de consultar la memoria. El módulo de memoria debería facilitar tanto la puesta en marcha de sistemas de memoria sencillos como la escritura de sistemas personalizados si fuera necesario.
.
Enlaces auxiliares:

• Building Memory Into a System

.

🚧 Solution

ConversationBufferWindowMemory mantiene una lista de las interacciones de la conversación a lo largo del tiempo. Sólo utiliza las últimas k interacciones.

import { BufferWindowMemory, ChatMessageHistory } from 'langchain/memory'
import { HumanMessage, AIMessage } from 'langchain/schema'

const chatHistory = new ChatMessageHistory([
	new HumanMessage("Hi! I'm Jim."),
	new AIMessage(
		"Hi Jim! It's nice to meet you. My name is AI. What would you like to talk about?",
	),
])

const memory = new BufferWindowMemory({
	k: 1,
	chatHistory,
})

Con lo anterior, se agregó de un historial de conversación al LLM. Para darle de contexto y efectuar correctamente la siguiente tarea o pregunta. Sin embargo, después de algunas interacciones, debido a los k o mensajes pasados, olvide su contexto.

import { ConversationChain } from 'langchain/chains'

const chain = new ConversationChain({
	llm,
	memory,
})

let response = await chain.call({ input: 'What is it a LLM?' })
console.log(response)

response = await chain.call({ input: 'What is it OpenAI?' })
console.log(response)

response = await chain.call({ input: "What's my name?" })
console.log(response)

🍻 Discussion

ConversationBufferWindowMemory es un tipo de memorización útil para mantener una ventana deslizante de las interacciones más recientes, para que el buffer no se haga demasiado grande.

import { ConversationChain } from 'langchain/chains'
import { ChatOpenAI } from 'langchain/chat_models/openai'
import { BufferWindowMemory, ChatMessageHistory } from 'langchain/memory'
import { HumanMessage, AIMessage } from 'langchain/schema'

const API_TOKEN = // 👈 Enter the API Token from OpenAI

const llm = new ChatOpenAI({
	maxTokens: -1,
	modelName: 'gpt-4',
	temperature: 0,
	openAIApiKey: API_TOKEN,
})

const chatHistory = new ChatMessageHistory([
	new HumanMessage("Hi! I'm Jim."),
	new AIMessage(
		"Hi Jim! It's nice to meet you. My name is AI. What would you like to talk about?",
	),
])

const memory = new BufferWindowMemory({
	k: 1,
	chatHistory,
})

const chain = new ConversationChain({
	llm,
	memory,
	prompt,
})

let response = await chain.call({ input: 'What is it a LLM?' })
console.log(response)

response = await chain.call({ input: 'What is it OpenAI?' })
console.log(response)

response = await chain.call({ input: "What's my name?" })
console.log(response)