Uso de Modelos OpenAI con LangChain: Guía Práctica para Principiantes

Resumen

¿Cómo integrar OpenAI con Lancheng?

OpenAI ofrece una variedad de modelos de lenguaje que puedes integrar con Lancheng para generar contenidos ricos e interactivos para diferentes aplicaciones. A continuación, te mostramos cómo puedes utilizar estos modelos de manera efectiva.

¿Cómo configurar el entorno?

Instalación de módulos: Primero, asegúrate de tener instalados OpenAI y Lancheng en tu entorno de trabajo. Esto se logra utilizando comandos como pip install openai y pip install lancheng.
Obtención de la OpenAI API Key: Este es un paso crucial. Visita la plataforma de OpenAI para desarrolladores para generar y obtener la API Key, esencial para autenticar tus solicitudes.
Variables de ambiente: Es conveniente almacenar tu API Key como una variable de ambiente. Esto asegura que Lancheng la cargue automáticamente, eliminando la necesidad de ingresarla manualmente cada vez.

¿Cómo cargar un modelo de OpenAI?

Después de configurar tu entorno, es momento de cargar un modelo de OpenAI utilizando Lancheng. El proceso es sencillo pero poderoso.

Importa la clase OpenAI de la librería LLMs de Lancheng:
```
from lancheng.llms import OpenAI
```
Crea un objeto OpenAI, donde puedes especificar el modelo que deseas utilizar. Por ejemplo, un modelo GPT 3.5:
```
llm_gpt35 = OpenAI(model_name="gpt-3.5-turbo", n=1, temperature=0.3)
```
Aquí, n indica el número de respuestas que quieres recibir, y temperature controla el grado de creatividad del modelo.

¿Cómo personalizar y utilizar el modelo?

Una vez cargado, puedes ajustar y ejecutar tu modelo para satisfacer tus necesidades específicas.

Ejecuta el modelo: Pasa un texto como argumento al modelo para generar respuestas. Por ejemplo:

prompt = "¿Cómo puedo lograr una clase más interactiva para estudiantes virtuales?"
response = llm_gpt35.generate(prompt)
print(response)

Múltiples Prompts: Puedes enviar una lista de prompts para procesar varios textos de una sola vez. Utilizando el modelo DaVinci:

llm_davinci = OpenAI(model_name="text-davinci-003", n=2, temperature=0.3)
generation = llm_davinci.generate(["Dime un consejo de vida para alguien de 30 años", "Recomiéndame libros similares a Hyperion Cantos"])

¿Cómo optimizar el uso de tokens?

La optimización de tokens es esencial para economizar en costos y maximizar eficiencia. Aquí, LLM Output te ayuda a saber cuántos tokens estás usando.

Utiliza el atributo generations para obtener resultados específicos.
Instala el paquete tiktoken de OpenAI para contar tokens antes de enviar un prompt:
```
tokens_used = llm_gpt35.getNumTokens(prompt)
```

Esta información te permite ajustar tus prompts para no sobrepasar límites de tokens, ofreciendo control sobre los costos asociados.

Consejos y retos para la implementación

Finalmente, te animo a experimentar con diferentes modelos de OpenAI y prompts. Por ejemplo, prueba modelos como "DaVinci" con prompts variados y analiza los resultados.

Sugerencias prácticas:
- Ajusta la temperature para encontrar el balance justo entre creatividad y precisión.
- Explora la documentación de OpenAI para descubrir otros modelos y opciones avanzadas.

Este conocimiento te ayudará a personalizar tus interacciones y mejorar la calidad de los contenidos generados por los modelos de OpenAI en Lancheng. ¡Sigue explorando y perfeccionando tus habilidades!

Sebastián Franco

student•

Si tienen curiosidad, el %%capture lo que hace es capturar (y suprimir) los outputs de la célula donde se llama, por eso no se muestran los logs del pip install.

Edgar Moises Valdez Faria

student•

Gracias por la info

David Geronimo Quiroga Torres

student•

Justo me hacía la pregunta, tu respuesta me cayó como anillo en dedo jajaja

Jose Luis Alcocer Caceres

student•

Esas clases ya están obsoletas, pueden hacer lo siguiente:

from langchain.prompts.chat import (
    ChatPromptTemplate,
    HumanMessagePromptTemplate,
    SystemMessagePromptTemplate
)
from langchain.schema import HumanMessage, SystemMessage
from langchain_openai import ChatOpenAI


 chat = ChatOpenAI(
    model = "gpt-3.5-turbo",
    temperature = 0)

messages = [
    SystemMessage(
        content = "You are a helpful assistant that answer questions."
    ),
    HumanMessage(
        content = "Cómo puedo lograr una clase más interactiva para estudiantes virtuales"
    )
]

chat(messages)

Joser rivas

student•

Gracias, tu aporte si me funciono, no entiendo como no pueden aunquesea poner en los recursos la clase corregida.

Gracias por tu aporte

Ayriel Noriega

student•

Gracias

Angelica Maria Vanegas Arrieta

student•

Código con la documentación actual 12/04/2024. 😊 Documentación: https://python.langchain.com/docs/integrations/chat/openai/

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.messages import HumanMessage, SystemMessage

llm_gpt3_5 = ChatOpenAI(
    model='gpt-3.5-turbo',
    n=1,
    temperature=0.3
)

prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "Eres un asistente que resuelve dudas de estudiantes"),
         ("human", "{input}")
    ]
)


chain = prompt | llm_gpt3_5
response = chain.invoke(
    {
        "input": input("Ingrese su pregunta: ")
    }
)

response.content

gottardy melo

student•

gracias por tu ayuda, muy útil tu comentario

John J. Meza

student•

Acá el código actualizado a Jan 2025

from langchain.chat_models import ChatOpenAI
from langchain.schema import HumanMessage

# Instantiate the model
llm_davinci = ChatOpenAI(
    model_name="gpt-3.5-turbo",  # Updated model
    temperature=0.3,
    n=2  # Number of responses
)

# Input messages
messages = [
    HumanMessage(content="Dime un consejo de vida para alguien de 30 años."),
    HumanMessage(content="Recomiéndame libros similares a Hyperion Cantos.")
]

# Generate responses
for message in messages:
    response = llm_davinci([message])  # Call the model with the message
    print(response.content)

David Cipriano Melchor Natareno

student•

Para que se vea más ordenado podes definir el prompt afuera y solo se invoca en HumanMessage

# Prompt para el modelo

prompt = "Escribe una función de sumatoria en Python que sume dos números y devuelva el resultado."

messages = [ HumanMessage(content=prompt)]

Pablo Torres Pérez

student•

Otra opción que nos ofrece OpenAI para contar los tokens es la siguiente herramienta online

Ayriel Noriega

student•

Buena herramienta

John J. Meza

student•

AHHH que frustrante estudiar un curso desactualizado!!

Puro prueba y error, supongo que es una manera más heavy de aprender pero buena al corto plazo

Diego González Castellanos

student•

Hola, alguien sabe cómo se hace hoy la parte de

llm_gpt_3_5("Como puedo lograr una clase mas interactiva para estudiantes virtuales")

Al parecer cambio y ya la sintaxis usada en este curso no esta soportada, davinci tampoco pero se puede cambiar por

from langchain.llms import OpenAI

#Davinci ya no existe más se debe cambiar por gpt-3.5-turbo.insturct
#https://platform.openai.com/docs/deprecations
llm_davinci = OpenAI(
    model_name="gpt-3.5-turbo-instruct",
    n=2,
    temperature=0.3
    )

Joser rivas

student•

Lo que termine haciendo para que funcionara bien fue leer la documentacion y seguir los pasos en un Colab nuevo:%%capture!pip install openai langchain langchain_openai

https://python.langchain.com/docs/integrations/llms/openai

%%capture
!pip install openai langchain langchain_openai

import langchain

from getpass import getpass
import os

OPENAI_API_KEY = getpass('Enter the secret value: ')
os.environ['OPENAI_API_KEY'] = OPENAI_API_KEY

from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
from langchain_openai import OpenAI

template = """Question: {question}

Answer: Let's think step by step."""

prompt = PromptTemplate.from_template(template)

llm = OpenAI()
llm_chain = LLMChain(prompt=prompt, llm=llm)

question = "What NFL team won the Super Bowl in the year Justin Beiber was born?"

llm_chain.run(question)

De esta manera si me funciono.

Alberto Perdomo

student•

Una semana dandole lora, pero logre hacer un QAChain con Hugging Face en vez de OpenAI dejo el link: https://colab.research.google.com/drive/1FWGeLpxmj0p-8EJuzJKaBdsky_fyvI-R?usp=sharing

Jose Gaspar

student•

muchachos, obvio que no está actualizado porque langchain se actualiza constantemente. la idea es entender la lógica, secuencia y pasos, luego se ayudan con la IA y la documentación.

Guillermo Castaño Vèlez

student•

me iba a rendir con este curso porque es muy frustrante no tener resultados, pero vi este comentario y me dije.. este tipo tiene razón, así que muchas gracias.

Josué Barrios Rodriguez

student•

En la primera parte del video hacen un llamado a la libreria de OpenAI. Esta ha cambiado, practicamente seria:

from openai import OpenAI

client_openai = OpenAI(

api_key=os.environ['OPENAI_API_KEY']

)

response = client_openai.responses.create(

model='gpt-3.5-turbo',

instructions='you are a teacher',

input="Como hacer una clase mas interactiva para estudiantes virtuales?"

)

print(response.output_text)

Ignacio Robles

student•

Tremendo curso! pero está muy desactualizado. Deberían actualizar los cuadernos de Colab.

Jhon Alexander Orozco Valencia

student•

Existe alguna alternativa para ejecutar LangChain sin tener que utilizar Colab? Si es así, qué requisitos se requieren?

Miguel Rodríguez

student•

LangChain como tal no consume muchos recursos, realizar los ejercicios usando la API de OpenAI tampoco te debería dar problemas ya que el trabajo difícil ocurre en los servidores de OpenAI. Usar los modelos open source en local si te va a requerir GPU hasta 80GB para los modelos de 40B o 70B de parámetros.

Jesus Abel Jimenez Bracho

student•

Si, puedas usar jupyter en visual studio code.

Jaison Hernando Velasco Camacho

student•

Van a actualizar el curso??

Jaison Hernando Velasco Camacho

student•

Por favor actualizar los vídeos, muchas clases y librerías deprecadas

Ayriel Noriega

student•

Ejemplo de uso en su documentación, al día de hoy:

https://python.langchain.com/docs/integrations/chat/openai/

ojo, puede cambiar.

Emmanuel Rodríguez

student•

Modelos OpenAI con SDK

Empleando TypeScript

📦 Dependencias y configuración

Instalando herramientas de langchain:

pnpm i langchain

Configuración de SDK de langchain para OpenAI:

import { OpenAI } from 'langchain/llms/openai'

const llm = new OpenAI({
    maxTokens: -1,
    modelName: 'gpt-4',
    temperature: 0,
    openAIApiKey: API_TOKEN,
})

console.log(await llm.predict('Tell me a funny joke about Disney'))

Al efectuar el archivo:

Why don't Disney characters ever play hide and seek?

Because good luck hiding when your theme song is playing!