Alexander Velasquez
Paulo Esteban Orsini
Andrés Felipe Díaz Rodríguez
Patricio Sánchez Fernández
Endy Bermúdez R
Raul Mercado
John Fredy Ramirez Bedoya
LUIS ELISEO RODRIGUEZ ARGUELLO
Enrique Valdés García
Angelica Cassano
Mauricio Martínez Orjuela
Willian Diaz Pabón
Mateo Montoya Henao
Joseph Corona
VICTOR MANUEL MURILLO CAMAYO
Juan Alvaro Montoya Villada
Pepe Sosa
Mauricio Martínez Orjuela
Nelson Chicas
Fabian Villada
Eduardo Rodriguez Cisneros
Juan Alvaro Montoya Villada
Fidel Parabacuto
Con todo respeto, me parece un poco chafa la forma en que actualizan el curso, es distractor y hasta confuso el estar analizando dos tipo de información a la vez, una que está dando la profesora y otra que aparece como mensaje haciendote pensar: "No, no es así, ahora es de esta forma...". Entiendo que esta información se está actualizando muy rápidamente hasta el punto en que en ocasiones nos sentimos abrumados y arrollados por tantas actualizaciones, pero creo que deberían buscar y conseguir una manera más eficiente de actualizar la información del curso. sugiero considerar la edición directa de los videos existentes para incluir las actualizaciones más recientes. Esto podría realizarse eliminando las secciones del video que contienen información obsoleta y reemplazándolas con segmentos actualizados.
También se podrian poner esos cartelitos como texto al final del resumen de texto.
A tomar en cuenta, según la documentación el parametro temperature y el parametro top_p se recomienda que no sean modificados al mismo tiempo en el mismo prompt, cito.
temperature: número Opcional Predeterminado a 1 Qué temperatura de muestreo usar, entre 0 y 2. Los valores más altos, como 0,8, harán que la salida sea más aleatoria, mientras que los valores más bajos, como 0,2, la harán más enfocada y determinista.
Por lo general, recomendamos modificar esto o top_p, pero no ambos.
top_p: Una alternativa al muestreo con temperature, llamado muestreo de núcleo, donde el modelo considera los resultados de los tokens con masa de probabilidad top_p. Por lo tanto, 0.1 significa que solo se consideran las fichas que comprenden el 10 % de la masa de probabilidad superior.
Por lo general, recomendamos modificar esta o temperature, pero no ambas.
Muy buen dato, Andrés, muchas gracias por compartir....!
UX Tip:
Con el argumento stream=True podemos ir capturando pequeños fragmentos de la respuesta para mostrarlos en tiempo real y no esperar hasta que el modelo termine para visualizar el resultado.
response = openai.Completion.create( model="text-davinci-003", prompt="Qué son LLM models", max_tokens=300, temperature=0.3, n=1, stream=True, ) for chunk in response: print(chunk.choices[0].text, end="")
Según leo en la documentación, menciona que si usas el parámetro temperature, no uses el parámetro top_p y viceversa.
Ejemplo donde utilizo el parámetro stream:
import openai import APIkey # Clave API openai.api_key = APIkey.apikey # Modelo model = "gpt-4o-mini" response = openai.chat.completions.create( model=model, messages=[ {"role": "system", "content": "Eres un asistente que da informacion a dudas"}, {"role": "user", "content": "¿Quién es Katherine Johnson?"} ], temperature = 0.9, max_tokens = 100, top_p = 1, n = 1, stream = True ) for chunk in response: # print(chunk) choices = chunk.choices if choices: delta = choices[0].delta if delta.content: print(delta.content, end='', flush=True) # Imprimir en tiempo real
Hay actualizaciones que salen durante todo el video y ni si quiera te da tiempo de verlos, entre otros detalles, el curso me esta desanimando...
Para saber cuántos tokens vale tu texto de entrada al usar la API de OpenAI, puedes utilizar el método encode de la biblioteca tiktoken. Este método te permitirá convertir tu texto en tokens y calcular su cantidad. A continuación te muestro un ejemplo:
import tiktoken # Selecciona el modelo encoding = tiktoken.encoding_for_model("gpt-4") # Tu texto de entrada texto = "Este es un ejemplo de texto." # Codifica el texto y cuenta los tokens tokens = encoding.encode(texto) cantidad_tokens = len(tokens) print(f'Cantidad de tokens: {cantidad_tokens}')
Esto te dará la cantidad de tokens que consume tu texto. Recuerda que cada modelo puede tener un límite diferente respecto a la cantidad máxima de tokens que puede procesar.
Muchas gracias Enrique!
Les súper recomiendo que inserten estas lineas de código para su visualización de las respuestas de la API OpenAI.
from IPython.display import display,Markdown display(Markdown(completion.choices[0].message.content))
Miren lo bonito que se ve!
.
Cómo hago para consultar desde la API de OpenAI cuanto he gastado en dinero?
En el OpenAI Chat Completions API, los parámetros temperature, top_p, y n son fundamentales para controlar la generación de texto. Aquí tienes un breve resumen de cómo funcionan:
1. Temperature (Temperatura)
temperature=0.2: Salidas más precisas y enfocadas, útiles para tareas como la generación de código.temperature=0.7: Salidas más creativas y variadas, adecuadas para escritura creativa.2. Top_p (Núcleo)
top_p).top_p=0.1: Considera solo los tokens que representan el 10% de la masa de probabilidad más alta.top_p=0.9: Considera un espectro más amplio de tokens, resultando en salidas más variadas.3. n
n=1: Genera una única respuesta.n=3: Genera tres respuestas únicas para la misma entrada.Ejemplo de Uso
Aquí tienes un ejemplo de cómo usar estos parámetros en una llamada al API:
Python
import openai response = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[{"role": "user", "content": "¿Cuál es la capital de Francia?"}], temperature=0.5, top_p=0.9, n=2 ) for choice in response.choices: print(choice.message.content)
En este ejemplo, se solicita al modelo generar dos respuestas únicas para la misma pregunta, con un nivel medio de creatividad y variabilidad.
Interacción de los Parámetros
Estos parámetros pueden usarse de manera independiente o combinada para lograr diferentes niveles de creatividad y control en las respuestas generadas. Por ejemplo, un valor alto de temperature junto con un valor bajo de top_p puede resultar en respuestas muy creativas y variadas.
Conclusión
Los parámetros temperature, top_p, y n son herramientas poderosas para controlar la generación de texto en el OpenAI Chat Completions API. Al ajustar estos parámetros, puedes lograr respuestas que van desde muy determinísticas y enfocadas hasta muy creativas y variadas, dependiendo de las necesidades específicas de tu aplicación.
Para ver las tres respuestas ahora es asi:
#%% response = openai.chat.completions.create( model = 'gpt-3.5-turbo', messages = [ {"role": "system", "content" :"Eres un asistente que da informacion a dudas"}, {"role": "user", "content" :"¿Quién descubrió América?"} ], max_tokens = 50, temperature=0.9, top_p=1, n=3,
) print(response.choices[0].message.content) print(response.choices[1].message.content) print(response.choices[2].message.content)
el codigo actual se veria asi
response = openai.chat.completions.create( model="gpt-3.5-turbo", messages = [ {"role":"system","content":"Eres un asistente que da informacion a dudas"}, {"role":"user","content":"¿quien descubrio a ameria?"}, ], max_tokens=50, temperature=1, top_p=1, n=2)print(response.choices[0].message.content) ```response = openai.chat.completions.create( model="gpt-3.5-turbo", messages = \[ {"role":"system","content":"Eres un asistente que da informacion a dudas"}, {"role":"user","content":"¿quien descubrio a ameria?"},   ], max\_tokens=50, temperature=1, top\_p=1, n=2)print(response.choices\[0].message.content)
Hola
El nuevo código actualizado es:
response = openai.ChatCompletion.create(
Lo demás permanece igual
Para puntualizar una cosa.
En la documentación OpenAI recomienda modificar el parámetro temperature o top_p pero no ambos.
A continuación se muestra la estructura interna completa de la respuesta que devuelve el endpoint de Chat Completions, enfocándonos en cómo está conformada la lista response.choices y el objeto message anidado. Esto está basado en el formato oficial de la API (junio 2025).
En Python, representado como un dict (o como modelo Pydantic), equivaldría a algo así:
Desglose línea por línea
"id": Identificador único de esta solicitud de chat (string)."object": Tipo de objeto devuelto; siempre "chat.completion"."created": Marca de tiempo Unix (en segundos) cuando se creó la respuesta."model": Nombre exacto del modelo usado (p. ej., "gpt-3.5-turbo", "gpt-4.1", etc.)."usage": Subobjeto que informa cuántos tokens se consumieron:
"prompt_tokens": tokens usados para el prompt (todos los mensajes enviados)."completion_tokens": tokens generados en la respuesta."total_tokens": suma de los dos anteriores."choices"
"index" (int): Índice de esta opción dentro de la lista. Si pediste n=1, solo habrá un elemento con index:0. Si pediste más, verás index:0, index:1, etc."message" (objeto): Contiene dos campos:
"role" (string): Normalmente "assistant", porque esa es la respuesta generada. (En casos en que el modelo devuelva una invocación de función, "role" podría ser "assistant" también, con campos adicionales en otro subobjeto.)"content" (string): El texto completo generado por el asistente."finish_reason" (string): Indica por qué el modelo detuvo la generación. Valores posibles:
"stop": Se llegó a una secuencia de parada (o se completó normalmente antes de max_tokens)."length": Se alcanzó max_tokens (límite de longitud)."function_call": Cuando se invoca a una función definida en los parámetros."null" (o null en JSON): En situaciones en que no hubo una razón explícita, aunque es raro.n=2, el array choices se vería así
Cómo acceder a cada campo en Python
Si ya tienes en Python la variable response que resultó de:
response = client.chat.completions.create(...)
entonces:
Todo el objeto:print(response) ``# Muestra el modelo Pydantic (o dict si lo conviertes)
Campos de nivel superior:print(response.id) ``# "chatcmpl-XXXXXXXX"
print(response.object) ``# "chat.completion"
print(response.created) ``# 1611234567
print(response.model) ``# "gpt-3.5-turbo"
print(response.usage.prompt_tokens) ``# 15
print(response.usage.completion_tokens) ``# 20
print(response.usage.total_tokens) ``# 35
Lista de choices:
for choice in response.choices:
print(choice.index) ``# 0, 1, ...
print(choice.message.role) ``# "assistant"
print(choice.message.content) ``# texto generado
print(choice.finish_reason) ``# "stop", "length", etc.
Acceso directo a la primera respuesta:
primera_choice = response.choices[0]
texto = primera_choice.message.content ``# "Aquí va el texto generado por el modelo"
razon = primera_choice.finish_reason ``# "stop"
print(texto)
Convertir todo a diccionario genérico (sin objetos Pydantic):
resp_dict = response.model_dump()
# resp_dict["choices"][0]["message"]["content"] # es equivalente a .message.content
texto = resp_dict["choices"][0]["message"]["content"]
Resumen
response: es un objeto (modelo Pydantic) que refleja internamente la siguiente estructura JSON.response.choices: lista (array) de objetos con tres campos:
indexmessage → subobjeto con role y contentfinish_reasonresponse.choices[0].message.content: es la cadena de texto generado por el modelo en la primera opción de respuesta.Esta es la estructura completa interna y oficial de la lista choices y de cada message anidado, tal como lo documenta OpenAI.
Me falta completar el curso, pero siento que sólo se describe lo mismo que está en la documentación sin un contexto de negocios real o práctico de cómo y cuándo usar valores diferentes para estas variables más allá de ejemplos de cajón.
Segun la documentación a mayo 2025 el parametro "max_tokens" esta obsoleto , remplazado por "max_completion_tokens"
link a la documentacion
Dejo mi código que he estado haciendo en Node:
import OpenAI *from* "openai"; export *async* function Completion() { const client = new OpenAI();   const response = await client.chat.completions.create({ model: "gpt-4.1-nano-2025-04-14", messages: \[ { role: "system", content: "Eres un asistente que da información a dudas", }, { role: "user", content: "¿Qué es IA?", }, ], max\_tokens: 100, temperature: 0.8, top\_p: 1, n: 1, });   if (response) { console.dir(response.choices, { depth: null }); }}
El código fue actualizado:
Por favor tener en cuenta el siguiente:
response = openai.ChatCompletion.create( model = "gpt-3.5-turbo", messages = [ {"role": "system", "content" : "Eres un asistente de información"}, {"role": "user", "content": "Quien eres tu"} ], max_tokens = 50, temperature = 1, top_p = 1, n = 1) print(response.choices[0].message. Content)
Si bien la documentación dice que se recomienda el uso de uno u otro para el caso de temparature y top_p es solo eso... una recomendación.
Si juegan con ambos parámetros en distintos valores verán resultados diversos, por lo que uso dependerá del fin de la aplicación a crear.