No tienes acceso a esta clase

¡Continúa aprendiendo! Únete y comienza a potenciar tu carrera

Curso de Desarrollo de Chatbots con OpenAI

Curso de Desarrollo de Chatbots con OpenAI

Carla Marcela Florida Román

Carla Marcela Florida Román

Costos de uso de OpenAI: tokenización de texto

10/25
Recursos

Aportes 5

Preguntas 0

Ordenar por:

¿Quieres ver más aportes, preguntas y respuestas de la comunidad?

o inicia sesión.

Costos de uso de OpenAI: tokenización de texto

  • Ada-(La más rápida)
    $0.0004 / 1K tokens
    Es el más rápido de los modelos enumerados, es una opción rentable para aplicaciones donde la velocidad es un factor crítico, como en aplicaciones de servicio al cliente o chatbot.

  • Babbage
    $0.0005 / 1K tokens
    Es un poco más lento que Ada, pero aun así ofrece una opción rápida y eficiente para tareas de procesamiento de lenguaje natural.

  • Curie
    $0.0020 / 1K tokens
    Es más caro que Ada y Babbage. Sin embargo, ofrece capacidades más avanzadas que los modelos más rápidos, lo que lo convierte en una buena opción para aplicaciones que requieren un procesamiento más complejo.

  • Davinci (el más poderoso)
    $0.0200 / 1K tokens
    El modelo más poderoso de la lista es Davinci, que ofrece las capacidades más avanzadas para tareas de procesamiento de lenguaje natural. Sin embargo, es la opción más cara de la lista. Es ideal para aplicaciones donde la precisión y las respuestas matizadas son fundamentales, como en escenarios complejos de atención al cliente o proyectos de investigación.
    .
    Ejemplo de calculo del reto:
    Le pregunte a chat gpt: Menciona las mejores arquitecturas de desarrollo de software.

  • Hice el calculo en la herramienta de tokenizacion

    .
    Podemos ver que una respuesta casi utiliza en su totalidad los 1000 tokens.

En casos de ser 5 peticiones(pregunta+respuesta) serian alrededor:
Ada --> 0.0005 * 5 = $0.0025
Davinci --> 0.0200 * 5 = $0.1
Se notan mas exponencial si hacemos el calculo para varios usuario utilizando varios dias por distintos horarios por dia.

Mis notas de la clase en https://mint-maraca-bfd.notion.site/Curso-de-Desarrollo-de-Chatbots-con-OpenAI-67ef813ab7af44edb5ba60ab0efa4b0f?pvs=4

Tambien Hice una pequeña tabla donde se puede ver la comparativa de los costos de los modelos al usar 1000 tokens tanto en la entrada como en la salida

Modelo Costo enviar pregunta Costo recibir respuesta Costo total
GPT-3.5 Turbo 4K context $0.0015 * 5 = 0,0075 $0.002 * 5 =0,01 $0,0175
Davinci Pre Trained $0.1200 * 5 = 0.6 $0.1200 * 5 = 0.6 $1,2
Ada Pretrained $0.0016 * 5 = 0.008 $0.0016 * 5 = 0.008 $0,016
El tokenizer acá <https://platform.openai.com/tokenizer>

a 17 de septiembre 2023 por ejemplo para hacer fine tuning con gpt-3.5-turbo a un costo de 0.0160 por cada 1000 tokens entonces podriamos decir que estaríamos gastando 1 dolar por cada 62.500 tokens?

Ahora los precios para el fine-tuning con los nuevos modelos (babbage-002, davinci-002, GPT-3.5 Turbo) es mucho más economico que con los que van a quedar obsoletos (ada, babbage, curie, davinci) - https://openai.com/pricing