Gestión de Azure OpenAI Studio y Modelos Generativos

Clase 8 de 21Curso de Desarrollo de Chatbots con AzureOpenAI

OpenAI Studio

Cuando desplegamos Azure OpenAI Service tendremos acceso a Azure OpenAI Studio, una plataforma diseñada para desplegar y probar diferentes versiones de modelos de IA generativa, desplegar rápidamente asistentes virtuales, manejar datasets que sean usados para procesos de fine-tuning, consultar y gestionar las cuotas asignadas a nuestros modelos y crear filtros personalizados de contenido para aplicar a los modelos, de tal manera que podamos controlar el tipo de contenido que podrían generar. 1.png

Modelos

En la sección de modelos podemos ver todo el catálogo disponible para desplegar en nuestro recurso de Azure OpenAI service.

2.png

Azure OpenAI también nos permite aplicar fine-tuning a algunos modelos base para crear modelos personalizados que hayan sido ajustados y validados utilizando nuestros propios datos. 3.png

Deployments

En esta sección visualizaremos todos los modelos desplegados en nuestro recurso de Azure OpenAI y también tendremos la posibilidad de desplegar nuevos modelos base o modelos que han sido ajustados.

4.png

Datos

Con el fin de mantener seguros nuestros datos y garantizar características de encriptación, en esta sección Azure OpenAI Service nos provee un mecanismo para almacenar los datasets usados durante el entrenamiento o validación de los modelos que pasan por procesos de fine-tuning.

5.png

Filtros de Contenido

La IA Generativa Responsable nos recomienda una serie de principios que están enfocados en evitar que nuestras aplicaciones basadas en LLMs generen contenido que pueda llegar a ser perjudicial. Existen diferentes técnicas que nos permiten ayudar a controlar este tipo de situaciones, como por ejemplo el prompting o metaprompting. Sin embargo, en algunos escenarios es indispensable clasificar el contenido que se analiza (prompts) y el contenido generado (completions) por parte de los modelos con el fin de evitar que se genere contenido con alto nivel de severidad en estas categorías:

  • Odio
  • Sexual
  • Autolesión
  • Violencia

6.png

Playground

Azure OpenAI service nos ofrece 3 platygrounds que nos permiten interactuar rápidamente con los modelos base o modelos ajustados que se despliegan.

Chat Playground

Este playground nos permite interactuar con los modelos conversacionales (Chat Completions) que hemos desplegado. 7.png Esta interfaz nos provee un mecanismo para hacer la configuración que permite establecer el comportamiento del asistente virtual, así como un mecanismo rápido para agregar ejemplos que sirvan de contexto para el modelo y una sección donde se puede escoger el modelo conversacional a usar.

Completions Playground

Este playground nos permite interactuar con modelos que no tienen la API de chat completions, como por ejemplo Codex o solo la API de Completions. En esta interfaz vamos a poder especificar el modelo desplegado que queremos usar, el lenguaje que se debe considerar para generar los completions, realizar ajustes de los hiperparámetros e incluso revisar y probar ejemplos de prompts que podríamos usar para determinados escenarios. 8.png

DALL-E Playground

El playground de DALL-E nos ofrece una interfaz para generar imágenes a partir de un prompt en lenguaje natural, así como también establecer la configuración que permite especificar los parámetros del modelo encargado de generar la imagen: número de imágenes a generar y tamaño de las imágenes.

9.png