Gestión de Azure OpenAI Studio y Modelos Generativos
Clase 8 de 21 • Curso de Desarrollo de Chatbots con AzureOpenAI
OpenAI Studio
Cuando desplegamos Azure OpenAI Service tendremos acceso a Azure OpenAI Studio, una plataforma diseñada para desplegar y probar diferentes versiones de modelos de IA generativa, desplegar rápidamente asistentes virtuales, manejar datasets que sean usados para procesos de fine-tuning, consultar y gestionar las cuotas asignadas a nuestros modelos y crear filtros personalizados de contenido para aplicar a los modelos, de tal manera que podamos controlar el tipo de contenido que podrían generar.
Modelos
En la sección de modelos podemos ver todo el catálogo disponible para desplegar en nuestro recurso de Azure OpenAI service.
Azure OpenAI también nos permite aplicar fine-tuning a algunos modelos base para crear modelos personalizados que hayan sido ajustados y validados utilizando nuestros propios datos.
Deployments
En esta sección visualizaremos todos los modelos desplegados en nuestro recurso de Azure OpenAI y también tendremos la posibilidad de desplegar nuevos modelos base o modelos que han sido ajustados.
Datos
Con el fin de mantener seguros nuestros datos y garantizar características de encriptación, en esta sección Azure OpenAI Service nos provee un mecanismo para almacenar los datasets usados durante el entrenamiento o validación de los modelos que pasan por procesos de fine-tuning.
Filtros de Contenido
La IA Generativa Responsable nos recomienda una serie de principios que están enfocados en evitar que nuestras aplicaciones basadas en LLMs generen contenido que pueda llegar a ser perjudicial. Existen diferentes técnicas que nos permiten ayudar a controlar este tipo de situaciones, como por ejemplo el prompting o metaprompting. Sin embargo, en algunos escenarios es indispensable clasificar el contenido que se analiza (prompts) y el contenido generado (completions) por parte de los modelos con el fin de evitar que se genere contenido con alto nivel de severidad en estas categorías:
- Odio
- Sexual
- Autolesión
- Violencia
Playground
Azure OpenAI service nos ofrece 3 platygrounds que nos permiten interactuar rápidamente con los modelos base o modelos ajustados que se despliegan.
Chat Playground
Este playground nos permite interactuar con los modelos conversacionales (Chat Completions) que hemos desplegado.
Completions Playground
Este playground nos permite interactuar con modelos que no tienen la API de chat completions, como por ejemplo Codex o solo la API de Completions. En esta interfaz vamos a poder especificar el modelo desplegado que queremos usar, el lenguaje que se debe considerar para generar los completions, realizar ajustes de los hiperparámetros e incluso revisar y probar ejemplos de prompts que podríamos usar para determinados escenarios.
DALL-E Playground
El playground de DALL-E nos ofrece una interfaz para generar imágenes a partir de un prompt en lenguaje natural, así como también establecer la configuración que permite especificar los parámetros del modelo encargado de generar la imagen: número de imágenes a generar y tamaño de las imágenes.