Aprovecha el precio especial y haz tu profesión a prueba de IA

Antes: $249

Currency
$209
Suscríbete

Termina en:

2 Días
5 Hrs
21 Min
41 Seg

¿Qué es Open AI en Azure?

1/21
Resources
Transcript

How to create an enterprise chatbot using Azure OpenAI?

Imagine having full control of a custom chatbot that queries your own data, all within a secure environment. That's the promise of Azure OpenAI Service, Microsoft's technology that allows companies to develop chatbots without the fear of their data being exposed to third parties or used to train other models. Here we will explore how to leverage Azure to create an effective chatbot, considering responsive generative artificial intelligence and RAC architecture.

What are the concerns of enterprises regarding generative AI?

Generative AI brings with it significant concerns for enterprises, primarily related to privacy and data sharing. These concerns center on:

  • Data exposure: Companies fear that their sensitive data may be accessible to other entities.
  • Use for model training: There is a fear that the data provided will be used to enhance or train external models such as OpenAI models.

Azure OpenAI Service addresses these issues by ensuring that:

  • The data will not be used to train other models.
  • It will not be shared with third parties.
  • Each company will have its data secured in its own Tenant.

How do we implement a chatbot using Azure OpenAI?

Implementing an enterprise chatbot in Azure consists of several crucial steps that must be followed meticulously:

  1. Deploying the Azure OpenAI Service:

    • Deploy a service that leverages the advanced modeling capabilities of OpenAI.
    • Configure security and privacy conditions according to business needs.
  2. Data integration with Azure AI Search:

    • Connect your existing data so the model can query it efficiently.
    • Ensure data is quickly and securely accessible by the chatbot.
  3. Setting up a GPT model:

    • Setting up the GPT model so that it can query on company data.
    • Customization to accurately answer common questions and specific use cases.
  4. Deployment as a web application:

    • The chatbot will be deployed as a web application accessible according to the company's default authentication.
    • Ensure that the application is intuitive and easy to use to enhance the user experience.

What's next after implementing the chatbot?

Once implemented, an Azure OpenAI-based chatbot offers powerful capabilities to increase internal efficiency and improve customer interaction. By constantly keeping an eye on emerging technologies and best practices in artificial intelligence, companies can continue to get the most out of their chatbots. As a professional in the field of AI, this is just the beginning of the endless opportunities that can be leveraged. I encourage you to continue to explore and learn about the applications of artificial intelligence to transform business - the future is bright!

Contributions 8

Questions 1

Sort by:

Want to see more contributions, questions and answers from the community?

![](https://static.platzi.com/media/user_upload/Chatbot-61e1f829-cb60-4edf-98d9-e58b3d272ea0.jpg) Siempre me he sentido frustrado con los chatbots de distintas entidades, de salud, de bancos en fin... Así que con mucha expectativa incio ese curso. 🤖😎
Espectativas muy grandes de la profesora y muchas ganas de iniciar con este curso.
Me enamoré de los chatbots desde que entré como becario a una empresa que partcipó en el chatbot de la salud en el estado de Yucatán.

Muchas expectativas de este curso, VAMOS

se ve buenísimo el curso!!
Azure OpenAI Service es una oferta de Microsoft que proporciona acceso a los modelos de inteligencia artificial de OpenAI, como GPT-3.5-Turbo, GPT-4, DALL-E, Whisper, y otros, con la seguridad y las capacidades empresariales de Azure. Esta integración permite a las organizaciones aprovechar la potencia de los modelos de OpenAI en un entorno seguro y escalable. ### Características Principales * **Acceso a Modelos de IA Avanzados**: Azure OpenAI Service ofrece acceso a una variedad de modelos de OpenAI, incluyendo GPT-4o, GPT-4o mini, GPT-4, GPT-3.5-Turbo, y más. * **Seguridad y Cumplimiento**: La integración con Azure proporciona seguridad de nivel empresarial, cumplimiento global y protección de datos. * **Capacidades de Red Virtual y Enlace Privado**: Soporte para redes virtuales y enlaces privados para asegurar la comunicación entre tus recursos de Azure y el servicio. * **Identidad Administrada**: Integración con Microsoft Entra ID para una gestión segura de identidades. * **Experiencia de Usuario en el Portal de Azure**: Gestión de cuentas y recursos a través del portal de Azure, y exploración y fine-tuning de modelos en Azure AI Foundry. * **Filtrado de Contenido**: Herramientas para moderar el contenido generado y guía para diseñar aplicaciones de manera segura. ### Precios y Modelos de Uso * **Modelos Disponibles**: Incluye modelos de la serie o-series (como o3-mini y o1), GPT-4o, GPT-4, GPT-3.5-Turbo, y más. * **Precios**: Azure OpenAI Service ofrece precios basados en el consumo (Pay-As-You-Go) y unidades de rendimiento aprovisionadas (Provisioned Throughput Units, PTUs). El modelo de precios varía según el tipo de modelo y la capacidad de procesamiento requerida. ### Cómo Empezar Para comenzar con Azure OpenAI Service, necesitas crear un recurso de Azure OpenAI Service en tu suscripción de Azure. Puedes crear un recurso a través del portal de Azure, la CLI de Azure o Azure PowerShell. Una vez que tienes un recurso, puedes desplegar un modelo y comenzar a hacer llamadas a la API. ### Comparación con OpenAI Azure OpenAI Service ofrece los mismos modelos que OpenAI, pero con la seguridad y las capacidades empresariales de Azure. Esto incluye soporte para redes virtuales, regionalidad, y filtrado de contenido para uso responsable de la IA. ### Uso Responsable de la IA Microsoft está comprometido con el uso responsable de la IA. Azure OpenAI Service incluye herramientas y guía para moderar el contenido generado y diseñar aplicaciones de manera segura. Esto asegura que los modelos se usen de manera adecuada y para los fines previstos. ### Conclusiones Azure OpenAI Service es una solución poderosa que combina la potencia de los modelos de OpenAI con la seguridad y las capacidades empresariales de Azure. Permite a las organizaciones innovar con capacidades de texto, audio y visión, mientras mantiene la seguridad y el cumplimiento de los datos.
1. **Potencial del Chatbot Empresarial**: * Imagina crear tu propio chatbot empresarial. * Consulta sobre tus datos de manera eficiente. 2. **Temores Empresariales y Protección de Datos**: * Muchas empresas temen usar inteligencia artificial generativa. * Principal miedo: exposición de datos a otras empresas o uso para entrenar modelos de OpenAI. * Azure OpenAI Service garantiza que tus datos no se compartirán con terceros. 3. **Seguridad y Ajuste de Modelos**: * Datos de cada compañía resguardados en su propio tenante. * Modelos ajustados no estarán disponibles para otras empresas. 4. **Desarrollo del Chatbot en Azure**: * Curso para desarrollar un chatbot en Microsoft Azure. * Consideración de características empresariales y principios de IA responsable. * Implementación de la arquitectura RAG (Retrieval Augmented Generation). 5. **Configuración del Chatbot**: * Despliegue de un servicio de Azure OpenAI. * Integración de tus datos con Azure AI Search. * Configuración de un modelo de la familia GPT para consultas sobre tus datos. 6. **Acceso y Autenticación**: * Despliegue del chatbot como una aplicación web. * Acceso mediante autenticación predeterminada por la compañía.
Es de tener en cuenta, que el contar Microsoft Office 365 en la empresa no implica tener Azure, son dos servicios diferentes. Si ya usan Azure en tu empresa, solicitar acceso a Azure OpenIA no tiene un costo adicional.