【生成式AI】在部署VNET部署Azure Open AI

GPT模型目前托管在多个服务供应商中，Microsoft Azure就是其中之一。

尽管模型本身是相同的，但存在许多差异，包括：

• 费用
• 功能
• 型号和版本的类型
• 地理位置
• 安全
• 支持
• 等
   

当我们在企业环境中使用它时，最重要的方面之一当然是安全性。

通过将Azure网络安全功能与Azure Open AI一起使用，客户可以在VNet中使用Open AI服务，因此没有信息在公共场合流动。

示例部署

Azure Sample repo提供了一个示例二头肌文件，用于将Azure Open AI部署到VNet环境中。

GitHub: openai-enterprise-iac

bicep 使用的主要功能是：

• VNet
• Web应用程序的VNet集成
• Azure开放人工智能专用端点
• 认知搜索的私有端点
• 专用DNS区域

通过使用这些功能，来自Web应用程序的所有出站流量仅在VNet内部路由，所有名称都解析为专用IP地址。开放人工智能和认知搜索关闭了公共IP地址，因此不再有公共接口端点可用。

部署

bicep 文件将部署在以下Azure资源中。

让我们部署并确认它是如何工作的。我在美国东部地区创建了一个资源组，用于我自己的测试。

• git clone https://github.com/Azure-Samples/openai-enterprise-iac
• cd openai-enterprise-iac
• az group create -n openaitest -l eastus
• az deployment group create -g openaitest -f .\infra\main.bicep

一旦我运行了上面的命令，我就会看到部署开始了。等待部署完成。

测验

让我们看看部署是否成功。

Azure开放人工智能

让我们先尝试公共访问。

我可以毫无问题地创建部署。但当我在Azure门户的聊天平台上尝试时，我看到以下错误。

聊天失败，出现错误

通过Web API访问如何？

从应用程序服务的高级工具中，我登录到Bash会话，然后首先ping服务URL。

我看到分配给专用终结点的专用IP地址已返回。

然后我使用curl命令将请求发送到端点。