【Azure GenAI】使用Azure OpenAI资源设计和实施网关解决方案:安全性和数据完整性

1.身份验证

Azure OpenAI（AOAI）支持两种形式的身份验证。

• Microsoft Entra ID:AOAI支持使用托管身份或Entra应用程序进行Microsoft Entra身份验证。使用托管身份，可以在消费者和AOAI服务之间实现无密钥身份验证。在基于Entra应用程序的身份验证中，每个消费者都需要为有权访问AOAI资源的Entra应用维护一个客户端id和一个秘密。
• API密钥：消费者可以传递一个密钥来向AOAI验证自己。AOAI提供的API密钥本质上是秘密的。如果消费者想要使用基于API密钥的身份验证，他们需要访问此密钥。然而，当消费者需要在多个AOAI端点之间分发请求时，他们的任务是独立管理每个API密钥。将API密钥委托给消费者不仅将密钥管理的责任强加给他们。如果密钥在消费者端被泄露，也会增加安全漏洞的风险。此外，这种方法使其他安全最佳实践的实现变得复杂，例如密钥轮换和阻止特定消费者请求的能力。

网关可能会与非AOAI的端点进行接口连接。在这些情况下，不同的端点可能有不同的身份验证方式。

这里建议的方法之一是将AOAI（或其他GenAI端点）的身份验证卸载到GenAI网关，并在网关级别终止消费者身份验证。将GenAI端点身份验证与最终消费者解耦，使他们能够采用统一的企业级身份验证机制，如OAuth。它还允许他们通过GenAI网关进行身份验证，并减轻上述风险。在AOAI端点中，GenAI网关也可以使用托管身份进行身份验证。当身份验证被卸载时，GenAI资源无法识别消费者，因为网关将对所有请求使用自己的凭据。

2.个人身份信息（PII）和数据屏蔽

GenAI网关充当消费者和后端AOAI服务之间的中介。使用GenAI网关进行PII检测和数据屏蔽成为该架构的关键部分。此设置允许以下功能：

• 集中处理敏感数据
• 确保在AOAI处理任何个人信息之前，对其进行识别和适当管理

集中式方法还为跨多个消费者应用程序标准化PII处理实践提供了机会，从而实现了更一致和可维护的数据隐私协议。

可以在网关级别实现自动化流程，以拦截请求并在Azure OpenAI服务处理之前检测PII信息。一旦检测到，PII数据可以被编辑或替换为通用占位符。

• 检测PII
  • Azure AI Language等服务可用于识别和分类文本数据中的PII信息。某些Azure服务（如Azure权限）也可以帮助检测和显示PII信息。
  • Microsoft Presidio还可以用于对PII数据的识别和匿名化进行精细控制。
  • 对于更具体或定制的PII检测，可以使用Azure机器学习服务训练自定义域特定的ML模型。REST端点公开模型。
• 编排：GenAI网关可以采用编排层，利用Azure服务自动化工作流。此工作流程可以包括PII检测和数据屏蔽操作的步骤。可以使用Azure函数或逻辑应用程序。

然而，集成额外的PII检测和屏蔽层会增加消费者的整体响应延迟。在设计系统时，必须将这一因素与数据隐私和合规性的需求相平衡。

3.数据主权

AOAI背景下的数据主权是指与特定国家或地区地理边界内数据存储和处理相关的法律和监管要求。规划数据主权对于企业避免违反当地数据保护法导致巨额罚款至关重要。

GenAI网关可以通过利用基于消费者位置的区域亲和力，在数据主权方面发挥关键作用。它可以智能地将流量重定向到后端AOAI实例和其他云服务，以处理请求。该请求将位于符合相关数据居住和主权法律的地区。在将本地定制大型语言模型（LLM）与AOAI相结合的混合设置中，确保混合系统也符合多区域可用性要求以支持消费者亲和力至关重要。

4.内容审核

随着基于LLM的聊天应用程序的兴起，组织必须防止用户向外部托管的LLM泄露敏感数据。同样，必须筛选LLM的响应数据，以排除任何亵渎。

通过GenAI网关设计，企业可以为其GenAI应用程序实施集中的内容审核策略。对于Azure OpenAI，默认内容过滤发生在Azure中，企业可以在Azure中配置内容审核级别。

对于GenAI服务中更多的内容审核需求，请将GenAI网关与内容审核服务集成。服务将在向应用程序发送响应之前进行验证。以下是一些关于可以集成的外部内容审核服务的建议。

• Azure内容审核服务(Azure Content Moderator Service)

内容主持人服务是一个API，由人工智能提供支持，并在Azure上运行。该服务能够扫描文本、图像和视频内容，以发现潜在的风险、冒犯性或不良方面。

• AI内容安全

Azure AI内容安全检测应用程序和服务中有害的用户生成和AI生成的内容。Azure AI内容安全包括文本和图像API，允许您检测有害内容。它提供了先进的AI功能和增强的性能。当部署OpenAI模型时，默认情况下启用AI内容安全。

要决定服务，请参阅本文档了解详细信息。集成额外的内容审核服务将增加整体响应延迟。

有关解决方案的高级设计概述，请参阅本节。