【OpenAI 】使用Azure OpenAI Service的企业架构注释

入门

在Azure上出现了利用OpenAI的企业架构，所以自己用的笔记

1.ChatGPT× 使用Cognitive Search进行企业搜索

现在最烂的架构。可以在ChatGPT中搜索组织中的大量文档。很多企业首先开始在这个架构上实施。S官方Tech Blog报道记录了153K Views的惊人的View数。

• 示例说明如何仅从企业中的封闭数据生成文本，而不是基于在ChatGPT（gpt-35-turbo）模型中培训的数据生成文本
• 介绍了一种尽量避免令牌限制（4096）墙的方法
• 通过在文本中添加引用来生成可靠的响应

原文

• 使用 ChatGPT 彻底改变您的企业数据：带有 Azure OpenAI 和认知搜索的下一代应用程序

日本评论文章

• 在Azure上ChatGPT× 使用Cognitive Search实现企业搜索
• Azure Cognitive Search配备了矢量搜索功能，开始了专用预览

2.ChatGPT× 在CosmosDB中保存聊天历史记录

在CosmosDB中存储ChatGPT聊天历史记录的体系结构。带有Blazor Server前端。

• 使用ChatGPT和Azure Cosmos DB构建智能应用程序
• 在Azure上ChatGPT× 使用Cognitive Search为企业搜索添加历史记录功能

3.使用 ChatGPT × Azure Cache for Redis Enterprise 进行矢量搜索

在Azure OpenAI的Embeddings API中，将文档信息块转换为Embeddings，保存在Redis中。来自用户的查询也转换为嵌入式，进行近似最近邻搜索。

• 在Azure上部署（WebApp+Redis Enterprise的Azure缓存+批处理）

4.Azure OpenAI Custom Skill on Azure Cognitive Search

一种架构，通过调用Azure OpenAI作为Azure Cognitive Search的自定义技能来增强全文搜索索引。可以对文档附加摘要、分类、关键字短语提取、固有名词提取等信息。

• Azure认知语义搜索|大型文档| OpenAI丰富

5.GPT Smart Search Architecture

一种体系结构，它不仅将目标信息源扩展到Azure Cognitive Search，还扩展到Bing Search API、Azure SQL Database和CSV文件。使用LangChain进行管弦表演。

• 3-5天POC VBD支持：Azure Search+Azure OpenAI+Bot Framework+Langchain+Azure SQL+CosmosDB+Bing Search API

6.Azure OpenAI Enterprise Logging

一种架构，从预订管理员记录Azure OpenAI资源，并汇总访问源IP地址和令牌使用量。

可以获取在默认Azure OpenAI资源中无法监控的、完整的调用方IP地址、模型使用率、令牌使用率（输入输出）、输入提示详细信息、输出完成详细信息的度量。

• deployment of an Enterprise Azure OpenAI reference architecture.

• 为 Azure OpenAI 模型实现日志记录和监视

7.Azure OpenAI仅限于VNET的设置

构建步骤如下详细。企业安全部署Azure OpenAI Service时的基本设置。

当然，可以与其他Azure服务进行如下合作，也可以从启动前安全访问。模型也部署在使用预订的资源中。

8.Azure Speech Service× Azure OpenAI

将语音输入用Speech To Text文本化，与Azure OpenAI合作的架构。Cool的实时演示代码也被公开。

• AI-Powered-Call-Center-Intelligence powered by Azure AI (including Azure OpenAI GPT-3)

• Contact Center AI Solution with GPT

9.ChatGPT× Azure Video Indexer

使ChatGPT和Azure Video Indexer联合检索组织内的动画内容的架构。

• Supercharge Archive Content Discovery with ChatGPT and Azure Video Indexer

10.“Project Miyagi”Semantic Kernel体系结构

Azure-Supples中常见的全部承载体系结构。懦弱的人请注意阅览。

Semantic Kernel用于数据获取的管弦演示。TODO：需要拆卸以便于理解。Project Miyagi的Miyagi好像是电影最佳基德（The Karate Kid）的空手道天才Mr.Miyagi。

Sample to envision intelligent apps with Microsoft's Copilot stack for AI-infused product experiences.

Semantic Kernel解说

Semantic Kernel是什么？面向这样的人的解说报道&动画

• 微软发布了将LLM集成到应用程序开发中的OSS“Semantic Kernel”
• Azure OpenAI Developers研讨会

Semantic Kernel样品（C#）

• Integrate cutting-edge LLM technology quickly and easily into your apps

最近追加了名为Copilot Chat的高功能聊天样本，需要检查。

11. 使用语义内核创建您自己的 Copilot 系统的示例架构

LLM作为与各种企业内系统·DB联合的管弦乐器动作的例子。

• 使用Microsoft365 Copilot System和Semantic Kernel实现

5/24 Build 2023 AI Copilot时代到来

请在“Copilot stack的LLM中心应用程序开发”中学习最新的开发方法

AI Copilot时代到来-Copilot stack开发LLM中心应用程序

参考動画

• Azure OpenAI Developers研讨会
• 《ChatGPT描绘的未来与AI开发的变迁》日本微软株式会社蒲生弘乡（2023年4月21日）