【OpenAI 】使用Azure OpenAI Service的企业架构注释
视频号
微信公众号
知识星球
入门
在Azure上出现了利用OpenAI的企业架构，所以自己用的笔记
1.ChatGPT× 使用Cognitive Search进行企业搜索
现在最烂的架构。可以在ChatGPT中搜索组织中的大量文档。很多企业首先开始在这个架构上实施。S官方Tech Blog报道记录了153K Views的惊人的View数。
- 示例说明如何仅从企业中的封闭数据生成文本，而不是基于在ChatGPT（gpt-35-turbo）模型中培训的数据生成文本
- 介绍了一种尽量避免令牌限制（4096）墙的方法
- 通过在文本中添加引用来生成可靠的响应
原文
日本评论文章
2.ChatGPT× 在CosmosDB中保存聊天历史记录
在CosmosDB中存储ChatGPT聊天历史记录的体系结构。带有Blazor Server前端。
3.使用 ChatGPT × Azure Cache for Redis Enterprise 进行矢量搜索
在Azure OpenAI的Embeddings API中，将文档信息块转换为Embeddings，保存在Redis中。来自用户的查询也转换为嵌入式，进行近似最近邻搜索。
4.Azure OpenAI Custom Skill on Azure Cognitive Search
一种架构，通过调用Azure OpenAI作为Azure Cognitive Search的自定义技能来增强全文搜索索引。可以对文档附加摘要、分类、关键字短语提取、固有名词提取等信息。
5.GPT Smart Search Architecture
一种体系结构，它不仅将目标信息源扩展到Azure Cognitive Search，还扩展到Bing Search API、Azure SQL Database和CSV文件。使用LangChain进行管弦表演。
6.Azure OpenAI Enterprise Logging
一种架构，从预订管理员记录Azure OpenAI资源，并汇总访问源IP地址和令牌使用量。
可以获取在默认Azure OpenAI资源中无法监控的、完整的调用方IP地址、模型使用率、令牌使用率（输入输出）、输入提示详细信息、输出完成详细信息的度量。
7.Azure OpenAI仅限于VNET的设置
构建步骤如下详细。企业安全部署Azure OpenAI Service时的基本设置。
当然，可以与其他Azure服务进行如下合作，也可以从启动前安全访问。模型也部署在使用预订的资源中。
8.Azure Speech Service× Azure OpenAI
将语音输入用Speech To Text文本化，与Azure OpenAI合作的架构。Cool的实时演示代码也被公开。
9.ChatGPT× Azure Video Indexer
使ChatGPT和Azure Video Indexer联合检索组织内的动画内容的架构。
10.“Project Miyagi”Semantic Kernel体系结构
Azure-Supples中常见的全部承载体系结构。懦弱的人请注意阅览。
Semantic Kernel用于数据获取的管弦演示。TODO：需要拆卸以便于理解。Project Miyagi的Miyagi好像是电影最佳基德（The Karate Kid）的空手道天才Mr.Miyagi。
Semantic Kernel解说
Semantic Kernel是什么？面向这样的人的解说报道&动画
Semantic Kernel样品（C#）
| Simple chat summary | Use ready-to-use plugins and get plugins into your app easily. |
| Book creator | Use planner to deconstruct a complex goal and envision using the planner in your app. |
| Authentication and APIs | Use a basic connector pattern to authenticate and connect to an API and imagine integrating external data into your app's LLM AI. |
| GitHub repository Q&A | Use embeddings and memory to store recent data and allow you to query against it. |
| Copilot Chat Sample App | Build your own chat experience based on Semantic Kernel. |
最近追加了名为Copilot Chat的高功能聊天样本，需要检查。
11. 使用语义内核创建您自己的 Copilot 系统的示例架构
LLM作为与各种企业内系统·DB联合的管弦乐器动作的例子。
5/24 Build 2023 AI Copilot时代到来
请在“Copilot stack的LLM中心应用程序开发”中学习最新的开发方法
AI Copilot时代到来-Copilot stack开发LLM中心应用程序
参考動画
- 296 次浏览