【Azure GenAI】利用实验加速RAG开发

检索增强生成（RAG）是一种强大的技术，它结合了大型语言模型和信息检索的能力来生成文本。通过从文档集合中检索相关信息，它能够生成更准确和信息量更大的响应。快速实验对于RAG系统的成功实施至关重要。

业务问题

实施RAG系统的客户需要快速进行实验，但他们缺乏这样做的工具。这种工具的缺乏延长了实验阶段，并导致为每个RAG系统创建自定义实验代码的投资浪费。

解决方案

RAG实验加速器是一种工具，旨在通过运行多个实验并评估结果，帮助团队快速找到RAG实施的最佳策略。它提供了一种标准化和一致的RAG实验方法。它还提供了使用RAG进行配置、索引、查询和评估的工具。

配置

配置允许用户为RAG解决方案的每个部分尝试不同的策略和选项。每种策略和选项的结果都可以进行比较。用户可以通过指定组块方法、嵌入维度、语言和其他参数来配置他们的实验。配置是通过编辑config.json文件并为每个参数选择所需的值来完成的。

索引创建

配置完成后，加速器会创建一个索引并摄取文档。该加速器可以支持各种文档格式，包括PDF、HTML、Markdown、Text、JSON和DOCX。索引创建涉及将文档分块为更小的部分，将其转换为嵌入，并将其存储在向量索引中。全文索引也是一种选择。加速器允许用户为分块、嵌入和索引配置不同的参数，并尝试不同的策略。

查询

在获取文档后，加速器可以对索引执行查询。查询是向信息检索系统提问以从客户文档中获取相关数据块的过程。查询可以通过多种方式完成，例如全文、矢量或混合搜索。它还可以涉及重新表述、子查询和重新排序，以改善结果。

评价

该加速器还提供了评估信息检索系统和大型语言模型质量的工具。用户可以指定他们想要用来评估结果的指标。信息检索系统的结果可以使用以下指标进行评估：

• 平均倒数排名(Mean reciprocal rank)
• K时的精度(Precision at K)
• 召回K(Recall at K)

以下指标可用于评估大型语言模型的响应：

• Cosine similarity
• BLEU
• ROUGE

使用MLflow的加速器将生成报告和图表，以帮助用户比较不同的实验。

价值主张

RAG实验加速器的一个关键优势是它能够快速提供对客户数据的洞察。通过对客户数据进行实验，团队可以更好地理解数据，并找到RAG实施的最佳策略。这些数据见解可以帮助团队更有效地与客户互动，并提供更明智的建议。

逻辑架构

RAG实验加速器

实施

RAG实验加速器作为GitHub存储库提供，您可以克隆并开始使用：microsoft/rag-experiment-accelerator