【Azure GenAI】创建有效LLM提示的建议

快速工程可以显著提高LLM输出的质量。然而，它也可能具有挑战性，因为它需要了解模型的功能和局限性，以及手头的领域和任务。以下是使用大型语言模型时提示工程的一些建议。

• 提供明确的说明——确保提示具体说明了您希望模型生成什么，例如预期的格式、长度和完成音调。例如，如果你想让模型生成一篇新闻文章的摘要，你可以指定句子的数量、要涵盖的要点和写作风格。
• 考虑用关键字、符号或标签来描述提示或所需完成格式的关键组成部分——这可以帮助LLM更清楚地识别有意义的信息，并消除详细说明的歧义。您可以在单个提示中使用多种策略的组合，例如用“摘要：”和“结束”等短语表示完成的开始和结束。您还可以指示LLM查找以特定格式提供的上下文，这有助于更复杂的提示模板，例如“总结用三引号分隔的文本。使用少于25个单词。”。
• 提供上下文——提供一些关于应用程序、领域和用户意图的上下文。这种背景可以帮助模型生成更相关和连贯的输出。例如，如果你想让模型生成代码，你可以包含一些导入语句，将模型集中在相关的库和模块上。您还可以提供一些注释或描述来解释代码的目的和逻辑。对于会话代理，您可以提供有关用户、主题和会话目标的一些背景信息。
• 从零样本学习（ZSL）开始，然后是少热点学习（FSL）——当你的任务没有数据或数据有限时，或者当你想测试模型的创造性和多样性时，ZSL可能会很有用。当您有一些任务数据时，或者当您想指导模型的行为和质量时，FSL可能很有用。您可以根据需要尝试不同数量的示例，并根据输入或反馈动态选择这些示例。例如，如果你想让模型生成产品评论，你可以从ZSL开始，看看模型产生了什么。提供一些正面或负面评论的例子，以引导模特的情绪和风格。
• 尝试重新排列提示——提示中元素的顺序会影响模型的注意力和影响力。提示底部的镜头示例或其他信息很少会比顶部的早期示例或信息对完成结果产生更大的偏差。您可以尝试不同的提示安排，看看模型是如何响应的，以及什么最适合您的任务。例如，如果你想让模型为新闻文章生成标题，你可以尝试将文章文本放在提示的顶部或底部。看看模型是如何捕捉到文章的主要思想和基调的。
• 改变历史长度——在聊天机器人等多回合用户应用程序中，提示中包含的历史长度可以为模型提供足够的上下文，以生成自然和一致的响应。但是，您还需要监视模型的行为，并在发现漂移时清除或限制历史记录。漂移是指模型执行以下操作之一：
  • 偏离谈话的主题或目标
  • 重复自己
  • 自相矛盾
    您可以执行以下操作来识别和防止漂移：
  • 根据对话的复杂性和连贯性改变历史长度
  • 主题建模
  • 情绪分析
  • 重复检测
• 优化少数样本选择——您为模型提供的少数镜头示例的质量和相关性会对模型的性能和泛化产生重大影响。您可以在数据上训练或微调语义相似性模型，以选择更相关的少数镜头样本。语义相似性模型可以根据两个文本的含义和内容来衡量它们之间的相似性，而不是根据它们的表面形式或句法。您可以使用语义相似性模型对数据进行排名和过滤，并选择与您的输入或任务最相似的示例。例如，如果你想让模型生成一个食谱，你可以使用语义相似性模型来选择一些与你的输入有相似成分、菜肴或步骤的食谱示例。
• 指导模型如何推理——你可以通过思维链和自我提问等技术提高法学硕士的推理能力。例如，思维链使LLM能够将多步问题分解为中间步骤。它使LLM能够解决标准提示方法无法解决的复杂推理问题。
• 通过指示LLM以一种更容易清楚回答的方式重新表述问题，帮助LLM更容易处理模糊的上下文或查询——《重新表述和回应》论文提供了开始提示和有用的指导，说明这种技术如何使LLM以更容易理解的方式重新构建人类提出的问题，并为用户提供重新表述查询以提高效率的建议。这种技术可以与其他推理方法（如思维链）相结合，以提高推理性能，并提供更具对话性和用户友好性的聊天体验。