【Azure GenAI】了解LLM

大型语言模型（LLM），如GPT-3，是强大的工具，可以在各种领域和任务中生成自然语言。然而，它们并不完美，在决定将其用于现实世界的用例之前，需要考虑它们的局限性和风险。本文为大型语言模型的用例提供了一些建议。

这些模型最适合用于生成应用程序

LLMs接受大量文本的训练。目的是学习语言的统计模式，并根据前面的单词预测最可能的单词。因此，它们最适合以下需要生成连贯流畅文本的场景：

• 写故事。
• 写文章。
• 写标题(Writing captions.)
• 写标题(Writing headlines)
• 从结构化数据生成自然语言。
• 根据自然语言规范编写代码。
• 总结长篇文档。

然而，他们可能在需要更多逻辑推理、事实知识或特定领域专业知识的任务上表现不佳。对于后者，需要在提示中添加足够的相关信息以使模型落地。

会出现错误的答案、事实错误和其他有问题的输出

大型语言模型并非绝对可靠，它们可能会产生不正确、误导、偏见、冒犯或有害的输出。这种故障可能是由于以下原因之一造成的：

• 数据质量问题。
• 模型限制。
• 对抗性输入。
• 意外后果。

因此，用例的设计应尽量减少此类故障的影响和频率。它还应提供检测、纠正和报告这些问题的机制。例如，用例可能包括质量检查、反馈循环、人为监督或道德准则。

较小的模型可能比LLM更有效

LLM是可以处理各种任务的通用模型。它们可能不是需要更专业知识或技能的特定任务的最佳选择。在许多情况下，一个较小的、专门构建的NLP模型可能会在一个狭窄的、非生成的任务中优于GPT-3。

例如，假设一项任务涉及将文本分类到预定义的类别中，如情感分析、垃圾邮件检测或主题建模。该任务可能受益于在相关数据集和目标上训练和微调的模型，而不是试图适应所有可能场景的通用模型。专门构建的NLP模型也可能比大型语言模型更高效、更可解释、更容易解释。

共享LLM输出时请小心

不建议在最终用户直接使用输出的用例中使用LLM。LLM可以生成合理和令人信服的文本，但它们不能保证其准确性、可靠性或适用于特定目的。不建议使用模型输出直接呈现给最终用户的用例，特别是在高风险或高风险的情况下。

当最终用户缺乏验证LLM响应有效性所需的知识或专业知识时，应特别小心。考虑以下示例：

• 医疗建议。
• 法律指导。
• 财务信息。
• 教育内容。

在这些情况下，应该让人类专家参与这一过程。他们应该审查、编辑或批准模型输出，或者提供更多的上下文、澄清或免责声明。

结论

总之，LLM是强大而通用的工具，可以实现许多新颖而有用的应用。它们也有局限性和风险，需要仔细考虑和解决。这些建议旨在帮助大型语言模型的开发人员和用户对其用例做出明智和负责任的决策。