2024年最佳开源LLM : 如何在线测试开源LLM

如何在线测试开源LLM

在您开始下载模型并设置运行模型的软件之前，您可能需要首先使用在线游乐场进行测试。在线测试开源LLM的最佳场所包括：

PPLX实验室

Perplexity Labs提供聊天界面和API来访问开源LLM，包括他们自己的自定义模型Mistral 7b、CodeLlama 34b和Llama 2 13b和70b。除了操场，PPLX还提供API，我们稍后将在指南中对此进行介绍。

Vercel AI游乐场

Vercel AI Playground提供Bloom、Llama 2、Flan T5、GPT Neo-X 20B和OpenAssistant（Pythia 12B）的模型推理。