【LLM】基础大型语言模型（LLM）和工具环境

生成型人工智能应用程序的列表越来越多，可以分为八大类。

“软件正在吞噬世界…”

~马克·安德森

每一家公司都是一家软件公司……很快，每一家企业都将成为一家人工智能公司。

每个人都在使用软件……很快每个人都将直接使用人工智能。

在为生成型人工智能应用程序创建这个矩阵时，我惊讶于有这么多新的应用程序，其中有多少仍在封闭测试中，等待审批（等待名单）或很快可用。

内容与创意创作和写作助理的数量之多令人震惊。

毫无疑问，这是不可持续的，其中许多应用程序正在进行重大调整。正如我在上一篇文章中提到的，真正的增值和差异化将是生存所必需的。

随着本地LLM功能的增长和用户界面的成熟，没有考虑到IP和适当增值的基于LLM的应用程序将消失。

从某种程度上说，LLM市场是幼稚的，随着用户知识和洞察力的增长，实际上只是LLM扩展的瘦客户机的产品将无法生存。这类似于手电筒应用程序被操作系统中的一个按钮所取代。

2022年11月，Base10发布了一张Generative AI景观地图，这是Generative AI软件景观的一个很好的参考和概述。

下面的地图是我整理的，考虑了两个因素：

1.️基础大型语言模型和以数据为中心的工具

基础LLM和以数据为中心的工具的集合位于堆栈的底部。这些模型和工具是基础性的，因为它是基础级的推动者。

2.讨厌的生成语言AI工具

基于生成人工智能的应用激增，尤其是在内容和创意创作、写作助理、生成和搜索助理领域。

内容和创意创作是基于LLM的Generative AI最容易访问的功能。以及写作助手功能。难怪这些类别中的产品最多。

这些产品的差异化和生存的两个方面是：

• 专有的value-add位于LLM和UI之间，这一层需要在增强LLM API方面表现出色。
• 差异化的第二个要素是用户体验。用户体验也需要一流，才能有助于留住用户。

第三个最普遍的实施领域是生成和搜索助手。这基本上是基于对话的语义搜索，上传的内容充当知识库。数据提取和会话搜索类别做得非常相似，只是在更大的范围内。

然而，我最感兴趣的领域，也是我认为最有潜力和增长的领域，是构建框架。构建框架仍处于萌芽状态，但原则正在开始出现，具体如下：

• 模板化提示，使提示可重复使用和编程。
• 提示的存档、重复使用和共享。
• 创建复杂的API，以方便串行或并行执行多个请求。
• 具有代码逻辑的块，用于确定要执行的下一个块。
• 可以访问和利用多个基础系统。

交割时

Generative AI产品的扩张是惊人的，收缩是不可避免的。

生存的关键要素包括：

• 现有和不断增长的客户群
• 客户保留率
• Stellar用户体验和用户界面
• 专有且真正差异化的IP和软件

最后，为了再次说明Generative AI空间的拥挤本质，请考虑下面的图像。

它只显示了众多基于GPT或ChatGPT的Chrome Web扩展中的一些…