架构师研究会

【MLOps】在Triton推理服务器上使用TensorRT LLM部署大型语言模型（LLM）：分步指南

1 June 2024

Triton推理服务器, LLM, MLOps, TensorRT-LLM,

阅读更多关于【MLOps】在Triton推理服务器上使用TensorRT LLM部署大型语言模型（LLM）：分步指南
登录发表评论
58 次浏览

Tags

【MLops】ML模型服务的最佳工具

1 June 2024

MLOps, 人工智能, 大语言模型,

Tags

解释大型语言模型

1 June 2024

LLM, 大语言模型, 自然语言处理, 人工智能,

Tags

掌握LLM技术：训练

1 June 2024

NVIDIA NeMo, LLM模型定制, LLM工作流,

Tags

借助NVIDIA NeMo解锁企业级LLM的力量

1 June 2024

NVIDIA NeMo, NeMo, LLM, 大语言模型, 人工智能, 生成式AI,

Tags

掌握LLM技术：定制化

1 June 2024

LLM, LLM定制化, 大语言模型, 大语言模型定制化,

Tags

使用NVIDIA TensorRT LLM和NVIDIA Triton部署AI编码助手

1 June 2024

AI编码助手, NVIDIA TensorRT-LLM, TensorRT-LLM,

阅读更多关于使用NVIDIA TensorRT LLM和NVIDIA Triton部署AI编码助手
登录发表评论
25 次浏览

Tags

使用NVIDIA TensorRT LLM调整和部署LoRA LLM

1 June 2024

阅读更多关于使用NVIDIA TensorRT LLM调整和部署LoRA LLM
登录发表评论
40 次浏览

NeMo Guardrails可编程LLM护栏

31 May 2024

使用NVIDIA NeMo微服务简化自定义生成AI开发

31 May 2024

NVIDIA NeMo, NeMo, 大模型防护,

Tags

订阅

最新内容

【存储架构】存储区域网络（SAN）与网络连接存储（NAS）
1 day 21 hours ago
【工业物联网】普渡模式在工业物联网（IIoT）和云服务的世界中是否相关？
1 day 23 hours ago
【数据仓库架构】维基百科数据仓库建模
1 day 23 hours ago
【企业架构】IT 不重要，但企业架构重要
4 days 15 hours ago
【生成式AI】零样本和利用LLM的Few-Shot学习
4 days 22 hours ago
【生成式AI】RAG vs微调vs快速工程：获胜者是。。。
4 days 23 hours ago
【生成式AI】RAG与微调：为你的LLM选择正确的方法
4 days 23 hours ago
【知识管理】交互式知识管理框架
4 days 23 hours ago
【小型语言模型】支持大型语言模型的小型语言模型
1 week 2 days ago
【产品和服务】产品和服务:工作定义和关键区别
1 week 2 days ago

↑