Repository #599547518 · stable identity

vllm|高效LLMs推理与服务引擎vllm-project/vllm

vllm-project/vllmAI 译

vllm,高吞吐量且内存高效的LLMs推理与服务引擎。 A high-throughput and memory-efficient inference and serving engine for LLMs

打开 GitHub ↗
当前 Star
86,722
主要语言
Python
首次发现
2026-07-15
最近追踪
2026-07-21
历史星标榜
#162

Decision brief

项目速览

它解决什么

vllm,高吞吐量且内存高效的LLMs推理与服务引擎。

适合谁

需要模型训练与推理、API 与后端能力的开发者或团队。

为什么上榜

2026-07-19 获得 1 个公开唯一加星用户,全站公开事件榜第 657 名。

中文名称、简介和分类属于辅助理解层;GitHub 原始仓库信息始终是权威来源。

Project taxonomy

方向与适用场景

项目方向
AI 与机器学习
产品形态
库/框架
适用场景
模型训练与推理、API 与后端
分类来源
GitHub Models 生成 · 词表 1.0.0

Public event history

公开事件新增历史

日期唯一新增全站名次
+1 #657
+1 #106

来自 GH Archive 归档的公开 WatchEvent,按用户—仓库唯一对计数;不扣除取消 Star。

30 day true history

真实历史

日期总 Star净增日榜排名
86,722 +86 #90
86,434 +87 #66

— 表示当日缺少有效连续快照,或项目当日不在可比较候选中;不补零,不插值。

Related repositories

相似项目