它解决什么
litellm 是一个基于 Rust 核心和 Python SDK 的 AI 网关，支持调用 100+ LLM APIs，涵盖 OpenAI、Bedrock、Azure、Anthropic、VertexAI、vLLM 及 Nvidia NIM，具备成本跟踪、访问控制、负载均衡和日志功能。
Repository #671269505 · stable identity
litellm｜支持 100+ LLM APIs 的 AI 网关 SDKBerriAI/litellm
BerriAI/litellmAI 译
litellm 是一个基于 Rust 核心和 Python SDK 的 AI 网关，支持调用 100+ LLM APIs，涵盖 OpenAI、Bedrock、Azure、Anthropic、VertexAI、vLLM 及 Nvidia NIM，具备成本跟踪、访问控制、负载均衡和日志功能。 The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
- 当前 Star
- 54,127
- 主要语言
- Python
- 首次发现
- 2026-07-15
- 最近追踪
- 2026-07-21
- 历史星标榜
- #404
Decision brief
项目速览
适合谁
需要AI 编程、API 与后端能力的开发者或团队。
为什么上榜
2026-07-20 获得 1 个公开唯一加星用户，全站公开事件榜第 255 名。
中文名称、简介和分类属于辅助理解层；GitHub 原始仓库信息始终是权威来源。
Project taxonomy
方向与适用场景
- 项目方向
- AI 与机器学习
- 产品形态
- 库/框架
- 适用场景
- AI 编程、API 与后端
- 分类来源
- GitHub Models 生成 · 词表 1.0.0
Public event history
公开事件新增历史
日期唯一新增全站名次
+1 #255
+2 #63
来自 GH Archive 归档的公开 WatchEvent，按用户—仓库唯一对计数；不扣除取消 Star。
30 day true history
真实历史
日期总 Star净增日榜排名
54,127 +113 #72
— — —
— — —
— — —
53,789 +97 #62
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— — —
— 表示当日缺少有效连续快照，或项目当日不在可比较候选中；不补零，不插值。
Related repositories