GitHub 项目数据
GitHub ★ 61,488Fork 12,456项目指标 72/100
最近提交:2026-10-18T15:33:16Z · 许可证:未识别许可证,请查阅仓库
来源:GitHub 官方 API · 同步于 2026-10-19 00:00(北京时间)
评分规则与适用范围
指标 v1:热度 40 分(40 × log10(Star + 1) / 6,四舍五入,上限 40);维护活跃度 40 分(最近提交在 30/90/180/365 天内分别为 40/30/15/5 分,更久或仓库归档为 0);识别到 SPDX 许可证 20 分。指标用于观察热度、维护时间与许可透明度,不是用户评分或功能实测,不能说明安全性、效果或商业适用性。Fork 仅展示,不参与打分。
本项目分项:热度 32,活跃度 40,许可透明度 0。缺失许可不等于没有许可,请核对原仓库。
能做什么
- 统一调用 LLM:以 OpenAI 格式提供单一接口,调用 OpenAI、Anthropic、Gemini、Bedrock、Azure 等 100+ 提供商。
- 两种使用形态:作为 Python SDK 直接集成(
import litellm),或部署为 AI 网关(Proxy Server)集中服务团队。 - 多端点支持:
/chat/completions、/responses、/embeddings、/images、/audio、/batches、/rerank、/a2a、/messages等。 - 智能体与工具接入:可通过 A2A 协议调用 LangGraph、Vertex AI Agent Engine、Azure AI Foundry、Bedrock AgentCore、Pydantic AI 等智能体;可将 MCP 服务器工具接入模型调用;可作为 Cursor IDE 的 MCP 服务端点。
- 智能体运行框架:Python SDK 支持在指定沙箱中运行 Claude Code、Codex、OpenCode、Deep Agents,并将模型调用路由到网关。
- 网关能力:说明中列出虚拟密钥、花费追踪、护栏、负载均衡与管理面板等。
适用场景
- 需要在多个 LLM 提供商之间切换或统一接入,避免为每家维护不同 SDK 与鉴权。
- 团队希望以集中式网关统一管理模型调用、密钥与用量。
- 需要把 MCP 工具或 A2A 智能体接入 LLM 调用流程的开发者。
使用条件与限制
- SDK 安装方式为
uv add litellm;网关安装为uv tool install 'litellm[proxy]',启动命令litellm --model gpt-4o。 - 需自行准备各提供商的 API Key 与相应访问权限。
- 文档说明
litellm与litellm-core两个发行版存在文件重叠,同一环境只应安装其一;litellm-core不含可选依赖、CLI 入口与内置面板,且其发布整合尚在进行中,需按文档从本地构建安装。 - 运行智能体框架需额外安装
starlette uvicorn及对应智能体 CLI,或 Deep Agents 相关依赖。 - 通过 A2A 调用需
a2a-sdk>=1.1.0;MCP OAuth 场景下若上游要求预注册应用,需配置client_id/client_secret。 - 性能、价格与托管服务等细节需以官方文档为准,本条目不作判断。
来源与收录说明
AI 整理,已通过独立来源审核,收录于 2026-10-19。资料整理不代表运行实测,具体功能与使用条件以官方说明为准。
https://github.com/berriai/litellm ↗