LiteLLM v1.107.0-dev.2 发布:校验镜像签名并汇总代理与模型桥接修复
LiteLLM 发布 v1.107.0-dev.2 开发版,说明所有 Docker 镜像均用 cosign 签名并给出用固定提交哈希或发布标签校验的命令;此次变更主要涉及代理权限、缓存与路由重试、Anthropic/Bedrock/Vertex 等桥接修复,以及多项成本与工具搜索相关调整。
LiteLLM 发布 v1.107.0-dev.2(2026-10-15)。该版本说明所有 LiteLLM Docker 镜像都用 cosign 签名,每次发布使用同一把密钥;并给出两种校验方式:用固定提交哈希拉取 cosign.pub(推荐,哈希不可变),或用该发布标签拉取。成功时输出应包含 cosign 声明已校验、签名已通过指定公钥验证。
本次变更集中在代理、缓存、路由与模型桥接:
- 代理权限:新增让代理管理员向团队管理员开放 soft_budget、团队成员默认值与团队元数据(代理设置仍保留给代理管理员);
/global/activity/cache_hits分析范围限定为调用者自己及获准团队的日志;/user/update与批量更新时逐代理清理缓存用户;启动时构建日志回调,回调损坏会使启动失败;新增部署警告端点,支持实例级忽略与稍后提醒;general_settings.disable_requester_ip_address_logging可将调用者 IP 排除在消费日志外;追踪响应可返回 W3Ctraceresponse头。 - 配置与安全:空环境变量按未设置处理,避免代理反复崩溃或静默丢弃护栏;SSO 在创建会话前拒绝空身份。
- 路由与流式:在返回前读取首个流数据块,使未产生 token 前的失败进入重试与回退预算;新增
fallback_on_unsupported_params,参数被拒时可选择抛出而非回退;因权限或预算跳过的回退不再记为失败;提示缓存亲和固定按前缀的cache_controlTTL 保持。 - 缓存与 Redis:响应缓存命中上报
response_cost为零;Redis 客户端默认 5 秒套接字超时;Redis Cluster 命令等待连接池槽位而非触发熔断;熔断状态指标按状态汇总为单一序列并经 Prometheus 服务日志记录。 - 模型桥接:Anthropic 相关修复包括在
/v1/messages上为 Anthropic、Azure AI 与 Bedrock Mantle 转发service_tier,在日志响应中保留拒答的stop_reason与stop_details,以及工具搜索结果回放、流式多 tool_use 块的拆分等;另有多项 OpenAI tool_search 与 Anthropic/Claude 工具搜索互译、Responses 桥接中cache_control、defer_loading与流式错误信息的处理。 - 其他:Docker 之外,Helm 支持从 Kubernetes Secret 读取数据库与 Redis 主机/URL,并支持组件化部署中每组件独立主机名;新增 Airia 护栏集成及 UI 入口;DashScope 通过
/v1/videos增加视频生成模型;成本表新增若干模型与供应商价格项,并移除azure_ai/claude-fable-5-5。
以上为变更摘要,具体行为与兼容性影响需以各条目对应的代码变更与发布说明为准。
来源与核对说明
- berriai/litellm ↗https://github.com/BerriAI/litellm/releases/tag/v1.107.0-dev.2
本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。
这篇内容对你有帮助吗?
点赞人数由服务器记录,收藏保存在当前浏览器。
继续阅读
daily_stock_analysis 发布 v3.29.0:整合选股核心与分享图能力 →
MemPalace v3.7.1 修复挖取完整性与重连问题 →