提交智能体收藏0
技术动态

LiteLLM v1.107.0-dev.2 发布:校验镜像签名并汇总代理与模型桥接修复

LiteLLM 发布 v1.107.0-dev.2 开发版,说明所有 Docker 镜像均用 cosign 签名并给出用固定提交哈希或发布标签校验的命令;此次变更主要涉及代理权限、缓存与路由重试、Anthropic/Bedrock/Vertex 等桥接修复,以及多项成本与工具搜索相关调整。

LiteLLM 发布 v1.107.0-dev.2(2026-10-15)。该版本说明所有 LiteLLM Docker 镜像都用 cosign 签名,每次发布使用同一把密钥;并给出两种校验方式:用固定提交哈希拉取 cosign.pub(推荐,哈希不可变),或用该发布标签拉取。成功时输出应包含 cosign 声明已校验、签名已通过指定公钥验证。

本次变更集中在代理、缓存、路由与模型桥接:

  • 代理权限:新增让代理管理员向团队管理员开放 soft_budget、团队成员默认值与团队元数据(代理设置仍保留给代理管理员);/global/activity/cache_hits 分析范围限定为调用者自己及获准团队的日志;/user/update 与批量更新时逐代理清理缓存用户;启动时构建日志回调,回调损坏会使启动失败;新增部署警告端点,支持实例级忽略与稍后提醒;general_settings.disable_requester_ip_address_logging 可将调用者 IP 排除在消费日志外;追踪响应可返回 W3C traceresponse 头。
  • 配置与安全:空环境变量按未设置处理,避免代理反复崩溃或静默丢弃护栏;SSO 在创建会话前拒绝空身份。
  • 路由与流式:在返回前读取首个流数据块,使未产生 token 前的失败进入重试与回退预算;新增 fallback_on_unsupported_params,参数被拒时可选择抛出而非回退;因权限或预算跳过的回退不再记为失败;提示缓存亲和固定按前缀的 cache_control TTL 保持。
  • 缓存与 Redis:响应缓存命中上报 response_cost 为零;Redis 客户端默认 5 秒套接字超时;Redis Cluster 命令等待连接池槽位而非触发熔断;熔断状态指标按状态汇总为单一序列并经 Prometheus 服务日志记录。
  • 模型桥接:Anthropic 相关修复包括在 /v1/messages 上为 Anthropic、Azure AI 与 Bedrock Mantle 转发 service_tier,在日志响应中保留拒答的 stop_reason 与 stop_details,以及工具搜索结果回放、流式多 tool_use 块的拆分等;另有多项 OpenAI tool_search 与 Anthropic/Claude 工具搜索互译、Responses 桥接中 cache_control、defer_loading 与流式错误信息的处理。
  • 其他:Docker 之外,Helm 支持从 Kubernetes Secret 读取数据库与 Redis 主机/URL,并支持组件化部署中每组件独立主机名;新增 Airia 护栏集成及 UI 入口;DashScope 通过 /v1/videos 增加视频生成模型;成本表新增若干模型与供应商价格项,并移除 azure_ai/claude-fable-5-5。

以上为变更摘要,具体行为与兼容性影响需以各条目对应的代码变更与发布说明为准。

来源与核对说明

  1. berriai/litellm ↗https://github.com/BerriAI/litellm/releases/tag/v1.107.0-dev.2

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。

继续阅读

daily_stock_analysis 发布 v3.29.0:整合选股核心与分享图能力 →

MemPalace v3.7.1 修复挖取完整性与重连问题 →

LiteLLM v1.107.0-dev.3 开发者版本更新与镜像签名校验说明 →

MemPalace v3.8.0:大型库读取加速、MCP 代理精简与可唤醒 agent 日志流 →