vLLM v0.32.0rc1 发布:更新 Humming 依赖并移除 NVFP4 缩放变通方案
vLLM v0.32.0rc1 版本发布,主要变更为更新 Humming 依赖,并移除 NVFP4 量化相关的缩放变通方案。
本次变化
根据来源信息,vLLM 发布 v0.32.0rc1 版本,改动包括两项:
- 更新 Humming 依赖;
- 移除 NVFP4 缩放(scale)相关的变通处理(workaround)。
该发布属于候选版本(rc1),内容来自代码提交信息,作者信息显示由多位贡献者协作完成。
适用场景
适用于关注 vLLM 版本迭代、使用 NVFP4 量化路径或依赖 Humming 组件进行推理部署的用户。此次移除变通方案可能影响 NVFP4 相关配置的行为,升级前建议结合自身量化设置评估。
限制与待核实事项
来源仅列出上述两项改动,未提供具体实现细节、影响范围、性能数据或兼容性说明;也未说明候选版本是否稳定、是否建议生产使用。变更对 NVFP4 推理结果和显存占用的实际影响尚未验证,需参考后续正式版本说明或自行测试确认。
来源与核对说明
- vLLM ↗https://github.com/vllm-project/vllm/releases/tag/v0.32.0rc1
本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。
这篇内容对你有帮助吗?
点赞人数由服务器记录,收藏保存在当前浏览器。
继续阅读
deepagents 0.7.28 修复 ContextHubBackend.glob 路径处理 →
Dify 1.17.1 版本更新:知识库错误修复、工作流交互与权限改进 →