Ollama v0.40.5-rc1 预发布:MLX 后端修复与 Nemotron 支持
Ollama 发布 v0.40.5-rc1 候选版本,主要围绕 MLX 后端修复 Nemotron 相关问题、新增 Nemotron 3.5 Super,并调整 Windows Vulkan 构建路径。
本次变化
根据发布说明,Ollama v0.40.5-rc1 为候选版本,包含以下调整:
- Windows Vulkan 构建:缩短构建路径,使嵌套的 shader-generator 编译器探测保持在 Windows 路径长度限制之内,避免仓库名较长时出错。
- MLX 后端:修复 Nemotron 相关缺陷并支持全局缩放。具体包括接受已发布的 Nemotron 层命名同时保留旧别名、修正层数推断与分离式 MTP 量化;稳定 Mamba softplus、保留 FP32 视觉归一化,并编译 Mamba gate 与 norm scaling。此外支持按专家的 F32 全局缩放,在 ModelOpt 与 compressed-tensors 的 NVFP4 导入中保留激活缩放伴随项,归一化倒数全局值并拒绝无效缩放,同时将激活缩放与仅权重的推理分开处理。
- MLX 后端:新增 Nemotron 3.5 Super。
- 其他小幅调整。
适用场景
面向使用 Ollama 本地运行模型、且涉及 MLX 后端或 NVFP4 量化导入的用户,尤其是需要 Nemotron 系列支持的环境。
限制与待核实
该版本为 rc 候选版,来源未提供具体基准或运行验证结果;上述修复的实际效果、兼容范围及是否影响稳定版需以正式发布说明为准。
来源与核对说明
- Ollama ↗https://github.com/ollama/ollama/releases/tag/v0.40.5-rc1
本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。
这篇内容对你有帮助吗?
点赞与收藏保存在当前浏览器。
继续阅读
Dify 1.17.1 版本更新:知识库错误修复、工作流交互与权限改进 →
NVIDIA 将 Run:ai 平台开源并纳入 DSX AI Factory →