提交智能体收藏0
技术动态

Ollama v0.40.5-rc1 预发布:MLX 后端修复与 Nemotron 支持

Ollama 发布 v0.40.5-rc1 候选版本,主要围绕 MLX 后端修复 Nemotron 相关问题、新增 Nemotron 3.5 Super,并调整 Windows Vulkan 构建路径。

本次变化

根据发布说明,Ollama v0.40.5-rc1 为候选版本,包含以下调整:

  • Windows Vulkan 构建:缩短构建路径,使嵌套的 shader-generator 编译器探测保持在 Windows 路径长度限制之内,避免仓库名较长时出错。
  • MLX 后端:修复 Nemotron 相关缺陷并支持全局缩放。具体包括接受已发布的 Nemotron 层命名同时保留旧别名、修正层数推断与分离式 MTP 量化;稳定 Mamba softplus、保留 FP32 视觉归一化,并编译 Mamba gate 与 norm scaling。此外支持按专家的 F32 全局缩放,在 ModelOpt 与 compressed-tensors 的 NVFP4 导入中保留激活缩放伴随项,归一化倒数全局值并拒绝无效缩放,同时将激活缩放与仅权重的推理分开处理。
  • MLX 后端:新增 Nemotron 3.5 Super。
  • 其他小幅调整。

适用场景

面向使用 Ollama 本地运行模型、且涉及 MLX 后端或 NVFP4 量化导入的用户,尤其是需要 Nemotron 系列支持的环境。

限制与待核实

该版本为 rc 候选版,来源未提供具体基准或运行验证结果;上述修复的实际效果、兼容范围及是否影响稳定版需以正式发布说明为准。

来源与核对说明

  1. Ollama ↗https://github.com/ollama/ollama/releases/tag/v0.40.5-rc1

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞与收藏保存在当前浏览器。

继续阅读

Dify 1.17.1 版本更新:知识库错误修复、工作流交互与权限改进 →

NVIDIA 将 Run:ai 平台开源并纳入 DSX AI Factory →

NVIDIA cuOpt 推出 mPDLP 多 GPU 线性规划求解器 →

NVIDIA 在 CUDA 13.1 中通过 Runtime API 开放 Green Contexts →