提交智能体收藏0
技术动态

Transformers 5.18.0 发布:新增多款模型并列出破坏性变更

Hugging Face Transformers 仓库发布 5.18.0 版本,新增 Nemotron 3 Diarization、NemotronH Omni、HyperCLOVAX Vision V2 和 GTE 模型支持,并列出多项破坏性变更、大量缺陷修复与改进,以及主要社区贡献者。

版本概况

Hugging Face Transformers 仓库发布 5.18.0(来源标注时间 2026-09-30)。本次更新以模型接入、缺陷修复为主,同时包含若干破坏性变更。

新增模型支持

  • Nemotron 3 Diarization:开放权重的流式说话人分离模型,可判定“谁在何时说话”,支持流式与离线推理,最多处理 8 位说话人,输出按各说话人在音频中首次出现顺序排列。使用 Arrival-Order Speaker Cache 与 FIFO 队列;单一检查点支持可配置延迟档位,从 80 ms 输入缓冲到 30.4 s 的离线式缓冲,输出帧分辨率可按 10 ms 的倍数配置;分块推理时音频时长不设上限。
  • NemotronH Omni:NVIDIA 多模态推理模型,由 NemotronH 混合 Mamba-Transformer 语言模型搭配 RADIO 视觉编码器和可选 Parakeet 声音编码器构成。图像与视频块经 RADIO 与 pixel-shuffle MLP 投影到语言模型嵌入空间,音频片段同样投影,从而在文本、图像、视频、声音上联合推理。
  • HyperCLOVAX Vision V2:NAVER 的多模态视觉语言模型,语言骨干为 HyperClovaX,视觉编码器为 Qwen2.5-VL,支持文本、图像、视频输入,并可通过内置 thinking token 进行思维链推理。
  • GTE:BERT 风格双向编码器,以 RoPE 替换绝对位置嵌入,使用门控 MLP,并在每个残差连接后做层归一化;同一架构支撑阿里 gte-v1.5、gte-multilingual、gte-en-mlm 系列检查点及 Snowflake 的 snowflake-arctic-embed-m-v2.0。

破坏性变更

包括 ROCm 下 gpt-oss 将 FA3 路由至 aiter-flash-attn、DETR 图像处理提速、indexers 的 layer_type 重映射、vLLM 后端视频 token 计数修复、DINO 系列现代化调整,以及 Kernels 版本上调。

缺陷修复与改进

条目数量很多,涉及生成、缓存、MoE 专家并行、GGUF 集成、图像处理器、分词器、XPU/MPS/ROCm 后端、测试稳定性与 CI 流程等。例如修复 AutoModel 未恢复 modules_to_save 权重、静态缓存层头形状、Pixtral 图像处理器 do_pad、UMT5 解码器自注意力非因果、SwitchTransformers 路由损失等问题,并新增 Trainer.end、OpenVINO 导出器等。

社区贡献

版本说明末尾列出了 @harshaljanjani、@eustlb、@tarekziade、@ydshieh 等贡献者的主要改动。原文内容被截断,破坏性变更与修复条目的完整细节未全部呈现。

来源与核对说明

  1. huggingface/transformers ↗https://github.com/huggingface/transformers/releases/tag/v5.18.0

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。

继续阅读

MoneyPrinterTurbo v1.3.4 更新:新增偏好设置、文件名与缓存改进 →

TradingAgents v0.5.0:按运行时点数据、回测与组合上下文 →

AutoGPT 平台测试版 v0.8.2 发布:AutoPilot 审批控制与模型目录更新 →

MoneyPrinterTurbo v1.3.5:新增语音、模型与素材源,并加入可选 API Key 鉴权 →