Transformers 5.18.0 发布:新增多款模型并列出破坏性变更
Hugging Face Transformers 仓库发布 5.18.0 版本,新增 Nemotron 3 Diarization、NemotronH Omni、HyperCLOVAX Vision V2 和 GTE 模型支持,并列出多项破坏性变更、大量缺陷修复与改进,以及主要社区贡献者。
版本概况
Hugging Face Transformers 仓库发布 5.18.0(来源标注时间 2026-09-30)。本次更新以模型接入、缺陷修复为主,同时包含若干破坏性变更。
新增模型支持
- Nemotron 3 Diarization:开放权重的流式说话人分离模型,可判定“谁在何时说话”,支持流式与离线推理,最多处理 8 位说话人,输出按各说话人在音频中首次出现顺序排列。使用 Arrival-Order Speaker Cache 与 FIFO 队列;单一检查点支持可配置延迟档位,从 80 ms 输入缓冲到 30.4 s 的离线式缓冲,输出帧分辨率可按 10 ms 的倍数配置;分块推理时音频时长不设上限。
- NemotronH Omni:NVIDIA 多模态推理模型,由 NemotronH 混合 Mamba-Transformer 语言模型搭配 RADIO 视觉编码器和可选 Parakeet 声音编码器构成。图像与视频块经 RADIO 与 pixel-shuffle MLP 投影到语言模型嵌入空间,音频片段同样投影,从而在文本、图像、视频、声音上联合推理。
- HyperCLOVAX Vision V2:NAVER 的多模态视觉语言模型,语言骨干为 HyperClovaX,视觉编码器为 Qwen2.5-VL,支持文本、图像、视频输入,并可通过内置 thinking token 进行思维链推理。
- GTE:BERT 风格双向编码器,以 RoPE 替换绝对位置嵌入,使用门控 MLP,并在每个残差连接后做层归一化;同一架构支撑阿里 gte-v1.5、gte-multilingual、gte-en-mlm 系列检查点及 Snowflake 的 snowflake-arctic-embed-m-v2.0。
破坏性变更
包括 ROCm 下 gpt-oss 将 FA3 路由至 aiter-flash-attn、DETR 图像处理提速、indexers 的 layer_type 重映射、vLLM 后端视频 token 计数修复、DINO 系列现代化调整,以及 Kernels 版本上调。
缺陷修复与改进
条目数量很多,涉及生成、缓存、MoE 专家并行、GGUF 集成、图像处理器、分词器、XPU/MPS/ROCm 后端、测试稳定性与 CI 流程等。例如修复 AutoModel 未恢复 modules_to_save 权重、静态缓存层头形状、Pixtral 图像处理器 do_pad、UMT5 解码器自注意力非因果、SwitchTransformers 路由损失等问题,并新增 Trainer.end、OpenVINO 导出器等。
社区贡献
版本说明末尾列出了 @harshaljanjani、@eustlb、@tarekziade、@ydshieh 等贡献者的主要改动。原文内容被截断,破坏性变更与修复条目的完整细节未全部呈现。
来源与核对说明
- huggingface/transformers ↗https://github.com/huggingface/transformers/releases/tag/v5.18.0
本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。
这篇内容对你有帮助吗?
点赞人数由服务器记录,收藏保存在当前浏览器。
继续阅读
MoneyPrinterTurbo v1.3.4 更新:新增偏好设置、文件名与缓存改进 →
TradingAgents v0.5.0:按运行时点数据、回测与组合上下文 →