提交智能体收藏0
技术动态

NVIDIA NeMo Speech 3.0:仓库拆分后的首个大版本,聚焦语音与削减技术债

NVIDIA NeMo Speech 3.0 是仓库拆分并更名为 NVIDIA-NeMo/Speech 后的首个大版本。仓库范围收敛到 ASR、TTS、音频处理、说话人任务与 SpeechLM,LLM、VLM、扩散模型、导出/部署与评估器等组件迁往其他仓库。版本同时移除约 80 万行废弃代码、改用 uv 管理安装,并更新文档与容器。

范围与不兼容变更

NVIDIA NeMo Speech 3.0 是仓库拆分并更名为 NVIDIA-NeMo/Speech 后的首个大版本。仓库现聚焦 ASR、TTS、音频处理、说话人任务和 SpeechLM;LLM、VLM、扩散、NLP、导出/部署、评估器等集合已移到 NVIDIA-NeMo 组织下的独立仓库。

迁移注意点:不支持的 ASR/TTS 模型和旧教程被移除,示例改看 examples/、文档改看 docs/source/;uv sync 可复现受支持的 NeMo Speech 依赖栈,但可能替换 .venv 内的 Python/PyTorch/CUDA,若需保留自有环境应先装 PyTorch 再用 uv pip 或 pip;SpeechLM2 的编译加速为可选,相关性能路径需使用受支持的 Docker 构建。

SpeechLM2 与 Automodel 后端

新增 SALMAutomodel,可通过 NeMo Automodel 训练 SpeechLM,面向稠密与 MoE LLM 主干(如 Nemotron 3),支持原生 LoRA、延迟 configure_model() 初始化、分片感知的分布式加载。AutomodelParallelStrategy 覆盖 FSDP2、HSDP、TP、CP、EP。后端优化覆盖 Transformer Engine、FlashAttention、Mamba 状态空间内核、MoE 专家 grouped GEMM 与 DeepEP。THD 打包序列训练用于减少变长语音批次的填充,并被列为 CP 长音频训练的受支持路径。另加入 vLLM 集成、HF/vLLM 就绪检查点导出与离线 HF 导出。

Nemotron VoiceChat

新增 VoiceChat 语音解码器模块、DuplexSTT 训练与推理、Duplex/EAR-TTS 生成组件及 MagpieTTS 解码器集成,以及用于验证、离线语音转语音推理和导出的联合 NemotronVoiceChat 类。需注意该类仅用于推理/评估,训练需分别进行 DuplexSTTModel 与 DuplexEARTTS/语音解码器模块。

ASR 与 TTS

ASR 侧加入统一提示模型支持(多语种与流式)、Unified RNNT 流式推理、批量流式束搜索、流式语音翻译、Canary 流式策略;转导解码在带置信度场景下报告 2.4 倍加速。TTS 侧 MagpieTTS 经历解码器、长音频推理与内部结构更新,新增 CFG 蒸馏与 MoE 支持,并扩展印地语、日语、阿拉伯语字符分词、IPA 等语言/文本支持。

工程与安装

源码安装转为 uv 优先(uv sync --extra all --extra cu13),Docker 改用官方 PyTorch 基础镜像并支持 CUDA 12/13。测试方面为每个受支持模型加入初始化/训练步/推理功能测试,并新增 MoE 分发的基准值测试。仓库同时清理了不安全的 pickle 路径并新增 SECURITY.md。

来源与核对说明

  1. nvidia-nemo/speech ↗https://github.com/NVIDIA-NeMo/Speech/releases/tag/v3.0.0

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。

继续阅读

PageIndex 0.4.4:统一 SDK 与本地、云端一致接口 →

Hypit v0.3.1 发布说明整理 →

Claude Code Game Studios v1.2.0:重建主技能流程并收紧权限 →

Onyx v5.0.0-beta.1 版本变更摘要 →