提交智能体收藏0
技术动态

NVIDIA DSX MaxLPS 动态功耗分配评测:同功耗预算下增加 GPU 容量

NVIDIA 与 Nscale 联合评测 DSX MaxLPS 策略化动态功耗分配,在相同 264.4 kW 供电预算下将受管 GPU 从 140 增至 192,归一化总吞吐提升 49.2%,但 P99 首 token 延迟上升 17%。

用途与变化

据 NVIDIA 开发者博客(2026 年 9 月 27 日)介绍,DSX MaxLPS 通过策略化功耗共享,在参与资源之间动态分配电力,而非按每个节点峰值静态预留。其控制环节包括拓扑与资源组、遥测、策略、分配与控制、验证与执行五个部分。该方法不增加站点供电,而是把工作负载波动产生的闲置余量重新分配。

评测结论

NVIDIA 与 Nscale 在冰岛 Keflavík 的 Verne 园区做了联合评测,使用 GB300 NVL72 系统、Blackwell Ultra GPU、Kimi K2.5(FP4)、Dynamo 与 TensorRT LLM,输入 8K、输出 1K。静态基线为 140 块 GPU(3 个实例),DSX MaxLPS 配置为 192 块(增加一个 52-GPU 高吞吐实例),两者供电预算同为 264.4 kW。

报告给出的数据:受管 GPU 增加 37.1%,归一化总吞吐从 1,084,503 提升至 1,618,443 tokens/s(+49.2%),每预置瓦吞吐从 4.10 升至 6.12 tokens/s/W;单实例吞吐基本不变;中位数与 P75 延迟在基线 5% 以内;P99 首 token 延迟较 15.7 秒基线上升 17%。

适用场景与操作建议

面向受电力约束的 AI 数据中心/云运营方。博客提出五阶段验证流程:定义受管边界、建立有代表性的基线、保守引入策略、逐步扩容并在每步测试、在满足全部目标后再设定生产运行上限。

限制与待核实事项

可用余量取决于工作负载组合,互补的功率曲线比同时达峰更有利;动态分配依赖可靠遥测,缺失或错配的测量会影响整体决策。P99 尾延迟的变化提示不能只看容量与吞吐。此外,文中关于 Vera Rubin NVL72 的 45°C 液冷与能效描述属于未来平台规划,博客明确要求与本次 GB300 NVL72 实测分开看待,相关容量预测未在本次评测中验证。

来源与核对说明

  1. NVIDIA 开发者官方博客 ↗https://developer.nvidia.com/blog/how-nvidia-dsx-maxlps-maximizes-ai-factory-throughput-and-efficiency/

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。

继续阅读

SWE-Serve 基准揭示本地测试与实时服务验证之间的差距 →

OmicsBench:面向长周期多轮生物信息学任务的 AI 智能体基准 →

TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf 边缘智能体基准,速度提升 6.4 倍 →