AI · AGENTS · KNOWLEDGE
评测与榜单动态
整理新评测、榜单变化与测试条件。
内容目录
共 4 条内容 · 显示 1–4技术动态评测与榜单动态NVIDIA DSX MaxLPS 动态功耗分配评测：同功耗预算下增加 GPU 容量 NVIDIA 与 Nscale 联合评测 DSX MaxLPS 策略化动态功耗分配，在相同 264.4 kW 供电预算下将受管 GPU 从 140 增至 192，归一化总吞吐提升 49.2%，但 P99 首 token 延迟上升 17%。技术动态评测与榜单动态SWE-Serve 基准揭示本地测试与实时服务验证之间的差距 NVIDIA 开发者博客介绍 SWE-Serve 基准，用 53 个源自 SGLang 合并 PR 的推理工程任务评估编码智能体，发现约三分之一通过其他检查的补丁在实时服务测试中失败；多运行时域任务通过率比单域低 21.3 个百分点。技术动态评测与榜单动态OmicsBench：面向长周期多轮生物信息学任务的 AI 智能体基准 arXiv 预印本提出 OmicsBench，用 97 个含依赖子任务的 DAG 任务（共 662 个子任务）评测智能体在多轮长周期生物信息学分析中的表现；在 12 个模型与 3 套运行框架上均未接近满分，且多轮评测暴露了单次提示看不到的失败模式。技术动态评测与榜单动态TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf 边缘智能体基准，速度提升 6.4 倍 NVIDIA 博客介绍其在 MLPerf Inference v6.1 Edge Agentic 基准中的提交结果：单台 Jetson AGX Thor 运行 Qwen3.6-27B，输出吞吐 52.33 tokens/s，完成 1007 轮性能负载耗时 24 分 36 秒，约为 llama.cpp 参考运行 2 小时 37 分的 1/6.4；BFCL 准确率 87.94%。主要优化包括 NVFP4 权重与激活量化、FP8 KV 缓存、跨轮 KV/循环状态复用，以及树式多 token 预测。