跳到主要内容
智能体
AI 动态
开发文档
技术资料
提交智能体
收藏
0
首页
/
本地与云端部署
AI · AGENTS · KNOWLEDGE
本地与云端部署
整理服务部署、容器运行与环境维护资料。
搜索
内容目录
共 1 条内容 · 显示 1–1
技术动态
本地与云端部署
NVIDIA 机密计算下的 TensorRT LLM 推理性能表现
→
NVIDIA 开发者博客介绍在 Blackwell GPU 上通过机密计算运行生产级 AI 推理,并给出 TensorRT LLM 为适应安全执行环境所做的三类优化;在八卡 B200 上测试 DeepSeek-R1 时,机密计算保留了基线的 96.1%–98.2% 输出吞吐,TPOT 开销为 1.2%–4.3%。
整理于 2026-10-17
保留官方来源
—
人看过
—
赞