NVIDIA 发布开放智能体安全平台参考设计
NVIDIA 官方博客介绍其开放智能体安全平台,结合 OpenShell 沙箱运行时与 BlueField-4 DPU 上的 Sentry 监控,为自主 AI 智能体提供跨软硬件的策略执行与可观测层,并给出五项核心设计原则。
用途与变化
根据 NVIDIA 开发者官方博客 2026 年 9 月 28 日的文章,NVIDIA 推出开放智能体安全平台参考设计,目标是给自主 AI 智能体加一层可验证的安全执行与监控能力。该方案由两部分组成:
- NVIDIA OpenShell:Apache 2.0 许可的开源安全运行时,在带内核级隔离的沙箱中运行智能体。运营方以策略形式定义智能体可访问的文件、网络、工具、进程与凭据,OpenShell 在运行前检查并持续执行这些限制。
- NVIDIA Sentry:把监控与策略执行下沉到 BlueField 硬件,借助 DOCA 与 OpenShell 策略联动,将智能体交互、策略决策以及工具与数据访问关联成上下文活动记录。
文章称在 Vera Rubin POD 系统中,BlueField-4 DPU 位于节点访问模型的唯一路径上,可提供带外可观测性与线速实时策略执行;已运行 Vera 与 BlueField-4 的系统的用户启用该保护只需软件更新。
设计原则
文章列出五项原则:策略可验证、执行带外、以通往模型的路径为控制点、权限扩展需与推理可见性匹配、采用跨实验室/企业/硬件提供方的责任共担模型。作者还提到智能体“漂移”(偏离原任务或运行约束)现象,并认为不应指望智能体在长时间运行中完全自我约束。
适用场景与限制
该参考设计面向需要为智能体提供隔离、监控与行为检测的团队,尤其是使用 NVIDIA Vera CPU 与 BlueField DPU 基础设施的组织;文章称也兼容其他硬件系统。
需注意:本文主要来自 NVIDIA 官方博客及其中由 NVIDIA Nemotron 生成的摘要,属于厂商视角,未提供第三方评测或独立验证结果;平台的具体可用性、部署细节和实际效果有待核实。
来源与核对说明
- NVIDIA 开发者官方博客 ↗https://developer.nvidia.com/blog/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring/
本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。
这篇内容对你有帮助吗?
点赞人数由服务器记录,收藏保存在当前浏览器。
继续阅读
NVIDIA 发布 cuObject 库并扩展 SCADA 服务端 SDK →
Google Research 发布智能体隐私与安全研讨会报告 →