提交智能体收藏0
技术动态

NVIDIA 发布开放智能体安全平台参考设计

NVIDIA 官方博客介绍其开放智能体安全平台,结合 OpenShell 沙箱运行时与 BlueField-4 DPU 上的 Sentry 监控,为自主 AI 智能体提供跨软硬件的策略执行与可观测层,并给出五项核心设计原则。

用途与变化

根据 NVIDIA 开发者官方博客 2026 年 9 月 28 日的文章,NVIDIA 推出开放智能体安全平台参考设计,目标是给自主 AI 智能体加一层可验证的安全执行与监控能力。该方案由两部分组成:

  • NVIDIA OpenShell:Apache 2.0 许可的开源安全运行时,在带内核级隔离的沙箱中运行智能体。运营方以策略形式定义智能体可访问的文件、网络、工具、进程与凭据,OpenShell 在运行前检查并持续执行这些限制。
  • NVIDIA Sentry:把监控与策略执行下沉到 BlueField 硬件,借助 DOCA 与 OpenShell 策略联动,将智能体交互、策略决策以及工具与数据访问关联成上下文活动记录。

文章称在 Vera Rubin POD 系统中,BlueField-4 DPU 位于节点访问模型的唯一路径上,可提供带外可观测性与线速实时策略执行;已运行 Vera 与 BlueField-4 的系统的用户启用该保护只需软件更新。

设计原则

文章列出五项原则:策略可验证、执行带外、以通往模型的路径为控制点、权限扩展需与推理可见性匹配、采用跨实验室/企业/硬件提供方的责任共担模型。作者还提到智能体“漂移”(偏离原任务或运行约束)现象,并认为不应指望智能体在长时间运行中完全自我约束。

适用场景与限制

该参考设计面向需要为智能体提供隔离、监控与行为检测的团队,尤其是使用 NVIDIA Vera CPU 与 BlueField DPU 基础设施的组织;文章称也兼容其他硬件系统。

需注意:本文主要来自 NVIDIA 官方博客及其中由 NVIDIA Nemotron 生成的摘要,属于厂商视角,未提供第三方评测或独立验证结果;平台的具体可用性、部署细节和实际效果有待核实。

来源与核对说明

  1. NVIDIA 开发者官方博客 ↗https://developer.nvidia.com/blog/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring/

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。

继续阅读

NVIDIA 发布 cuObject 库并扩展 SCADA 服务端 SDK →

Google Research 发布智能体隐私与安全研讨会报告 →

Cloudflare 推出 Verified 机器人持续问责评估机制 →

NVIDIA 开源 NodeWright:面向 GPU 集群的 Kubernetes 主机配置管理器 →