2026 年 9 月 28 日,NVIDIA 发布 Open Agent Safety Platform,为具备工具调用与自主执行能力的智能体提供运行时防护。本文从 AI治理与安全视角,梳理该平台的结构与对企业 AI安全体系的意义。

平台的两大组件

据官方发布信息,平台包含两部分:OpenShell 是一个开源的安全运行环境,最初面向 NVIDIA Vera CPU 设计,并计划扩展到 Arm 与 Intel 平台,代码托管于 GitHub;Sentry 是运行在 BlueField-4 DPU 上的带外监控哨兵,基于 DOCA 构建,与被监控主机相互独立,可在毫秒级识别并隔离异常智能体会话。把监控面从主机侧剥离到 DPU,目的是避免智能体攻陷执行环境后同时关闭监控。

应对的模型安全风险

随着 AI Agent 被授予文件系统、Shell 与网络权限,风险面从模型输出内容扩展到实际操作:越权访问、工具滥用、横向移动与数据外泄都可能发生。OpenShell 通过受限执行环境收敛权限,Sentry 则以独立通道持续观察行为,二者构成纵深防御。这与近期业界多起沙盒逃逸事件所暴露的问题直接对应,也说明模型安全需要运行时与架构层的系统保障,而非仅靠模型对齐。

生态联盟与合作伙伴

官方称已有百余家组织参与该平台建设,并对接 Open Secure AI Alliance——该联盟由 Linux Foundation 托管治理,成员组织超过 120 家,推动 SAFE 等安全评估机制。发布伙伴名单覆盖模型厂商、软件公司与金融机构,包括 Anthropic(Claude Managed Agents)、xAI(Cursor 智能体接入 Grok)、Salesforce(Slack)、SAP(Joule Studio)、Microsoft、Cisco、CrowdStrike、Red Hat、Scale AI 与摩根大通等。安全标准由多方共同制定,比单一厂商闭环更利于跨行业 AI治理。

对企业 AI治理的启示

对企业而言,建议把智能体权限管理纳入现有 AI治理框架:默认最小权限、出网显式管控、高危操作二次确认;为 AI审计保留独立且不可被执行方篡改的行为日志,并对关键智能体建立熔断与隔离演练。在 AI监管趋严的背景下,能够证明“权限如何授予、异常如何发现、事件如何处置”,将成为 AI合规审查的基本要求。

小结

NVIDIA 于 2026 年 9 月 28 日推出 Open Agent Safety Platform,以开源 OpenShell 安全沙箱、BlueField-4 上的 Sentry 带外哨兵与跨行业联盟为核心,是 AI治理与安全领域运行时防护方向的一次重要发布。

觉得有帮助?

联系我们,获取更多技术解决方案

Free Consultation