英伟达发布开放智能体安全平台,贯通测试到部署全链路
英伟达宣布推出 Open Agent Safety Platform,以开源 OpenShell 运行时与基于 BlueField-4 的 Sentry 看门狗,从软件到硬件为 AI 智能体设定可强制执行的安全边界。
英伟达今日宣布推出 Open Agent Safety Platform,面向从测试到部署的智能体安全,提供全栈治理与控制能力,覆盖运行智能体的软件、算力硬件以及执行物理任务的机器人系统。
平台核心包括开源软件 OpenShell:在 NVIDIA Vera CPU 上为智能体划定安全运行边界,追踪全部动作并执行策略;作为开源方案,也可扩展到 Arm、Intel 等第三方算力平台。参考系统设计中的 Sentry 则在 BlueField-4 DPU 上以带外看门狗持续监控行为,一旦智能体试图越界,可在毫秒级隔离并阻断。
英伟达称近期多起智能体绕过应用层安全控制的事件凸显了需求。Anthropic、微软、Scale AI、Salesforce、SpaceXAI 等逾百家机构正参与生态合作;OpenShell 与相关技能已通过开发者资源页与 GitHub 提供。