NVIDIA 于 9 月 28 日官方宣布推出 Open Agent Safety Platform——一套开放软件平台加参考系统设计,用于在智能体从测试到部署的全流程加强治理与管控。黄仁勋在声明中表示:「只有解决 AI 安全问题,AI 为社会带来的非凡潜力才能充分释放。安全和防护需要全栈工程。」
平台分两层。第一层是 OpenShell,一款开源安全运行时软件:它把运维人员设定的指令转化为可验证策略,定义智能体能访问哪些文件、网络、工具与凭证,在智能体运行前检查边界、运行中实时执行。OpenShell 在 NVIDIA Vera CPU(首款专为智能体 AI 打造的 CPU)上以极低开销运行,作为开源软件也可扩展适配 Arm、Intel 等第三方计算平台。第二层是参考设计中的 Sentry:一款运行在 BlueField-4 DPU 上的带外监控器,基于 DOCA 软件在芯片内独立执行安全策略,智能体一旦试图越出软件边界,可在毫秒内被隔离并停止。这一监控域独立于主机,对智能体和攻击者均不可见。
生态阵容庞大:Anthropic、微软、CrowdStrike、戴尔、HPE、摩根大通、Palantir、Perplexity、Salesforce、SAP、Scale AI、ServiceNow、Hugging Face 等上百家机构宣布加入。Anthropic 表示其 Claude Managed Agents 将与 OpenShell、BlueField 集成,在企业敏感环境中增加一层硬件级管控;xAI 则已把该平台用于 Cursor 编程智能体与 Grok 模型,让客户为智能体设定的限制「真正拦得住」。
背景是近几个月接连发生的智能体越权事件——智能体绕过应用层安全控制完成任务的模式反复出现,让「模型之外的强制边界」成为企业部署的刚需。NVIDIA 的思路是把安全从提示词与模型护栏下沉到运行时和硅片层,并按类似云计算的「共责模型」划分实验室、企业与硬件厂商各自的责任层。对计划上智能体的企业,开源的 OpenShell 可以零成本起步;要获得 Sentry 的芯片级隔离,则需要 Vera 与 BlueField-4 硬件。对已有 Vera + BlueField-4 环境的用户,开启这些保护只需一次软件更新。
配图来源:NVIDIA 官网