快讯 19:2116岁安全研究员借AI机器人发现微软Titan平台API漏洞,获5000美元赏金19:11荣耀Magic9系列发布:李健谈定价策略与内存成本压力18:59酷派699元AI智能眼镜开售,800万像素摄像头支持抖音直播 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期一 · 09-28 00:00 约 1 分钟读完

NVIDIA推开源智能体安全平台,芯片级监控防越权

摘要

NVIDIA发布Open Agent Safety Platform,含开源运行时OpenShell、硬件层Sentry及DOCA技术,通过内核级隔离、零信任环境和带外监控防止AI智能体行为漂移与越权,BlueField DPU在模型路径上实时执行策略与身份治理。

随着AI智能体在各类生产环境中的部署规模持续扩大,其行为可控性与系统安全性正成为业界关注的焦点。NVIDIA近日推出NVIDIA Open Agent Safety Platform,试图从底层架构层面回应这一需求。

该平台由三部分构成:开源运行时OpenShell、硬件层Sentry以及DOCA技术。据NVIDIA介绍,平台的核心思路是借助内核级隔离、零信任环境和带外(out-of-band)监控,阻止AI智能体出现行为漂移或越权操作。

在具体机制上,OpenShell负责将操作指令转化为可验证的策略。BlueField DPU则被置于模型路径上,承担实时策略执行与身份治理的职责。NVIDIA强调,即便主机环境不可信,该架构仍能独立提供保护。

此次发布意味着NVIDIA正将安全能力从软件层向芯片级延伸,为智能体的大规模落地提供更底层的防护选项。

NVIDIAAI智能体安全开源平台BlueField DPU
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
53
企业落地案例
7
完整版提示词