NVIDIA推开源智能体安全平台,芯片级监控防越权
摘要
NVIDIA发布Open Agent Safety Platform,含开源运行时OpenShell、硬件层Sentry及DOCA技术,通过内核级隔离、零信任环境和带外监控防止AI智能体行为漂移与越权,BlueField DPU在模型路径上实时执行策略与身份治理。
随着AI智能体在各类生产环境中的部署规模持续扩大,其行为可控性与系统安全性正成为业界关注的焦点。NVIDIA近日推出NVIDIA Open Agent Safety Platform,试图从底层架构层面回应这一需求。
该平台由三部分构成:开源运行时OpenShell、硬件层Sentry以及DOCA技术。据NVIDIA介绍,平台的核心思路是借助内核级隔离、零信任环境和带外(out-of-band)监控,阻止AI智能体出现行为漂移或越权操作。
在具体机制上,OpenShell负责将操作指令转化为可验证的策略。BlueField DPU则被置于模型路径上,承担实时策略执行与身份治理的职责。NVIDIA强调,即便主机环境不可信,该架构仍能独立提供保护。
此次发布意味着NVIDIA正将安全能力从软件层向芯片级延伸,为智能体的大规模落地提供更底层的防护选项。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗