英伟达推出AI智能体安全平台,Sentry系统实现毫秒级异常隔离
摘要
英伟达发布开放式AI智能体安全平台,由OpenShell安全软件与Sentry看门狗系统组成。OpenShell为CPU端智能体设定运行边界,Sentry则依托BlueField-4 DPU在芯片层独立监控,可在毫秒内隔离越界智能体。Anthropic、SpaceX等公司已加入合作采用。
随着AI智能体在各类业务场景中加速落地,其行为边界与运行安全正成为行业关注的焦点。英伟达近日发布了一套开放式AI智能体安全平台,试图从软件与硬件两个层面回应这一需求。
该平台由两部分构成。其一是OpenShell安全软件,作用是为运行在CPU上的AI智能体划定行为边界,并兼容开源与闭源模型以及第三方硬件。其二是NVIDIA Sentry看门狗系统,运行于BlueField-4 DPU之上,能够在芯片层面独立监控智能体的行为。
据英伟达介绍,一旦Sentry检测到智能体出现突破限制的行为,可在毫秒级时间内将其隔离并停止运行。这种将监控职责从主处理器卸载至DPU的设计,使安全机制与智能体本身形成隔离,降低了被绕过或干扰的可能。
目前,Anthropic、SpaceX等公司已与英伟达展开合作并采用该平台。对于正在推进智能体规模化部署的企业而言,这一方案提供了一种从底层硬件入手的管控思路。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗