快讯 19:2116岁安全研究员借AI机器人发现微软Titan平台API漏洞,获5000美元赏金19:11荣耀Magic9系列发布:李健谈定价策略与内存成本压力18:59酷派699元AI智能眼镜开售,800万像素摄像头支持抖音直播 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期一 · 09-28 17:33 约 1 分钟读完

英伟达推出AI智能体安全平台,Sentry系统实现毫秒级异常隔离

摘要

英伟达发布开放式AI智能体安全平台,由OpenShell安全软件与Sentry看门狗系统组成。OpenShell为CPU端智能体设定运行边界,Sentry则依托BlueField-4 DPU在芯片层独立监控,可在毫秒内隔离越界智能体。Anthropic、SpaceX等公司已加入合作采用。

随着AI智能体在各类业务场景中加速落地,其行为边界与运行安全正成为行业关注的焦点。英伟达近日发布了一套开放式AI智能体安全平台,试图从软件与硬件两个层面回应这一需求。

该平台由两部分构成。其一是OpenShell安全软件,作用是为运行在CPU上的AI智能体划定行为边界,并兼容开源与闭源模型以及第三方硬件。其二是NVIDIA Sentry看门狗系统,运行于BlueField-4 DPU之上,能够在芯片层面独立监控智能体的行为。

据英伟达介绍,一旦Sentry检测到智能体出现突破限制的行为,可在毫秒级时间内将其隔离并停止运行。这种将监控职责从主处理器卸载至DPU的设计,使安全机制与智能体本身形成隔离,降低了被绕过或干扰的可能。

目前,Anthropic、SpaceX等公司已与英伟达展开合作并采用该平台。对于正在推进智能体规模化部署的企业而言,这一方案提供了一种从底层硬件入手的管控思路。

英伟达AI智能体安全平台BlueField-4
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
53
企业落地案例
7
完整版提示词