快讯 19:2116岁安全研究员借AI机器人发现微软Titan平台API漏洞,获5000美元赏金19:11荣耀Magic9系列发布:李健谈定价策略与内存成本压力18:59酷派699元AI智能眼镜开售,800万像素摄像头支持抖音直播 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期一 · 09-28 17:33 约 1 分钟读完

英伟达推出开放式智能体安全平台,毫秒级隔离异常行为

摘要

英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与Sentry看门狗系统。Sentry运行于BlueField-4 DPU,可在毫秒内隔离越界智能体。Anthropic、SpaceX、Scale AI已采用OpenShell。

9月28日,英伟达正式推出开放式AI智能体安全平台(NVIDIA Open Agent Safety Platform),旨在对AI智能体、智能体硬件及机器人系统实施全栈治理与控制。该平台的核心组件之一是英伟达OpenShell安全软件,可为运行在CPU上的AI智能体设定明确边界,并同时支持开源与闭源模型。

据官方新闻稿介绍,OpenShell在Vera平台上的性能占用极低,与Vera结合后,能够帮助AI智能体在尽快完成任务的同时确保安全。作为开源软件,OpenShell还可支持第三方平台,包括Arm和英特尔产品。

除了OpenShell,英伟达还发布了看门狗系统NVIDIA Sentry,用于持续监控AI智能体的行为。一旦智能体试图突破软件枷锁,Sentry可在毫秒级时间内将其隔离并停止运行。该系统运行在BlueField-4 DPU上,能够在芯片层面独立执行安全策略,将威胁检测、基于硬件的智能体治理与执行以及数据访问保护相结合,通过独立于智能体和攻击者、可实时响应的带外信任域实现上述功能。

目前,Anthropic、SpaceX和Scale AI等公司已与英伟达展开合作,将OpenShell应用于其AI模型和智能体。

英伟达AI智能体安全OpenShellSentry
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
53
企业落地案例
7
完整版提示词