英伟达推出开放式智能体安全平台,毫秒级隔离异常行为
摘要
英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与Sentry看门狗系统。Sentry运行于BlueField-4 DPU,可在毫秒内隔离越界智能体。Anthropic、SpaceX、Scale AI已采用OpenShell。
9月28日,英伟达正式推出开放式AI智能体安全平台(NVIDIA Open Agent Safety Platform),旨在对AI智能体、智能体硬件及机器人系统实施全栈治理与控制。该平台的核心组件之一是英伟达OpenShell安全软件,可为运行在CPU上的AI智能体设定明确边界,并同时支持开源与闭源模型。
据官方新闻稿介绍,OpenShell在Vera平台上的性能占用极低,与Vera结合后,能够帮助AI智能体在尽快完成任务的同时确保安全。作为开源软件,OpenShell还可支持第三方平台,包括Arm和英特尔产品。
除了OpenShell,英伟达还发布了看门狗系统NVIDIA Sentry,用于持续监控AI智能体的行为。一旦智能体试图突破软件枷锁,Sentry可在毫秒级时间内将其隔离并停止运行。该系统运行在BlueField-4 DPU上,能够在芯片层面独立执行安全策略,将威胁检测、基于硬件的智能体治理与执行以及数据访问保护相结合,通过独立于智能体和攻击者、可实时响应的带外信任域实现上述功能。
目前,Anthropic、SpaceX和Scale AI等公司已与英伟达展开合作,将OpenShell应用于其AI模型和智能体。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗