快讯 23:38乐奇Rokid香港开设全球首家AI眼镜无人体验店,主打自助沉浸式零售23:30阶跃星辰 Step 5 Preview 登陆 FeatherlessAI,FP8 精度开放部署23:19英伟达推出1200亿参数Nemotron 3.5 Super VL,单GPU智能体吞吐量提升5倍 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 10-16 08:00 约 1 分钟读完

PromptArmor评测:开放权重模型间接提示词注入易感率高出闭源88%

摘要

PromptArmor在9800次试验中发现,开放权重模型对真实世界间接提示词注入攻击链的易感率为26.7%,闭源模型为14.2%,前者易感率高出88%。涉及DeepSeek、Kimi、GLM、Qwen与GPT、Claude、Gemini的对比。

安全研究机构PromptArmor公布了一项针对大模型提示词注入攻击的大规模评测结果,聚焦于真实世界中的间接提示词注入攻击链。该评测共执行9800次试验,对比了开放权重与闭源两类模型在相同攻击场景下的表现。

数据显示,开放权重模型的易感率达到26.7%,而闭源模型为14.2%。两者相差12.5个百分点,开放权重模型的易感率较闭源模型高出88%。这一差距在统计上具有显著意义,表明模型开放程度与间接提示词注入攻击的防御能力之间存在关联。

受测的开放权重模型包括DeepSeek、Kimi、GLM和Qwen,闭源模型则涵盖GPT、Claude和Gemini。评测所采用的攻击链并非实验室构造的简化场景,而是模拟真实世界中可能出现的间接注入路径,因此结果对实际部署环境具有参考价值。

间接提示词注入攻击通常将恶意指令隐藏在模型可读取的外部内容中,诱导模型执行非预期操作。此次评测结果提示,开放权重模型在享受生态灵活性的同时,可能面临更高的安全风险,模型提供方与部署方需在防御策略上投入更多关注。

提示词注入开放权重模型AI安全PromptArmor
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词