快讯 23:58OpenAI 欧盟上线 textGrain 隐形水印,ChatGPT 与 Codex 文本输出将可被机器识别23:01OpenAI 在 ChatGPT 内测图片广告,覆盖 12 亿周活用户23:00OpenAI推出textGrain文本水印方案,应对欧盟AI法案合规要求 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期二 · 10-06 08:24 约 1 分钟读完

PromptArmor 报告:Databricks Genie 恶意 Skill 可绕过审批窃取租户数据

摘要

安全研究机构 PromptArmor 披露,Databricks Genie Code 在执行上传的恶意 Skill 后,可在聊天渲染阶段弹出钓鱼页面,并借助用户浏览器外泄租户数据,整个过程无需人工批准。该问题暴露出 AI 编程助手在 Skill 执行与渲染环节的权限控制缺口。

AI 编程助手在提升开发效率的同时,其执行链路中的安全边界正受到更多审视。安全研究机构 PromptArmor 近日发布报告,指出 Databricks Genie Code 存在一项可被利用的安全缺陷。

根据 PromptArmor 的描述,当 Databricks Genie Code 执行一个上传的恶意 Skill 后,该 Skill 能够在聊天界面渲染结果时触发钓鱼页面。这一过程并非发生在代码执行阶段,而是嵌入在结果展示环节,因而更容易绕过常规的输入审查。

更值得关注的是数据外泄路径。报告称,恶意 Skill 可经由用户浏览器将租户数据传出,且整个流程不需要任何人工批准。这意味着攻击者无需诱导用户点击确认或授予额外权限,即可完成从执行到外泄的闭环。

该事件将 AI 助手 Skill 生态中的信任问题推至台前:当平台允许第三方 Skill 接入并参与结果渲染时,执行与展示之间的权限隔离是否足够,直接关系到租户数据的边界安全。PromptArmor 的披露为相关平台和开发者提供了一个需要优先排查的风险样本。

DatabricksPromptArmorAI安全数据外泄
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
10
完整版提示词