PromptArmor 报告:Databricks Genie 恶意 Skill 可绕过审批窃取租户数据
摘要
安全研究机构 PromptArmor 披露,Databricks Genie Code 在执行上传的恶意 Skill 后,可在聊天渲染阶段弹出钓鱼页面,并借助用户浏览器外泄租户数据,整个过程无需人工批准。该问题暴露出 AI 编程助手在 Skill 执行与渲染环节的权限控制缺口。
AI 编程助手在提升开发效率的同时,其执行链路中的安全边界正受到更多审视。安全研究机构 PromptArmor 近日发布报告,指出 Databricks Genie Code 存在一项可被利用的安全缺陷。
根据 PromptArmor 的描述,当 Databricks Genie Code 执行一个上传的恶意 Skill 后,该 Skill 能够在聊天界面渲染结果时触发钓鱼页面。这一过程并非发生在代码执行阶段,而是嵌入在结果展示环节,因而更容易绕过常规的输入审查。
更值得关注的是数据外泄路径。报告称,恶意 Skill 可经由用户浏览器将租户数据传出,且整个流程不需要任何人工批准。这意味着攻击者无需诱导用户点击确认或授予额外权限,即可完成从执行到外泄的闭环。
该事件将 AI 助手 Skill 生态中的信任问题推至台前:当平台允许第三方 Skill 接入并参与结果渲染时,执行与展示之间的权限隔离是否足够,直接关系到租户数据的边界安全。PromptArmor 的披露为相关平台和开发者提供了一个需要优先排查的风险样本。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗