OpenAI 披露有组织蒸馏事件,指称与月之暗面相关
摘要
OpenAI 称 7 月遭遇有组织对抗式蒸馏活动,7 月 24 日至 25 日超 4000 名用户发起 1.6 万次请求,调查发现超 1.5 万名用户存在类似行为,7 月 28 日已完全阻止,并指认核心活动群体与开发 Kimi 模型的月之暗面有关。
OpenAI 于当地时间 9 月 30 日在官网发布文章,披露其近期遭遇一场有组织的蒸馏活动。该公司将这一行为定性为对抗式蒸馏,即系统性未经授权地利用某模型输出或推理过程,帮助训练、复现或改进另一模型。
按照 OpenAI 的描述,该活动始于 7 月第一周。7 月 1 日的初始活动规模较小,但到 7 月 24 日和 7 月 25 日流量突然大幅增加,当时有超过 4000 名用户发起了 1.6 万次请求。进一步调查后,OpenAI 发现超过 1.5 万名用户存在类似提示词活动。到 7 月 28 日,OpenAI 已完全阻止该批活动。
OpenAI 强调,本次活动并没有破解公司的加密系统,或入侵数据库,也没有直接访问用户对话。该公司声称这些行动违反了其服务条款,并已通过前沿模型论坛与行业合作伙伴分享相关信息,共同加强蒸馏防御能力。
OpenAI 最后披露,公司截至目前尚不清楚攻击实体,但认为其核心活动群体和开发 Kimi 模型的月之暗面有关。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗