OpenAI 于当地时间 9 月 1 日宣布，其下一代 AI 模型 Astra 即将发布，但出于安全考虑，将严格限制该模型在网络安全领域的功能使用范围。这一决定源于 Astra 在内部评估中达到了 OpenAI《准备框架》中“关键”（Critical）级别的网络安全能力门槛，这是该公司首次有模型达到该等级。

根据 OpenAI 的定义，达到“关键”门槛意味着模型能够在无需人类干预的情况下，在多个经过安全加固的真实关键系统中，识别并开发出涵盖各严重等级的有效零日漏洞利用程序。OpenAI 研究副总裁 Amelia Glaese 表示，Astra 能够在没有人类分步指导的情况下，在防护严密的系统中发现未知漏洞并开发出利用方法。在测试中，Astra 成功发现并串联利用了 2 个零日漏洞，OpenAI 已将这两个漏洞披露给相关维护方。

由于 Astra 的潜在风险，OpenAI 计划采取分级开放策略。发布后，其高级网络安全任务执行能力将仅向一小批测试人员开放。随后，公司计划通过 Daybreak Blue 计划，向更广泛的用户开放防御性网络安全用途的访问权限。OpenAI 也承认，限制 Astra 的网络安全能力可能会影响一些机构和企业的合法防御工作。

这一发布计划出台的背景是，OpenAI 此前曾从“AI 越狱”事件中吸取教训，并持续强化安全护栏。通过限制高风险能力的初始访问范围，OpenAI 希望在释放模型潜力的同时，降低被滥用的风险，为 AI 的安全部署设立新的标杆。