国产大模型集体收紧网络攻击能力,多家厂商强化安全审查
彭博社报道称,阿里、腾讯、月之暗面等厂商在新一代旗舰模型中普遍限制网络进攻能力,同时保留漏洞检测等防御功能。阿里Qwen4-Max过滤攻击性训练数据且暂未公开权重,月之暗面披露过滤后模型漏洞利用基准得分为81.0%,低于未过滤版本的90.5%。
据彭博社11月17日报道,中国多家头部AI厂商在最新一代旗舰模型中采取了趋同的安全策略:主动削弱模型的网络攻击能力,同时保留并强化漏洞检测与防御相关功能。涉及厂商包括阿里巴巴、腾讯和月之暗面。
阿里巴巴最新旗舰模型Qwen4-Max在训练数据层面进行了针对性处理,刻意过滤掉可用于网络攻击的材料,仅保留对漏洞检测等防御场景有价值的能力。值得注意的是,该版本暂未公开模型权重,用户无法自行下载并部署无审查版本。此前,阿里Qwen系列曾是全球下载量最高的开放权重模型家族之一,在开源社区拥有广泛用户基础。
其他厂商亦有类似动作。腾讯在Hy4正式版发布前已明确限制模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。月之暗面于10月23日发布Kimi K3.1 Pro时,从后训练的两个阶段移除了网络攻击相关材料。该公司披露,过滤后的模型在内部漏洞利用基准测试中得分为81.0%,低于未过滤版本的90.5%。智谱则在8月开放GLM-5.3权重之前完成安全审查,并向有关部门通报了系统漏洞。
这一系列调整的背景与AI模型被滥用的现实风险相关。CrowdStrike在10月底发布的报告披露,一个名为VAPOR PANDA的组织使用DeepSeek模型配合ARTEX框架,在11天窗口内针对至少14个国家的200余家机构发起入侵。腾讯首席AI科学家姚顺雨11月7日在香港出席科学会议时表示,模型的网络能力以及"很快到来的生物能力"值得持续关注。