快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 11-17 · 星期二 · 11-17 11:28 约 2 分钟读完

国产大模型集体收紧网络攻击能力,多家厂商强化安全审查

摘要

彭博社报道称,阿里、腾讯、月之暗面等厂商在新一代旗舰模型中普遍限制网络进攻能力,同时保留漏洞检测等防御功能。阿里Qwen4-Max过滤攻击性训练数据且暂未公开权重,月之暗面披露过滤后模型漏洞利用基准得分为81.0%,低于未过滤版本的90.5%。

国产大模型集体收紧网络攻击能力,多家厂商强化安全审查
图片来源:IT之家

据彭博社11月17日报道,中国多家头部AI厂商在最新一代旗舰模型中采取了趋同的安全策略:主动削弱模型的网络攻击能力,同时保留并强化漏洞检测与防御相关功能。涉及厂商包括阿里巴巴、腾讯和月之暗面。

阿里巴巴最新旗舰模型Qwen4-Max在训练数据层面进行了针对性处理,刻意过滤掉可用于网络攻击的材料,仅保留对漏洞检测等防御场景有价值的能力。值得注意的是,该版本暂未公开模型权重,用户无法自行下载并部署无审查版本。此前,阿里Qwen系列曾是全球下载量最高的开放权重模型家族之一,在开源社区拥有广泛用户基础。

其他厂商亦有类似动作。腾讯在Hy4正式版发布前已明确限制模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。月之暗面于10月23日发布Kimi K3.1 Pro时,从后训练的两个阶段移除了网络攻击相关材料。该公司披露,过滤后的模型在内部漏洞利用基准测试中得分为81.0%,低于未过滤版本的90.5%。智谱则在8月开放GLM-5.3权重之前完成安全审查,并向有关部门通报了系统漏洞。

这一系列调整的背景与AI模型被滥用的现实风险相关。CrowdStrike在10月底发布的报告披露,一个名为VAPOR PANDA的组织使用DeepSeek模型配合ARTEX框架,在11天窗口内针对至少14个国家的200余家机构发起入侵。腾讯首席AI科学家姚顺雨11月7日在香港出席科学会议时表示,模型的网络能力以及"很快到来的生物能力"值得持续关注。

AI安全大模型出口管制网络攻击
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词