Qwen4-Max 发布:2.4T 参数骨干搭配百万 token 上下文
摘要
Qwen 团队推出 Qwen4-Max,基于全新 Qwen4 架构,骨干参数达 2.4T,每 token 激活 71B,并配置 328B N-gram Embedding 参数,支持原生视觉能力与 100 万 token 上下文窗口,面向长程智能体场景。
Qwen 团队近日正式发布新一代旗舰模型 Qwen4-Max,该模型建立在全新的 Qwen4 架构之上,是 Qwen 系列在参数规模与上下文能力上的一次显著升级。
从公开的参数配置看,Qwen4-Max 采用 2.4T 参数骨干,推理时每 token 激活 71B,并引入规模达 328B 的 N-gram Embedding 参数。这一组合意味着模型在保持稀疏激活效率的同时,扩大了整体知识容量。
能力层面,Qwen4-Max 具备原生视觉能力,上下文窗口扩展至 100 万 token。官方将其定位为面向长程智能体任务的模型,长上下文与视觉输入的结合为其在复杂多步任务中的应用提供了基础。
此次发布延续了 Qwen 系列在架构迭代上的节奏,2.4T 骨干与百万级上下文的组合,也使 Qwen4-Max 进入当前大模型参数与上下文竞赛的前沿区间,后续实际表现有待开发者与评测机构进一步验证。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗