Meta开源816B参数模型Muse Spark Open,支持1M上下文与多模态
摘要
Meta在Hugging Face发布开源权重模型Muse Spark Open,总参数816B、激活42B,上下文窗口达1M token,面向编码与智能体工作流,原生支持图像、音频、文档多模态,并新增安全后训练。
Meta近日在Hugging Face平台上线了开源权重模型Muse Spark Open,采用Muse Model License授权。该模型总参数规模为816B,激活参数为42B,上下文窗口扩展至1M token,主要面向编码与智能体工作流场景。
与此前8月发布的Muse Spark相比,Muse Spark Open在能力上进行了针对性增强。模型原生支持多模态输入,覆盖图像、音频和文档三种类型,同时新增了安全后训练环节,以提升模型在实际部署中的安全性表现。
从技术规格看,816B总参数配合42B激活参数的设计,意味着模型在保持较大容量同时控制推理成本。1M token的上下文窗口则使其能够处理长文档、大型代码库等长序列任务,契合编码与智能体工作流对长上下文的需求。
该模型以开源权重形式在Hugging Face提供,采用Muse Model License。对于AI行业从业者而言,Muse Spark Open的发布为编码辅助和智能体应用开发提供了新的可选基座,其多模态与长上下文特性可能推动相关工具链的进一步适配。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗