MiniMax开源M3.1 Flash权重,428B总参数单token激活23B
摘要
MiniMax宣布公开M3.1 Flash模型权重,总参数428B、每token激活23B,用户可通过Hugging Face和ModelScope下载。此次开放为开发者提供了大参数稀疏模型的本地部署与二次开发基础。
MiniMax在模型开放方面再进一步。该公司宣布,M3.1 Flash的模型权重已正式对外公开,开发者可直接获取这一大参数规模模型进行本地部署与研究。
从参数结构看,M3.1 Flash总参数达到428B,而每个token仅激活23B,属于典型的稀疏激活架构。这一设计意味着模型在保持较大参数容量的同时,单次推理的计算开销相对可控。
在获取渠道上,MiniMax同步提供了两个下载入口:国际社区常用的Hugging Face,以及国内的ModelScope。双平台分发便于不同地区的开发者按需选择。
权重开放后,开发者可基于M3.1 Flash开展本地推理、微调与二次开发,这也让外界得以更直接地审视该模型在稀疏架构下的实际表现。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗