Mistral Large 4开源权重上线Hugging Face,1T参数MoE架构登场
摘要
Hugging Face发布Mistral Large 4(Le Chonk)上线博客,该模型采用多模态多语言MoE架构,总参数约1T、激活49B、上下文窗口达1M token,并以开源权重形式发布。
Hugging Face 近日通过官方博客宣布,Mistral Large 4 已正式上线该平台。这一模型在社区中以代号「Le Chonk」出现,此次发布意味着其权重向公众开放。
从架构层面看,Mistral Large 4 采用多模态、多语言的混合专家(MoE)设计。根据博客披露的信息,模型总参数规模约为 1T,单次推理激活参数为 49B,上下文窗口长度达到 1M token。
值得关注的是总参数与激活参数之间的显著差距:1T 的总量配合 49B 的激活规模,体现出 MoE 架构在容量扩展与推理开销之间寻求平衡的思路。同时,多模态与多语言能力的组合,也使其覆盖范围超出纯文本模型。
对 AI 行业从业者而言,开源权重模型以 1M token 上下文和万亿级参数规模进入 Hugging Face 生态,为下游微调与部署提供了新的基座选项。相关技术细节均以 Hugging Face 上线博客披露内容为准。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗