快讯 23:19Alphabet三季度财报披露AI搜索变现能力偏低,股价跌近10%23:10研究揭示非英语提示token成本更高,最高相差17倍22:36Wiz 总结智能体攻击七大特征,多起真实入侵案例浮出水面 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 10-30 08:00 约 1 分钟读完

Mistral Large 4开源权重上线Hugging Face,1T参数MoE架构登场

摘要

Hugging Face发布Mistral Large 4(Le Chonk)上线博客,该模型采用多模态多语言MoE架构,总参数约1T、激活49B、上下文窗口达1M token,并以开源权重形式发布。

Hugging Face 近日通过官方博客宣布,Mistral Large 4 已正式上线该平台。这一模型在社区中以代号「Le Chonk」出现,此次发布意味着其权重向公众开放。

从架构层面看,Mistral Large 4 采用多模态、多语言的混合专家(MoE)设计。根据博客披露的信息,模型总参数规模约为 1T,单次推理激活参数为 49B,上下文窗口长度达到 1M token。

值得关注的是总参数与激活参数之间的显著差距:1T 的总量配合 49B 的激活规模,体现出 MoE 架构在容量扩展与推理开销之间寻求平衡的思路。同时,多模态与多语言能力的组合,也使其覆盖范围超出纯文本模型。

对 AI 行业从业者而言,开源权重模型以 1M token 上下文和万亿级参数规模进入 Hugging Face 生态,为下游微调与部署提供了新的基座选项。相关技术细节均以 Hugging Face 上线博客披露内容为准。

Mistral Large 4Hugging FaceMoE开源模型
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
24
完整版提示词