快讯 23:01a16z:AI智能体将漏洞利用周期压缩至小时级,48国395家机构遭攻破17:00OpenAI推出GPT-6 Cyber网络安全模型,面向审核通过安全团队开放15:00Thinking Machines Lab 推出 Inkling 2 Small:594B 参数 MoE 架构,下周以 Apache 2.0 开放权重 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 11-06 00:00 约 1 分钟读完

百度开源ERNIE-5.5-Flash-Base:280B总参数,每token激活14B

摘要

百度文心团队发布ERNIE-5.5-Flash-Base开源Base模型,总参数280B,每token激活14B,并在Hugging Face开放预训练终点权重,提供FP8与BF16两种safetensors格式,为社区微调与部署提供新选择。

百度文心团队近日推出ERNIE-5.5-Flash-Base模型,将其定位为开源Base版本。该模型采用稀疏激活架构,总参数规模达到280B,而每个token实际激活的参数为14B,在模型容量与推理开销之间寻求平衡。

在发布方式上,团队选择在Hugging Face平台开放预训练终点(Base)权重,而非仅提供对话或指令微调版本。这一做法便于研究者和开发者基于原始预训练检查点开展二次训练与定制化开发。

权重文件方面,ERNIE-5.5-Flash-Base同时提供FP8与BF16两种safetensors格式。两种精度选项可覆盖不同硬件条件与部署需求,FP8有助于降低显存占用,BF16则保留更高数值精度。

从行业视角看,此次开源延续了国内厂商开放基础模型的节奏。280B总参数配合14B激活的配置,使该模型在参数规模上进入大模型行列,其实际表现与社区适配情况仍有待后续验证。

百度ERNIE-5.5-Flash-Base开源模型Hugging Face
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
29
完整版提示词