快讯 23:56五大科技巨头AI基建承诺超3万亿美元,谷歌独占1万亿23:56五大科技巨头AI基建投入承诺超3万亿美元,谷歌独占1万亿21:49刚刚,DeepSeek重磅开源:Agent底座架构! 全部快讯 →
趋势解读 新大陆研究院 约 1 分钟读完 素材来源 IT之家

商汤开源9B参数模型SenseNova Loop-9B-Preview,采用循环计算架构对标27B模型

商汤科技开源日日新SenseNova Loop-9B-Preview模型,采用Looped Transformer架构与mHC机制,通过循环计算扩展有效计算深度,在仅9B参数规模下宣称媲美27B参数模型,并在多项评测中超过Qwen3.5-27B。

商汤科技于10月30日宣布开源日日新SenseNova Loop-9B-Preview模型。该模型的核心思路并非单纯扩大参数规模,而是借助架构层面的改造提升单位参数的计算效率,官方称其在9B参数体量下可达到27B参数模型的表现水平。

在架构设计上,SenseNova Loop-9B-Preview以9B尺度模型为基座,保留首尾各4层原始解码器模块,将中间层替换为参数共享的循环计算模块,通过多轮迭代扩展模型的有效计算深度。商汤方面表示,这一设计旨在探索更充分的信息交互机制,从而增强模型处理复杂任务的能力。

在此基础上,模型进一步尝试引入mHC(Manifold-Constrained Hyper-Connections)机制,利用多路残差连接与受约束的信息混合来强化特征交互,并维持信号传播的稳定性。商汤通过消融实验评估了该机制的实际收益,结果显示采用mHC后模型取得明显性能提升,其中涉及GPQA Diamond等评测指标。

评测方面,官方称在当前设置下,该模型在代码生成、办公场景和智能体任务等多个方向均优于其他模型,并在WorkBuddy Bench、RaccoonPPT Bench和AutomationBench等评测中超过Qwen3.5-27B。商汤表示,这些结果初步展现了通过扩展有效计算深度来提升小参数模型复杂任务处理能力的潜力。

商汤科技开源模型Looped Transformer小参数模型
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
27
完整版提示词