快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 昨天 · 星期六 · 11-21 15:00 约 1 分钟读完

Thinking Machines Lab 开源 Inkling 2 Mini,26.4B 参数模型可本地运行

摘要

Thinking Machines Lab 发布开源权重模型 Inkling 2 Mini,采用循环 Transformer 架构,中间 12 层每 token 运行三次,总参数 26.4B、激活参数 3.4B,内存占用约 20GB,可在 32GB 内存以上的 Mac 上本地运行。

开源模型阵营再添新成员。Thinking Machines Lab 近日发布开源权重模型 Inkling 2 Mini,其架构选择与部署门槛成为关注焦点。

该模型采用循环 Transformer 架构,核心设计在于将中间 12 层对每个 token 重复运行三次,以此在有限参数规模下扩展计算深度。规格方面,Inkling 2 Mini 总参数为 26.4B,激活参数为 3.4B。

部署条件上,模型内存占用约 20GB,这意味着配备 32GB 及以上内存的 Mac 设备即可在本地运行。对于希望将模型能力下沉到个人终端的开发者而言,这一门槛具备实际可操作性。

在开源权重模型竞争日趋激烈的背景下,Inkling 2 Mini 以循环架构和本地可运行特性切入,其后续在实际任务中的表现值得持续观察。

开源模型Thinking Machines Lab循环 Transformer本地部署
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词