开源社区再添一个瞄准“本地跑大模型”的新项目。GitHub上的FlashML-org/FreeToken近日进入开发者视野，其定位是一款边缘原生的混合专家（MoE）模型服务引擎，主打在个人电脑和消费级硬件上运行前沿规模的开源权重模型。

根据项目页面披露的信息，FreeToken的核心卖点是“在你自己已有的硬件上解锁数据中心级智能”。官方给出的指标颇为激进：可在游戏PC上本地运行290B以上的前沿MoE模型，并保持“极快的交互速度”。这意味着原本依赖多卡服务器集群的推理负载，被尝试压缩到单机消费级平台。

技术路线上，FreeToken被明确描述为面向异构边缘资源设计的MoE服务引擎。混合专家架构每次推理只激活部分参数，天然适合在显存和算力受限的设备上做取舍，这也是该项目敢于宣称消费级硬件承载超大参数模型的基础。项目同时提供了论文、开发者Slack、社区Discord与微信等入口，并指向flashml.ai官网。

对AI行业从业者而言，这类项目的意义在于推理部署边界的持续外移。若FreeToken所述性能可在更多真实设备上复现，本地化部署超大开源模型的门槛将进一步降低，隐私敏感场景与离线环境的选择空间也会随之扩大。目前该项目仍处于社区推广阶段，实际表现有待第三方验证。

需要指出的是，上述290B以上模型规模与交互速度均为项目方自述，原文未披露具体硬件配置、量化方案与基准测试细节。关注本地推理的开发者可留意其后续论文与社区反馈。