苹果Harbor应用曝光:Thunderbolt 5串联多台Mac共跑本地大模型
摘要
苹果一款名为Harbor的新应用曝光,可通过Thunderbolt 5将多台Mac连接,联合运行单机内存无法容纳的本地大模型。该方案瞄准大模型本地部署的内存瓶颈,若落地将改变Mac端AI推理的硬件扩展思路。
在Mac上本地运行大模型已逐渐成为常见做法,但当模型参数规模超出单机内存容量时,用户往往无计可施。苹果似乎正在为这一痛点准备一套官方解法。
据曝光的信息,苹果一款名为Harbor的新应用可将多台Mac通过Thunderbolt 5接口连接起来,让这些设备协同运行同一个本地大模型。这意味着单台Mac内存装不下的模型,有望借助多机联合的方式完成加载与推理。
从技术路径看,该方案的核心在于利用Thunderbolt 5的高带宽特性实现设备间的高速互联,把多台Mac的内存资源汇聚起来服务同一推理任务。原文未披露支持的Mac机型范围、可运行的模型规模以及具体的协同机制。
对AI行业从业者而言,这一动向值得关注:本地大模型部署长期受制于单机内存上限,而苹果若以官方应用形式提供多机协同能力,可能为Mac端的私有化AI推理打开新的硬件扩展空间。目前Harbor仍处于曝光阶段,苹果尚未公布正式发布计划。
本文由新大陆基于公开信息编辑整理
信息来源:小众软件 小众软件 ↗