英伟达开源PAIR工具聚合家庭闲置GPU构建个人推理网络
英伟达发布开源工具Personal AI Router(PAIR),可将家庭网络中兼容设备的闲置算力聚合,用于本地AI推理与智能体任务。兼容GeForce RTX 20及以上显卡、RTX Pro、DGX Spark及苹果M4以上芯片。系统自动识别设备使用状态,游戏时自动退出。支持Windows、Linux、macOS,采用mTLS加密通信。
英伟达于近日推出了一款名为Personal AI Router(简称PAIR)的开源工具,旨在将家庭网络中分散的闲置计算资源整合为一个可供本地AI任务调用的个人数据中心。该工具的核心逻辑是动态发现并利用兼容设备的空闲算力,从而为单机性能不足的推理场景提供补充。
PAIR的兼容硬件清单覆盖较广:包括英伟达GeForce RTX 20系列及更新型号的显卡、面向工作站的RTX Pro GPU,以及专为AI开发设计的DGX Spark迷你主机。值得注意的是,苹果自研芯片M4及更高版本也被纳入支持范围,这意味着跨平台算力池化成为可能。
在实际运行中,PAIR会持续监测各设备的负载状态。如果用户正在使用电脑进行游戏或其他高负载操作,该设备会自动从PAIR网络中退出,确保个人使用体验不受影响。这种智能调度机制避免了强行占用资源带来的冲突,同时也能在设备空闲时充分利用其GPU算力,缓解单卡推理时的性能瓶颈。
安全层面,PAIR采用六位数字码完成设备配对,并在所有通信链路上启用mTLS(双向传输层安全)协议,在计算机之间建立加密且经过身份验证的通道,防止数据在传输过程中被窃取或篡改。系统目前支持Windows、Linux和macOS三大主流操作系统,降低了部署门槛。
对于AI开发者和重度用户而言,PAIR提供了一种低成本扩展本地推理能力的新思路——无需购置昂贵的高端显卡,仅通过软件层面的调度就能将家中多台旧设备的算力“拼”起来。这一做法与云端算力租赁形成互补,尤其适合对数据隐私敏感或追求低延迟的本地推理场景。