英伟达发布PAIR调度软件,打通Mac与RTX PC本地AI协作
英伟达以开源测试版形式推出Personal AI Router(PAIR),可在局域网内自动调度Mac、RTX PC及DGX Spark等设备处理本地AI请求。软件兼容Ollama、LM Studio工具,支持并发负载分担,为多设备AI协作提供统一入口。
英伟达于9月3日以开源测试版形式发布Personal AI Router(PAIR)软件,旨在为局域网内的本地AI请求提供统一的调度机制。该工具可自动发现已加入网络的兼容设备,并将各项推理任务分配给当前空闲的计算机处理,其角色类似工位调度员,为本地AI工作流提供更灵活的资源分配方案。
PAIR目前支持在M4及更高版本的Mac设备、英伟达RTX PC以及DGX Spark上运行,并兼容Ollama、LM Studio等主流本地AI工具。用户无需为每款AI应用逐一配置每台机器,只需通过PAIR统一入口发起请求,软件便会将任务路由至局域网内可用的设备。当某台设备繁忙或离线时,新请求会自动转向其他已配对设备,确保推理流程的连续性。
这一机制的核心价值在于并发负载分担。例如,当AI智能体需要同时审阅多份文档时,PAIR可将彼此独立的任务分别分配给不同计算机处理,从而提升整体吞吐效率。不过英伟达也明确指出,该机制并不会因为接入更多设备而加速单个AI回复的生成速度,其设计初衷并非面向单任务性能提升。
英伟达在演示中展示了PAIR的实际应用场景:在Hermes环境中使用Ollama运行Qwen 3.6 35B A3B模型,将任务拆分为5个AI子智能体后,RTX Spark笔记本单机运行与多设备协同处理的对比效果得以呈现。这一案例直观说明了PAIR在多设备协作场景下的调度能力。
作为开源测试版,PAIR的发布标志着英伟达在本地AI基础设施层面的进一步布局。该软件为家庭或办公环境中的多设备AI使用提供了新的组织方式,尤其适合需要并行处理多个独立请求的工作负载。对于已拥有多台兼容设备的用户而言,PAIR提供了一个无需额外硬件投入即可优化资源利用的软件方案。