快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 09-04 07:36 约 2 分钟读完

英伟达发布PAIR调度软件,打通Mac与RTX PC本地AI协作

摘要

英伟达以开源测试版形式推出Personal AI Router(PAIR),可在局域网内自动调度Mac、RTX PC及DGX Spark等设备处理本地AI请求。软件兼容Ollama、LM Studio工具,支持并发负载分担,为多设备AI协作提供统一入口。

英伟达于9月3日以开源测试版形式发布Personal AI Router(PAIR)软件,旨在为局域网内的本地AI请求提供统一的调度机制。该工具可自动发现已加入网络的兼容设备,并将各项推理任务分配给当前空闲的计算机处理,其角色类似工位调度员,为本地AI工作流提供更灵活的资源分配方案。

PAIR目前支持在M4及更高版本的Mac设备、英伟达RTX PC以及DGX Spark上运行,并兼容Ollama、LM Studio等主流本地AI工具。用户无需为每款AI应用逐一配置每台机器,只需通过PAIR统一入口发起请求,软件便会将任务路由至局域网内可用的设备。当某台设备繁忙或离线时,新请求会自动转向其他已配对设备,确保推理流程的连续性。

这一机制的核心价值在于并发负载分担。例如,当AI智能体需要同时审阅多份文档时,PAIR可将彼此独立的任务分别分配给不同计算机处理,从而提升整体吞吐效率。不过英伟达也明确指出,该机制并不会因为接入更多设备而加速单个AI回复的生成速度,其设计初衷并非面向单任务性能提升。

英伟达在演示中展示了PAIR的实际应用场景:在Hermes环境中使用Ollama运行Qwen 3.6 35B A3B模型,将任务拆分为5个AI子智能体后,RTX Spark笔记本单机运行与多设备协同处理的对比效果得以呈现。这一案例直观说明了PAIR在多设备协作场景下的调度能力。

作为开源测试版,PAIR的发布标志着英伟达在本地AI基础设施层面的进一步布局。该软件为家庭或办公环境中的多设备AI使用提供了新的组织方式,尤其适合需要并行处理多个独立请求的工作负载。对于已拥有多台兼容设备的用户而言,PAIR提供了一个无需额外硬件投入即可优化资源利用的软件方案。

英伟达PAIR本地AI模型调度
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词