Nvidia PAIR 将闲置的家庭 GPU 组成本地 AI 推理网络
TECH

Nvidia PAIR 将闲置的家庭 GPU 组成本地 AI 推理网络

28+
Signals

战略概览

  • 01.
    Nvidia PAIR 是一款免费、开源的测试版虚拟推理路由器,可发现家庭网络中的其他兼容设备,并将每个传入的 AI 请求调度到单个节点——它不会合并 GPU 内存,也不会将模型分片到多台设备上。
  • 02.
    设备通过 mDNS 本地网络发现自动相互识别,并通过基于 PIN 码的信任步骤配对,之后所有节点间的通信均通过 mTLS 和生成的证书进行加密保护。
  • 03.
    Nvidia 在柏林 IFA 2026 展会上与 RTX Spark N1X 笔记本平台一同发布了 PAIR,将其定位为一款免费软件,旨在让拥有多台 PC 的家庭更高效地进行本地 AI 工作。
  • 04.
    在 Nvidia 自身的演示中,基于 Nous Research 的 Hermes Desktop 构建的五子代理工作负载,在单台 RTX Spark 笔记本上耗时 18 分钟,而在三台设备组成的 PAIR 集群上运行时,耗时降至 9 分钟以内。

PAIR 实际功能与 Nvidia ‘AI 集群’宣传之间的差异

Nvidia 自身的发布宣传大量使用了‘集群’和‘超级计算机’等术语,但其技术文档明确限定了 PAIR 的实际功能:PAIR 将每个独立请求完整地调度到单个节点,明确不合并 GPU 内存、不将多个 GPU 组合成更大的逻辑 GPU,也不将单个模型分片到多台设备上 [1]。实际上,它表现为一个位于现有本地推理引擎之上的调度层,根据节点就绪状态、目标模型是否已加载、当前工作负载以及其它应用占用 GPU 资源的情况,决定由网络中的哪一台设备处理请求 [2]。这一区别至关重要:数据中心意义上的‘集群’会合并内存,使超大模型可在多个 GPU 上运行;而 PAIR 仅为每项任务选择最合适的单台设备——更接近家庭网络的智能负载均衡器,而非多 GPU 模型分片技术。

为何此时推出:代理子代理集群正使单个 GPU 成为瓶颈

推出时机源于一种特定的新问题:当代理框架将任务拆分为多个并行子代理时,所有子代理会竞争同一 GPU 资源,导致排队和停滞,而 PAIR 正是为将此类工作负载分散到网络中具有空闲容量的设备而设计 [3]。Nvidia 将这一解决方案与家庭硬件现状结合,指出超过一半的美国家庭已拥有两台或更多 PC,其中许多设备大部分时间处于闲置状态,这正是 PAIR 旨在调动而非闲置的未开发资源 [4]。综合来看,其宣传重点不再是‘购买更大 GPU’,而是‘停止浪费家中已有的 GPU’——尽管这仅对实际拥有多个兼容设备且同时运行的家庭才真正有效。

生态布局:RTX Spark 硬件与 Hermes Desktop 演示

PAIR 并非孤立发布——Nvidia 在柏林 IFA 2026 展会上与 RTX Spark N1X 笔记本平台一同推出该技术,该平台提供两种配置,最高支持 128GB 统一内存,计划于 2026 年 10 月上市,联想已宣布推出基于相同芯片的 Yoga Pro 9n 和 Yoga 9n 2-in-1 笔记本 [5][6]。旗舰演示采用 Nous Research 的 Hermes Desktop 代理而非通用基准:运行 Qwen 3.6 35B A3B 模型的五子代理工作负载,在单台 RTX Spark 笔记本上耗时 18 分钟,而通过 PAIR 在包含该笔记本、DGX Spark 和 RTX 5090 的三设备集群上运行后,耗时降至 9 分钟以内 [7][8]。选择该合作伙伴并非偶然——Hermes Agent 是目前最广泛使用的开源代理框架之一,为 Nvidia 提供了一个高曝光度的场景,展示为何 RTX Spark 用户需要在后台运行 PAIR。

独立测试者将 PAIR 推向远超其宣传范围的极限

对测试版进行深入测试的评测者发现,PAIR 的能力比 Nvidia 官方材料所描述的更强,也更具即兴发挥空间。XDA Developers 发现,添加新的推理引擎仅需一个声明式 JSON 清单,而非硬编码集成,这使他们能够通过单一端点在两台设备上分别运行 Qwen-3.8-Flash-Next 和 GLM-5.3-Flash 两种完全不同模型的请求,并进一步通过 Tailscale 隧道将葡萄牙的 Mac 与爱尔兰的 DGX Spark 配对,最终将集群扩展至 18 块 GPU [9]。这些行为在 0.1.1 测试版中均未被文档记录或官方支持,而测试也暴露了真实限制:调度器仅读取粗略的 GPU 利用率区间、节点就绪状态和模型是否存在,无法感知缓存预热状态、各节点硬件差异或实测延迟——因此一个技术上‘可用’的节点仍可能是较慢的选择。

历史背景

此前的开源分布式推理项目采用了与 PAIR 不同的方法:Exo 在异构集群中混合使用 Nvidia GPU、Apple Silicon 和 AMD GPU,Petals 将超大模型(405B+)分片到每台设备托管模型一部分的机器上,llama.cpp RPC 则通过网络协议抽象 GPU 后端。PAIR 明确避免此类内存池化或模型分片,而是将整个独立请求路由到单个节点。
PAIR 作为免费公开测试版在柏林 IFA 2026 展会上发布,同时宣布新的本地 AI 代理合作及 RTX Spark 笔记本的推出。

关键关系图

关键玩家
主题

Nvidia PAIR 将闲置的家庭 GPU 组成本地 AI 推理网络

事实来源

10 条引用
  1. [1] NVIDIA/Personal-AI-Router (GitHub)
  2. [2] NVIDIA PAIR: Virtual Inference Router Expands Available Compute on Your Local Network
  3. [3] NVIDIA PAIR Utility Joins Every GPU in Your Home into a Cluster for Agentic AI Tasks (Tom's Hardware)
  4. [4] NVIDIA IFA 2026: PAIR Distributed AI Computing for the Home Network (Engadget)
  5. [5] NVIDIA Launches PAIR, a Free Tool That Distributes Local AI Inference Across Devices (AI Weekly)
  6. [6] Local AI at IFA: Next-Gen Agents, NVIDIA PAIR and RTX Spark
  7. [7] RTX AI Garage: Hermes Agent on DGX Spark
  8. [8] NVIDIA Connects Home Computers into One AI Inference Cluster with PAIR (Unite.AI)
  9. [9] We Connected Two PCs to One AI Endpoint with NVIDIA's New Router-Serving Engine (XDA Developers)
  10. [10] NVIDIA AI on RTX: Personal AI Router product page

来源文章

Top 5

THE SIGNAL.

Analysts

发现 PAIR 比宣传中更灵活,因为添加新推理引擎仅需一个文本清单而非硬编码集成,这使他们能够通过单一端点在两台设备上分别运行两种不同模型的请求,甚至通过 Tailscale 将葡萄牙的 Mac 与爱尔兰的 DGX Spark 配对。他们还指出,调度器忽略了缓存预热状态、跨节点硬件差异和实测延迟,仅依赖粗略的 GPU 利用率区间。

XDA Developers
积极但清醒地看待测试版的局限性

Nvidia 自己的 GitHub 文档反驳了营销中使用的‘集群’简称,明确指出 PAIR 将整个请求调度到单个节点,不合并 GPU 内存、不将 GPU 组合成更大的逻辑 GPU,也不在设备间拆分正在处理的请求。

Nvidia (官方文档)
PAIR 明确是路由层,而非 GPU 资源池层

将 PAIR 描述为介于 AI 代理与推理服务器(RTX Windows/Linux 设备、DGX Spark 和 Mac)之间的编排器,通过单一代理端点将任务分发给有容量的节点,任何节点均可充当路由器,且节点可动态加入或退出。明确澄清 PAIR 不像 NCCL 和 vLLM 那样为单个大模型合并显存;每个节点仍运行独立的模型实例。

Raid Owl (YouTube 实测)
对 PAIR 的实际功能有务实且准确的理解,区别于 XDA 的极限测试角度
The Crowd

Your devices are stronger together. 🖥️🤝🖥️ Just announced at IFA, NVIDIA PAIR automatically links systems across your local network and sends inference requests wherever there's available capacity, helping agents run more efficiently.

@@NVIDIARTXSpark2371

🚨 NVIDIA just quietly changed what a "personal AI computer" can mean. Meet NVIDIA PAIR: Personal AI Router. Instead of buying one massive machine to run local AI, PAIR lets you connect the computers you already have and turn them into a personal AI inference cluster. Your RTX...

@@aijoey1272

PAIR is designed to get your desktop and laptop working together on local AI tasks when not in use.

@@verge45
Broadcast
NVIDIA Pair - The open source AI clustering software

NVIDIA Pair - The open source AI clustering software

NVIDIA Just Turned Your House Into an AI Cluster… This Is HUGE

NVIDIA Just Turned Your House Into an AI Cluster… This Is HUGE

NVIDIA's Free AI Tool Turns Your Home PCs into a Supercomputer

NVIDIA's Free AI Tool Turns Your Home PCs into a Supercomputer