双卡本地推理主机：单塔 48GB 显存，共 4214 美元

为什么要两张而不是一张

70B 模型在 4bit 量化下权重大约需要 40GB 显存，8K 上下文时 KV 缓存还要 4-8GB。一张 5090 给 32GB，剩下的必须经 PCIe 卸载到系统内存，生成速度掉到每秒 3-5 个 token。

两张 5070 Ti 提供 32GB 权重空间，第二张的 16GB 则完全用来放 KV 缓存，整个模型可以常驻。4bit 70B 模型的实测吞吐是每秒 18-24 token，而单卡卸载路径只有 4-6。

PCIe 通道才是真约束

AM5 上可用的 PCIe 5.0 通道是 24 条：16 条给主插槽、4 条给芯片组（另有 4 条给 M.2）。双卡意味着 x8/x8，相比 x16/x16 在张量并行吞吐上损失约 8%，但消费级平台无法避免。

这就是为什么主板的选择比显卡的选择更重要。必须选电气上能把 x16 拆成 x8/x8 的板子；只提供芯片组 x4 副插槽的主板，推理会慢 30-40%，因为卡间通信要绕经芯片组。

供电、散热与噪音

两张 300W 卡加 170W CPU，持续功耗约 800W。1300W 电源运行在 62% 负载，效率在最佳区间，更重要的是风扇安静。用四条独立 PCIe 线，绝不用串联。

热密度是更难的问题。两张卡背靠背、中间留两槽，上面那张会比下面那张高 8-12°C。涡轮散热的卡更吵，但它把热排出机箱而不是排在机箱里 —— 在多卡塔式机里这是正确的取舍。

网孔前脸的机箱加三把 140mm 进风扇的实测：下面那张卡 72°C，上面那张 81°C（风扇 60%）。这在规格内，但也意味着持续推理时三米外能听见。

这套配置不擅长什么

它不是一台好的游戏机。张量并行推理要两张卡都用上，游戏只用一张，等于你为 32GB 显存付钱却只用 16GB。如果两者都想要，就得接受这是在同一个机箱里装两台机器，而且游戏那一半是严重过剩的。

它也不是训练机。同一模型微调 7B 需要的显存约为推理的 4 倍，而 PCIe x8 上的梯度同步慢到，只要超过几个 epoch，按小时租云端 GPU 就更便宜。

怎么确认主板跑的是 x8/x8 而不是 x16/x4？

用 GPU-Z 或 HWiNFO64 看每张卡在负载下的链路宽度。如果第二张报 x4，说明那个插槽走芯片组，卡间通信要绕芯片组，张量并行吞吐损失 30-40%。要么换插槽要么换主板。

能不能把两张卡装在相邻插槽省空间？

不行。现代 2.5 槽卡相邻安装时进风完全没有空间，上面那张会高 15-20°C 并降频。至少需要两槽间隙，这限制了必须选第二条 x16 插槽位于第三槽位或更低的主板。

两张卡要四个 8-pin，需要几根线？

从电源引出四条独立线，不是两对串联。两张 300W 卡在加载模型时会同时尖峰，而一对串联线共享单条 300W 供电。TX-1300 有八个 PCIe 接口，这正是它入选的原因。

双卡需要开 Resizable BAR 吗？

需要，而且两个插槽都必须生效。不开 ReBAR 时驱动一次只能映射 256MB 窗口，需要流式读取权重的推理负载吞吐会低 12-18%。有些主板会悄悄在第二个插槽上禁用 ReBAR。

做张量并行需要 NVLink 桥接器吗？

不需要。消费级 RTX 50 系列没有 NVLink 接口，而现代框架（llama.cpp、vLLM、ExLlamaV2）完全通过 PCIe 做张量并行。x8/x8 链路就是实际天花板；有桥接会更好，但这个档位没有。