大模型权重跨机搬运怎么开并行:8 路只给 2.68 倍,三个背锅侠全被排除

环境与安装 · 475.25 GiB / 48 分片(真实生产权重)未标注整理于 2026-11-11 有效期 180d

同一份 475.25GiB(48 个真实 safetensors 分片)在 200G 环网上搬全量:串行 0.9067 GB/s 耗时 562.82 秒,8 路并行 2.4328 GB/s 耗时 209.75 秒,加速比只有 2.68 倍,不是 8 倍。磁盘(8-10 GB/s)、每文件新建连接(1.00 倍)、open/close 开销(1.08 倍)三个最常被指认的瓶颈全部实测排除。给一次跑通的四步链路与该开几路的判定方法。

本地部署权重搬运并行200G环网rsync分片网络带宽部署前置远程传输

这条适用于

版本指纹

GB10 驱动 580.178.04 / CUDA 13.0 / Ubuntu 24.04.5 / Python 3.11 threading 服务端

具体做法

实测环境:源端 DGX Spark #1(DGX Spark 节点 1,aarch64 20 核 / 122GB / GB10 / 板载 NVMe 3.7T)作源端,
接收端 DGX Spark #2(同配置)作接收端,走 200G 环网两机直连。
数据源生产权重目录,48 个 safetensors,合计 510,296,708,312 B = 475.25 GiB,
最小 970,533,624 B,最大 101,537,926,640 B。服务端每连接一线程(规避 11-05 串行 accept 假值),
缓冲区在计时区间外分配,聚合带宽必须大于等于任一单流才计入。
【四场景全量搬运】
A 单文件 101.5GB T=1:0.9061 GB/s(7.25 Gbps),112.0585 秒
B 48 分片串行,每文件新建连接:0.9067 GB/s(7.25 Gbps),562.8167 秒 = 9.4 分钟
C 48 分片 8 路并行:2.4328 GB/s(19.46 Gbps),209.7528 秒 = 3.5 分钟,加速比 2.68 倍
D 最小分片 970MB T=1:0.7580 GB/s(6.06 Gbps),1.2805 秒
逐文件耗时 min 1.18008 秒 / 中位 8.14392 秒 / max 114.8210 秒(n=48)。

【磁盘对照(O_DIRECT 绕缓存,16MB 块,缓冲区在计时外)】
单文件 512MB:8.2026 GB/s(65.62 Gbps);8 文件并行各 512MB:7.9926 GB/s(per_stream max 1.4074)
长跑 单文件 8GB:9.269 GB/s;长跑 8 文件各 2GB:10.0567 GB/s
48 分片各 64MB 每文件 open/close:9.3279 GB/s(7.194 毫秒/文件);同总量单文件连续读:10.1109 GB/s
结论:盘比网络快 3.3 到 4 倍,磁盘不是瓶颈。

【连接复用 A/B(同 48 分片、同 8 线程,唯一变量是是否复用)】
V1 每文件新建:2.4843 GB/s(19.87 Gbps),205.4098 秒
V2 常驻复用:2.4923 GB/s(19.94 Gbps),204.7533 秒
比值 1.00 倍。原假设「每文件建连是瓶颈」被证伪。

【per-file 开销】48 次 open/close 9.3279 对单文件连续 10.1109,比值 1.08 倍,可忽略。
串行实测 562.8167 秒,按单流速率理论应有 563.18 秒,差 0.1%。

【折算 3317.38 GiB / 208 分片】
200G 环网 8 路 0.41 小时(24.2 分钟);200G 单流 1.09 小时(65.5 分钟);
1G 管理网 8.46 小时;NAS/SMB 约 9.9 小时。最快与最慢差 21 倍。

失效边界
8 路只拿到 2.68 倍的根因本轮未定位:已排除磁盘(富余 4 倍)、每文件建连(1.00 倍)、open/close(1.08 倍),剩余疑点指向服务端单进程 Python threading 加 sendall 受 GIL 限制,但没做多进程或多机服务端对照,所以不能下「根因就是 GIL」的结论。另:只测了 源端 DGX Spark #1 到 接收端 DGX Spark #2 一条边,环上另三条边未测;对角线 源端 DGX Spark #1 到 DGX Spark #4 仍不通(走默认网关);接收端 recv 后即丢,未测边搬边写盘,端到端会明显更慢。
← 模型库按文件名去重会删错真模型:40 个文件名里有 17 个重名Edge0-145B 的 98GB 分三层放:专家库进网络盘,一个 token 要等 6 分钟 →

← 返回全部排错方案