本地部署的时间账：加载慢一半不怪硬盘，卡人的是第一次搬权重
同机实测 NVMe 顺序读 2.3 GB/s（绕过 page cache），610 MB 模型纯 IO 只需 0.27 秒，而实测加载要 0.54 秒——差的那一半在解析 GGUF 和建映射，换再贵的盘也省不掉。真正拉开量级的是第一次拿到权重：69 GB 按实测 16.1 MB/s 的公网带宽要 71.4 分钟，从本地盘读只要 30 秒，差 144 倍。本地部署的第一笔账不是显卡钱，是时间钱。
本地部署模型下载硬盘速度加载时间NVMe带宽时间成本存储这条适用于
- 已有一块本地盘（NVMe 最佳）
- 知道自己的公网下载带宽
版本指纹
dd + curl 单连接，2026-10-30 采集
具体做法
同机实测（2026-10-30，双路 Xeon E5-2673 v4 / NVMe on /dev/nvme0n1p2 ext4）：
【硬盘本身】512 MiB 块，dd 实测
· 顺序写 conv=fdatasync：1.1 GB/s（0.481 s）
· 顺序写 oflag=direct（绕过 page cache）：1.1 GB/s（0.508 s）
· 顺序读 iflag=direct（绕过 page cache）：2.3 GB/s（0.235 s）
· 顺序读走 page cache：4.0 GB/s（0.134 s）—— ⚠️ 这个数测的是内存，不可作为硬盘结论【模型加载】Qwen3-0.6B-Q8_0.gguf = 639,447,744 B = 609.83 MiB，warm 加载 3 次：
· 0.537 / 0.543 / 0.556 秒
· 纯 IO 时间 = 610 MB ÷ 2.3 GB/s ≈ 0.27 秒 → 只占实测加载的 50%
· 剩下 0.27 秒在解析 GGUF 头部、建映射、初始化运行时、分配张量【获取权重的两条路】以 69 GB BF16 权重为例（Clover-35B-A3B-Preview，官方模型卡口径，非本机实测跑通）
· 公网下载：实测 16.1 MB/s（639.4 MB / 38 s）→ 69 GB ÷ 16.1 MB/s ≈ 4285 秒 ≈ 71.4 分钟
· 本地 NVMe 顺序读：2.3 GB/s → 69 GB ÷ 2.3 GB/s ≈ 30 秒
· 两者相差 144 倍
【按同一带宽换算的常规模型】
· 7B Q4（约 4.5 GB）：约 4.6 分钟
· 70B Q4（约 40 GB）：约 41 分钟
· 35B BF16（69 GB）：约 72 分钟
· 三个量化版本各拉一遍对比 → 等待时间乘三
🔴 口径说明：「71.4 分钟」「30 秒」「144 倍」「4.6/41/72 分钟」均为按本机实测带宽换算的推导值，非逐个掐表实测；两个换算输入（16.1 MB/s 下载带宽、2.3 GB/s 读盘速度）都是本机实测。
【本篇三个关键读数的来处（正文一 / 二节）】
· 实测加载总时 0.54 秒（三次 warm 加载 0.537 / 0.543 / 0.556 秒的中位口径）
· 其中纯 IO 0.27 秒，余下 0.27 秒是解析 GGUF 头部、建映射、初始化运行时、分配张量
· 若把顺序读从 2.3 GB/s 翻倍：加载最多降到 0.40 秒，只省 0.14 秒 —— 换盘不划算
【一个具体的钱数（正文四节）】
· 一块 1TB NVMe 约 400 块；花 400 块买回 0.14 秒不如花在容量上（多存七八个 69 GB 模型）
三条边界：① 2.3 GB/s 是这块 NVMe 的顺序读成绩，SATA SSD 或机械盘会低一个量级，换算结果要按自己盘重算 ② 16.1 MB/s 是本机单一时刻的 curl 单连接实测，家宽/公司网络差异大，别当通用值 ③ 69 GB 权重的两个时间都是换算值不是掐表值，量级可信、小数位不可信