本地部署回本账怎么算:四台 DGX Spark 满产 7.3 年,利用率 5% 就是 145.6 年
判断「本地部署省不省钱」要用三个数:整机功率(不是 nvidia-smi 读数)、真实月产能(不是标称算力)、真实利用率(不是 24 小时满载假设)。本机四台 DGX Spark(TP4 跑 deepseek-v4.1-flash)实测:并发 8 系统吞吐 112.05 tok/s,满产 290.4 百万 token/月;整机电源 240W × 4 = 0.96 kW,电费 414.72 元/月;按 DeepSeek 2026-08-17 价(V4-Flash 输出空闲 4.5 / 高峰 9 元每百万),峰谷各半回本 7.3 年。但真实利用率 5% 时,回本变成 145.6 年。
本地部署回本ROI成本核算DGX Spark电费功耗nvidia-smi云端APIDeepSeek算力账本选型这条适用于
- 已有一座可 24h 运行的多卡推理集群,且能取到整机/芯片两级功耗读数
- 手上有真实 API 单价(含峰谷时段定义与生效日期),否则云账单一侧无法算
- 目标是判断「该不该自建」,不是比较两家 API 谁便宜(那属另一类问题)
版本指纹
4× DGX Spark / GB10 / Ubuntu 24.04.5 / 驱动 580.178.04 / CUDA 13.0 / SGLang 起 deepseek-v4.1-flash;API 单价取 DeepSeek 2026-08-17 生效价
具体做法
本机实测环境:4× DGX Spark(四节点,私有网段),Ubuntu 24.04 / GB10 / CUDA 13.0,TP4 张量并行,SGLang 起 deepseek-v4.1-flash(max_model_len 1,048,576)。
【并发梯度(max_tokens=512 / temperature=0 / prompt 20 token,串行三轮)】
· 并发 1:墙钟 15.842 s,输出 441 tok → 27.84 tok/s
· 并发 4:墙钟 23.088 s,输出 1,696 tok → 73.46 tok/s(2.64×)
· 并发 8:墙钟 31.887 s,输出 3,573 tok → 112.05 tok/s(4.02×)
· 单请求耗时 15.84 → 21.58 → 26.41 s(恶化 1.67×)
【功耗(每 0.5 s 采 nvidia-smi,并发 8 档 15 个有效样本)】
· 单台均值 34.65 / 36.31 / 36.57 / 38.77 W,四台合计 146.30 W
· GPU 利用率 85.3-87.4%
· 四台常驻待机合计 137.03 W
· 官方:整机电源 240 W/台(四台 960 W)、GB10 芯片 TDP 140 W/台,余 100 W 供 ConnectX-7/Wi-Fi/SSD/USB-C
【口径差】
· 按 nvidia-smi 算电费:63.20 元/月
· 按整机电源算:414.72 元/月
· 低估 6.6 倍
【回本(硬件 135,000 元 / 电价 0.6 元/kWh / 纯输出估算)】
· vs V4-Flash 空闲 4.5:云 1,306.95,净省 892.23 → 12.6 年
· vs 峰谷各半 6.75:云 1,960.43,净省 1,545.71 → 7.3 年
· vs V4-Flash 高峰 9.0:云 2,613.90,净省 2,199.18 → 5.1 年
· vs V4-Pro 高峰 27.0:云 7,841.71,净省 7,426.99 → 1.5 年
【利用率敏感度(峰谷各半)】
· 100% 7.3 年|70% 10.4|50% 14.6|30% 24.3|20% 36.4|10% 72.8|5% 145.6 年
【电费平衡点】
· vs 空闲档需 92.2 百万 token(满产 31.7%)|峰谷各半 61.4(21.2%)|高峰 46.1(15.9%)|V4-Pro 15.4(5.3%)
三个必须标清的假设:① 硬件价按 2026 年 8 月 $4,699/台折算 13.5 万元,不含电费以外的运维、替换、网络 ② 电价按 0.6 元/kWh 通用值,各地差异可达 2 倍 ③ 云账单只按输出 token 计,未计输入 —— 这使云端成本偏高,对本地有利。若把输入算进去(V4-Flash 缓存未命中 1.5/3.0 元),云端支出会显著上升,回本会更快。反之若你的实际业务输出占比低,回本会更慢。