跑分查询 · 227 条与选型相关的实测

同一件事在不同机器上跑,差多少 —— 直接看数。
全库 1149 条实测里,另有 922 条是磁盘容量、缓存体积、集群同步这类内部运维指标, 它们决定「能不能部署」,不决定「跑得快不快」,所以不在本页展开, 需要时到 机器详情 查。

按「同一任务的实测条数」降序排列 —— 条数越多,说明这个任务被反复验证过。

任务各机器实测值
SDXL 单张 1024×1024RTX 5090D 4.98 秒/张 L1
RTX 5090D 5.10 秒/张 L1
RTX 5090D 5.09 秒/张 L1
RTX 5060Ti #1 17.66 秒/张 L1
RTX 5060Ti #4 16.68 秒/张 L1
RTX 5060Ti #4 15.89 秒/张 L1
RTX 5060Ti #4 16.4 秒/张 L1
SDXL 批量 4 张 1024×1024RTX 5090D 16.69 秒/批 L1
RTX 5060Ti #1 67.38 秒/批 L1
RTX 5060Ti #4 64.99 秒/批 L1
RTX 5060Ti #4 57.25 秒/批 L1
RTX 5060Ti #4 59.71 秒/批 L1
SDXL 单张显存峰值RTX 5090D 15301 MB L0
RTX 5060Ti #2 7984 MB L1
RTX 5060Ti #4 12471 MB L0
RTX 5060Ti #4 7768 MB L1
SDXL 批量 4 张显存峰值RTX 5090D 23507 MB L0
RTX 5060Ti #2 9040 MB L1
RTX 5060Ti #4 15922 MB L0
RTX 5060Ti #4 8824 MB L1
DGX Spark 集群 首字延迟 TTFTDGX Spark #1 151 ms L1
DGX Spark #1 162.04 ms L1
DGX Spark #1 154.8 ms L1
DGX Spark 集群 单请求 decode 吞吐DGX Spark #1 42.51 tok/s L0
DGX Spark #1 28.54 tok/s L1
DGX Spark #1 27.9 tok/s L1
DGX Spark 集群 并发8 系统吞吐DGX Spark #1 148.95 tok/s L0
DGX Spark #1 88.09 tok/s L0
DGX Spark #1 86.45 tok/s L0
DGX Spark 集群 并发16 系统吞吐DGX Spark #1 148.22 tok/s L0
DGX Spark #1 101.54 tok/s L0
DGX Spark #1 150.51 tok/s L0
Qwen2.5-14B 生成速度RTX 5090D 137.5 token/s L0
RTX 5090D 63.54 token/s L1
RTX 5090D 63.21 token/s L1
SDXL batch=4 后显存余量(5060Ti #4)RTX 5060Ti #2 7271 MB L1
RTX 5060Ti #4 389 MB L0
RTX 5060Ti #4 7487 MB L1
SDXL batch=4 相对单张的显存增量(5060Ti #4)RTX 5060Ti #2 1056 MB L1
RTX 5060Ti #4 3451 MB L0
RTX 5060Ti #4 1056 MB L1
SDXL batch=4 后显存余量占总量(5060Ti #4)RTX 5060Ti #2 44.6 % L1
RTX 5060Ti #4 2.4 % L0
RTX 5060Ti #4 45.9 % L1
SDXL 批 4 均摊单张耗时RTX 5060Ti #1 16.84 秒/张 L1
RTX 5060Ti #4 14.31 秒/张 L1
RTX 5060Ti #4 14.93 秒/张 L1
SDXL 单张 768×1344 竖屏RTX 5090D 5.09 秒/张 L1
RTX 5060Ti #4 16.54 秒/张 L0
SDXL 冷启动(含模型加载)RTX 5090D 5.03 秒 L0
RTX 5060Ti #4 25.72 秒 L0
DGX Spark 集群 长上下文 prefill(40k)DGX Spark #1 2311 tok/s L0
DGX Spark 集群 并发4 系统吞吐DGX Spark #1 103.29 tok/s L0
DGX Spark 集群 并发16 单请求延迟DGX Spark #1 20.24 秒/请求 L0
TTS 口播稿·技术缩写读法(翻中文代价)RTX 5090D 1.44 秒 L0
TTS 口播稿·序数词后数字(删掉可省)RTX 5090D 0.648 秒 L0
TTS 口播稿·整条真稿两种写法总时长(旧写法)RTX 5090D 61.392 秒 L0
TTS 口播稿·整条真稿两种写法总时长(新写法)RTX 5090D 61.680 秒 L0
DeepSeek-V4.1-Flash·并发 1 吞吐DGX Spark #1 41.20 tok/s L0
DeepSeek-V4.1-Flash·并发 2 吞吐DGX Spark #1 65.26 tok/s L0
电商白底图 首次出图(含模型加载)RTX 5060Ti #4 24.99 秒 L0
电商白底图 稳态出图RTX 5060Ti #4 17.63 秒 L0
Blender 3D 资产 逐进程导出(单次含启动)RTX 5090D 0.413 秒/个 L1
Blender 3D 资产 单进程批量导出 8 个RTX 5090D 0.43 秒/批 L0
数字人 S2V 单段 8 秒画面生成耗时RTX 5090D 186 秒/段 L0
SDXL 单张 1 步采样RTX 5090D 0.448 秒/张 L0
SDXL 采样每步边际耗时RTX 5090D 83.49 ms/步 L1
Embedding 并发1 吞吐RTX 5090D 42.65 份/秒 L0
Embedding 并发2 吞吐RTX 5090D 145.11 份/秒 L0
Embedding 并发4 吞吐RTX 5090D 264.81 份/秒 L0
Embedding 并发8 吞吐RTX 5090D 322.74 份/秒 L0
Embedding 并发16 吞吐RTX 5090D 321.9 份/秒 L0
Embedding 并发16 单请求延迟RTX 5090D 45.8 ms L0
Ollama 14B 冷加载耗时RTX 5090D 2.93 秒 L1
Ollama embedding 冷加载耗时RTX 5090D 1.13 秒 L1
Embedding 常驻显存(权重 262MB)RTX 5090D 815 MB L1
Qwen2.5-14B 长输入首次预填充耗时(6036 token)RTX 5090D 23.62 秒 L0
Qwen2.5-14B 常驻显存(权重 8572MB)RTX 5090D 9179 MB L1
LoRA 训练总时长(SDXL offset 示例)RTX 5090D 2206.63 秒 L0
LoRA 训练步速(sd-scripts / Adafactor)RTX 5090D 3.512 步/秒 L0
LoRA 训练摊薄每张图耗时RTX 5090D 297.7 ms/张 L0
SDXL batch=4 后显存余量(5090D)RTX 5090D 9100 MB L0
SDXL batch=4 相对单张的显存增量(5090D)RTX 5090D 8206 MB L0
SDXL 批 4 均摊单张耗时(5090D)RTX 5090D 4.17 秒/张 L0
SDXL 批 4 均摊单张耗时(5060Ti #4)RTX 5060Ti #4 16.25 秒/张 L0
SDXL 单张显存峰值两机倍差(5090D vs 5060Ti #4)RTX 5090D 1.23 倍 L0
SDXL 批 4 显存峰值两机倍差(5090D vs 5060Ti #4)RTX 5090D 1.48 倍 L0
SDXL batch=4 后显存余量占总量(5090D)RTX 5090D 27.9 % L0
SDXL 单次推理的固定开销(与步数无关的部分)RTX 5090D 0.3776 秒 L1
字幕出字速度中位(3436 条 cue)RTX 5090D 4.55 CJK/s L0
字幕出字速度 10% 分位RTX 5090D 3.57 CJK/s L0
字幕出字速度 90% 分位RTX 5090D 5.74 CJK/s L0
字幕出字速度最小值RTX 5090D 1.18 CJK/s L0
字幕出字速度最大值RTX 5090D 50 CJK/s L0
43 部成片配音总时长(按 32000 B/s 反推)RTX 5090D 5048.3 s L0
集群并发 1 系统吞吐DGX Spark #1 27.84 tok/s L0
集群并发 4 系统吞吐DGX Spark #1 73.46 tok/s L0
集群并发 8 系统吞吐DGX Spark #1 112.05 tok/s L0
集群并发 8 单请求耗时DGX Spark #1 26.41 s L0
集群并发 1 墙钟耗时DGX Spark #1 15.842 s L1
集群并发 4 墙钟耗时DGX Spark #1 23.088 s L1
集群并发 8 墙钟耗时DGX Spark #1 31.887 s L1
集群并发 1 单请求耗时DGX Spark #1 15.842 s L1
集群并发 4 单请求耗时DGX Spark #1 21.578 s L1
16G 卡装得下的模板数RTX 5090D 141 个 L0
16G 卡装不下的模板所需权重RTX 5090D 473.1 GiB L0
有体积数据可做显存判定的本地模板数RTX 5090D 177 个 L0
16G 卡装不下的模板数RTX 5090D 36 个 L0
5090D 也装不下的模板数RTX 5090D 8 个 L0
16G 卡判定的单权重体积上限RTX 5090D 15.93 GiB L0
5090D 判定的单权重体积上限RTX 5090D 31.84 GiB L0
16G 卡跑 flux1-dev 的显存缺口RTX 5090D 6.24 GiB L0
托盘程序拉回服务的耗时(三轮均)RTX 5090D 1.141 秒 L1
端口可连到 HTTP 可用的空窗(三轮均)RTX 5090D 2.157 秒 L1
Ollama 每并发槽位的 KV cache 显存RTX 5090D 6144 MiB L0
14B 模型本体占用显存RTX 5090D 8148 MiB L0
NUM_PARALLEL=4 时预计占用显存RTX 5090D 32877 MiB L0
14B 单槽位总显存需求RTX 5090D 14598 MiB L0
16G 卡跑两个槽位差多少显存RTX 5090D 4278 MiB L0
托盘拉回服务耗时 第1轮RTX 5090D 1.271 秒 L0
托盘拉回服务耗时 第2轮RTX 5090D 1.076 秒 L0
托盘拉回服务耗时 第3轮RTX 5090D 1.077 秒 L0
启动后端口可连时刻 第1轮RTX 5090D 0.223 秒 L0
启动后 HTTP 可返回时刻 第1轮RTX 5090D 2.394 秒 L0
启动空窗 第1轮(HTTP−端口)RTX 5090D 2.178 秒 L0
启动后端口可连时刻 第2轮RTX 5090D 0.217 秒 L0
启动后 HTTP 可返回时刻 第2轮RTX 5090D 2.344 秒 L0
启动空窗 第2轮(HTTP−端口)RTX 5090D 2.133 秒 L0
启动后端口可连时刻 第3轮RTX 5090D 0.217 秒 L0
启动后 HTTP 可返回时刻 第3轮RTX 5090D 2.37 秒 L0
启动空窗 第3轮(HTTP−端口)RTX 5090D 2.161 秒 L0
Ollama 日志声明的 memory.totalRTX 5090D 32606 MiB L0
NP=4 失败时报「需减少」的显存RTX 5090D 29492 MiB L0
16G 卡跑单槽的显存余量RTX 5090D 1713 MiB L0
NP=4 相对 NP=1 多占的显存RTX 5090D 18 GiB L0
NP=1 并发1 的实际等待时长RTX 5090D 1.47 秒 L0
NP=1 并发1 的各请求推理耗时之和RTX 5090D 1.45 秒 L0
NP=1 并发2 的实际等待时长RTX 5090D 2.91 秒 L0
NP=1 并发2 的各请求推理耗时之和RTX 5090D 2.87 秒 L0
NP=1 并发4 的实际等待时长RTX 5090D 5.82 秒 L0
NP=1 并发4 的各请求推理耗时之和RTX 5090D 5.75 秒 L0
NP=1 单发吞吐RTX 5090D 62.6 tok/s L0
NP=1 并发 4 的聚合吞吐RTX 5090D 63.2 tok/s L0
NP=2 单发吞吐RTX 5090D 10.62 tok/s L0
NP=2 并发 2 的聚合吞吐RTX 5090D 18.38 tok/s L0
5090D 显存空闲(torch mem_get_info)RTX 5090D 30.26 GiB L0
5090D 显存空闲(ComfyUI 面板报数)RTX 5090D 13.92 GiB L0
显存两种读数口径的差值RTX 5090D 16.34 GiB L0
5090D 单进程可分配显存上限(实测)RTX 5090D 24 GiB L1
SDXL batch=4 后显存余量倍差(5090D vs 5060Ti #4)RTX 5090D 23.39 倍 L0
SDXL 出 100 张单跑总耗时(5090D)RTX 5090D 498 秒 L0
SDXL 出 100 张单跑总耗时(5060Ti #4)RTX 5060Ti #4 1668 秒 L0
SDXL 出 100 张批 4 跑总耗时(5090D)RTX 5090D 417.25 秒 L0
SDXL 出 100 张批 4 跑总耗时(5060Ti #4)RTX 5060Ti #4 1624.75 秒 L0
单张 1024 图的省时(5090D vs 5060Ti #4)RTX 5090D 11.7 秒 未标注
5090D 显存总量(torch 口径)RTX 5090D 31.84 GiB L0
5090D 显存空闲原始字节数(torch mem_get_info)RTX 5090D 32496418816 B L0
ComfyUI 面板报的显存空闲原始字节数RTX 5090D 14942293252 B L0
ComfyUI 面板与 torch 一致报出的显存总量RTX 5090D 34190458880 B L0
nvidia-smi 的返回码(NVML 初始化失败)RTX 5090D 255 退出码 L0
占卡期间面板读数的极差RTX 5090D 0 B L0
占卡实验的采样次数RTX 5090D 8 次 L0
占卡实验占住的显存体积RTX 5090D 4 GiB L0
误判显存不足而换 48GB 卡的多花金额RTX 5090D 15000 元 未标注
跨网段传 64 MiB 的实测耗时RTX 5090D 10.4592 s L0
按厂商标称 273 GB/s 算出的 decode 上限DGX Spark #1 111 tok/s L0
按实测 229.6 GB/s 算出的 decode 上限DGX Spark #1 93.7 tok/s L0
输出 64 token 时的 tok/s(含首 token 固定开销)DGX Spark #1 41.16 token/s L0
输出 256 token 时的 tok/sDGX Spark #1 54.38 token/s L0
输出 512 token 时的 tok/sDGX Spark #1 56.32 token/s L0
现有四台的显存缺口DGX Spark #1 313 GB L0
生产 decode 吞吐(DeepSeek-V4.1-Flash 4 机 TP4)DGX Spark #1 56.32 tok/s L0
Ollama 14B NUM_PARALLEL=8 的总显存RTX 5090D 24962 MiB L0
Ollama 14B NUM_PARALLEL=16 的总显存RTX 5090D 31904 MiB L0
NP=1 时同时 1 请求的聚合吞吐RTX 5090D 61.25 tok/s L1
NP=2 时同时 2 请求的聚合吞吐RTX 5090D 97.33 tok/s L1
NP=4 时同时 4 请求的聚合吞吐RTX 5090D 180.92 tok/s L1
NP=8 时同时 8 请求的聚合吞吐RTX 5090D 158.82 tok/s L1
NP=16 时同时 16 请求的聚合吞吐RTX 5090D 55.71 tok/s L1
NP=16 时单请求延迟RTX 5090D 22.69 秒 L1
NP=4 时显存仍在纯显存内(无 CPU 卸载)RTX 5090D 18119 MiB L0
5060Ti NP=1 时同时 1 请求的聚合吞吐RTX 5060Ti #1 11.43 tok/s L1
5060Ti NP=2 时同时 2 请求的聚合吞吐RTX 5060Ti #1 16.63 tok/s L1
5060Ti NP=4 时同时 4 请求的聚合吞吐RTX 5060Ti #1 16.22 tok/s L1
5060Ti NP=4 时的显存占用RTX 5060Ti #1 15919 MiB L1
5060Ti NP=1 时的显存占用RTX 5060Ti #1 15945 MiB L1
NP=1 时的总显存占用(32G 卡)RTX 5090D 13502 MiB L0
NP=2 时的总显存占用(32G 卡)RTX 5090D 15042 MiB L0
288GB 权重落盘耗时(单流)DGX Spark #1 25.0 秒 L0
磁盘当显存:撑 1 tok/s 所需缓存命中率DGX Spark #1 17.53 % L0
288GB 权重落盘耗时(8 线程最优)RTX 5090D 42.0 秒 L0
54.74GB 权重环网 8 线程搬运耗时DGX Spark #1 4.14 秒 L0
Arete-27B Q4_K_M 超出 16G 卡的显存DGX Spark #1 1.09 GiB L0
J3455 跑 Q2_K 0.3B 单线程 decode端侧 J3455 1.3 tok/s L0
J3455 跑 Q2_K 0.3B 四线程 decode端侧 J3455 4.8 tok/s L1
16G 显卡装 Qwen3.8-Flash-Next 的显存缺口RTX 5090D 344 GB L1
Qwen3.8-27B UD-IQ1_S 纯 CPU decode(T=4)DGX Spark #1 2.04 token/s L1
Qwen3.8-27B UD-IQ1_S 纯 CPU decode(T=8)DGX Spark #1 3.49 token/s L1
Qwen3.8-27B UD-IQ1_S 纯 CPU decode(T=16)DGX Spark #1 1.2 token/s L1
Qwen3.8-27B UD-IQ1_S 纯 CPU prefill(T=8)DGX Spark #1 4.33 token/s L1
PLaMo 0.8B Q4_K_M 纯 CPU decode(T=1)DGX Spark #1 30.15 token/s L1
PLaMo 0.8B Q4_K_M 纯 CPU decode(T=2)DGX Spark #1 28.65 token/s L1
PLaMo 0.8B Q4_K_M 纯 CPU decode(T=4)DGX Spark #1 51.81 token/s L1
PLaMo 0.8B Q4_K_M 纯 CPU decode(T=8)DGX Spark #1 52.51 token/s L1
Qwen3.8-27B IQ1_S 纯CPU prefill(4 线程)DGX Spark #1 2.34 token/s L1
Qwen3.8-27B IQ1_S 纯CPU prefill(16 线程)DGX Spark #1 6.36 token/s L1
PLaMo 0.8B Q4_K_M 纯CPU prefill(1 线程)DGX Spark #1 43.37 token/s L1
PLaMo 0.8B Q4_K_M 纯CPU prefill(2 线程)DGX Spark #1 95.33 token/s L1
PLaMo 0.8B Q4_K_M 纯CPU prefill(4 线程)DGX Spark #1 175.09 token/s L1
PLaMo 0.8B Q4_K_M 纯CPU prefill(8 线程)DGX Spark #1 168.21 token/s L1
27B 单线程基准未跑完的等待时长DGX Spark #1 200 秒 L0
Praxis-1 官方要求的单卡显存RTX 5090D 80 GB L0
5090D 跑 Praxis-1 的显存缺口RTX 5090D 48 GB L1
4× 5060Ti 拼 Praxis-1 的显存缺口RTX 5090D 16 GB L1
智能体单工单端到端耗时(1 字符改动)CPU02 计算 50 秒 L0
pnpm install 安装耗时CPU02 计算 25.6 秒 L0
本地 deepseek-v4.1-flash 原始出字速度(智能体负载)DGX Spark #1 57 token/s L0
本地模型出 500 tokens 的耗时DGX Spark #1 8.787 秒 L0
模型单次请求延迟(智能体评估调用)DGX Spark #1 1.1 秒 L0
模型并发 3 请求的单请求延迟DGX Spark #1 1.4 秒 L0
官方实验:Super-agent 单次运行 token 量DGX Spark #1 2323 万 token L0
官方实验:单 Agent 基线的 token 量(下限)DGX Spark #1 610 万 token L0
RTX 5060Ti 16GB 显存每 GB 单价RTX 5060Ti #1 331 元/GB L0
RTX 5090D 32GB 显存每 GB 单价RTX 5090D 1108 元/GB L0
一万块能买到多少 GB 显存(5090D 口径)RTX 5090D 9.0 GB L0
单张 16G 卡跑 1000 亿参数 Q4_K_M 所缺的显存DGX Spark #1 42.3 GiB L0
Qwen2.5-32B Q4_K_M 单请求 decode 吞吐RTX 5090D 31.15 token/s L1

怎么读这张表