CPU02 计算

存储与调度27 条实测
GPU—(无独立显卡)
显存无独显
CPUIntel Xeon E5-2673 v4 @ 2.30GHz(2×20C / 80 线程,双 NUMA)
内存125 GB(实测 125 GiB,可用 109 GiB)
磁盘系统盘 937 GB(余 885 GB)
系统Ubuntu 26.04.1 LTS
驱动—
CUDA—
架构x86_64
这台机器的坑
2026-11-06 实测:2×20C/80T 双 NUMA / 125 GiB / Ubuntu 26.04.1。无独立显卡(nvidia-smi 不可用,正常)。🔴 这是纯 CPU 推理的主力测试机:2026-11-06 在它上面测出 llama.cpp 跑 PLaMo 0.8B Q4_K_M 的 decode 曲线(1/2/4/8/16/20 线程 = 14.68/24.42/36.56/40.64/42.04/41.72 tok/s,8 线程饱和),prefill 同期从 49.43 涨到 701.39 t/s —— decode 吃内存带宽、prefill 吃算力,同一台机器两个最优线程数。⚠️ 双路机器必须先用 taskset 或 numactl 绑单 NUMA 再测线程,否则线程跨节点访问远程内存,测出来的数每次都不一样。⚠️ 纯 CPU 机,不参与显存类跑分对照。
纯 CPU 计算节点(原 xcz):NAS + 大内存批处理 + 取材任务宿主

与选型相关的实测(2 条)

任务数值等级
pnpm install 安装耗时25.6 秒L0
智能体单工单端到端耗时(1 字符改动)50 秒L0

部署与运维相关(25 条)

磁盘、缓存、网络层面的数据,决定「能不能装下、传得快不快」, 不代表算力强弱。

任务数值等级
Xeon E5-2673 v4 单线程内存 copy 带宽17.09 GB/sL1
Xeon E5-2673 v4 双线程内存 copy 带宽30.7 GB/sL1
Xeon E5-2673 v4 四线程内存 copy 带宽56.96 GB/sL1
gh 包下载不完整时的体积(11MB vs 正常 15MB)11 MBL0
内存 copy 带宽(8 线程)74.9 GB/sL1
单线程 decode 吃到内存带宽的比例49.6 %L1
单线程 decode 相对端侧老机器的倍数(Xeon 基准)7.3 倍L1
四个坑的卡时合计195 分钟L0
坑1 面板绑 0.0.0.0 / 网卡 IP 的卡时20 分钟L0
坑2 pnpm build 缺 unrun 的卡时15 分钟L0
坑3 GitHub 必须两个账号的卡时40 分钟L0
坑4 模型 provider 缺 apiKey 的卡时120 分钟L0
构建产物 lib/ 体积693.5 kBL0
样例工单的 PR 改动行数1 行L0
每 token 有效带宽(decode 实测反算)23.29 GB/sL1
真实翻译任务整轮耗时(英译中,PLaMo 0.8B)4.18 秒L1
纯 CPU 1.5B decode 跨机倍数(对 J3455)9.33 倍L1
纯 CPU 1.5B decode(8 线程)26.96 tok/sL1
纯 CPU 1.5B decode(单线程)7.25 tok/sL1
纯 CPU 1.5B prefill(8 线程)127.27 tok/sL1
纯 CPU 8 线程 decode(饱和点,PLaMo 0.8B)40.64 tok/sL1
纯 CPU prefill 吞吐(8 线程,PLaMo 0.8B)343.24 tok/sL1
纯 CPU 单线程 decode(PLaMo 0.8B Q4_K_M)14.68 tok/sL1
项目要求的 gh 最低版本2.48 版本号L0
首次跑通总耗时(从零到能提 PR)5 小时L0

← 返回机器清单