CPU02 计算
| GPU | —(无独立显卡) |
|---|---|
| 显存 | 无独显 |
| CPU | Intel Xeon E5-2673 v4 @ 2.30GHz(2×20C / 80 线程,双 NUMA) |
| 内存 | 125 GB(实测 125 GiB,可用 109 GiB) |
| 磁盘 | 系统盘 937 GB(余 885 GB) |
| 系统 | Ubuntu 26.04.1 LTS |
| 驱动 | — |
| CUDA | — |
| 架构 | x86_64 |
这台机器的坑
2026-11-06 实测:2×20C/80T 双 NUMA / 125 GiB / Ubuntu 26.04.1。无独立显卡(nvidia-smi 不可用,正常)。🔴 这是纯 CPU 推理的主力测试机:2026-11-06 在它上面测出 llama.cpp 跑 PLaMo 0.8B Q4_K_M 的 decode 曲线(1/2/4/8/16/20 线程 = 14.68/24.42/36.56/40.64/42.04/41.72 tok/s,8 线程饱和),prefill 同期从 49.43 涨到 701.39 t/s —— decode 吃内存带宽、prefill 吃算力,同一台机器两个最优线程数。⚠️ 双路机器必须先用 taskset 或 numactl 绑单 NUMA 再测线程,否则线程跨节点访问远程内存,测出来的数每次都不一样。⚠️ 纯 CPU 机,不参与显存类跑分对照。
纯 CPU 计算节点(原 xcz):NAS + 大内存批处理 + 取材任务宿主
2026-11-06 实测:2×20C/80T 双 NUMA / 125 GiB / Ubuntu 26.04.1。无独立显卡(nvidia-smi 不可用,正常)。🔴 这是纯 CPU 推理的主力测试机:2026-11-06 在它上面测出 llama.cpp 跑 PLaMo 0.8B Q4_K_M 的 decode 曲线(1/2/4/8/16/20 线程 = 14.68/24.42/36.56/40.64/42.04/41.72 tok/s,8 线程饱和),prefill 同期从 49.43 涨到 701.39 t/s —— decode 吃内存带宽、prefill 吃算力,同一台机器两个最优线程数。⚠️ 双路机器必须先用 taskset 或 numactl 绑单 NUMA 再测线程,否则线程跨节点访问远程内存,测出来的数每次都不一样。⚠️ 纯 CPU 机,不参与显存类跑分对照。
与选型相关的实测(2 条)
| 任务 | 数值 | 等级 |
|---|---|---|
| pnpm install 安装耗时 | 25.6 秒 | L0 |
| 智能体单工单端到端耗时(1 字符改动) | 50 秒 | L0 |
部署与运维相关(25 条)
磁盘、缓存、网络层面的数据,决定「能不能装下、传得快不快」, 不代表算力强弱。
| 任务 | 数值 | 等级 |
|---|---|---|
| Xeon E5-2673 v4 单线程内存 copy 带宽 | 17.09 GB/s | L1 |
| Xeon E5-2673 v4 双线程内存 copy 带宽 | 30.7 GB/s | L1 |
| Xeon E5-2673 v4 四线程内存 copy 带宽 | 56.96 GB/s | L1 |
| gh 包下载不完整时的体积(11MB vs 正常 15MB) | 11 MB | L0 |
| 内存 copy 带宽(8 线程) | 74.9 GB/s | L1 |
| 单线程 decode 吃到内存带宽的比例 | 49.6 % | L1 |
| 单线程 decode 相对端侧老机器的倍数(Xeon 基准) | 7.3 倍 | L1 |
| 四个坑的卡时合计 | 195 分钟 | L0 |
| 坑1 面板绑 0.0.0.0 / 网卡 IP 的卡时 | 20 分钟 | L0 |
| 坑2 pnpm build 缺 unrun 的卡时 | 15 分钟 | L0 |
| 坑3 GitHub 必须两个账号的卡时 | 40 分钟 | L0 |
| 坑4 模型 provider 缺 apiKey 的卡时 | 120 分钟 | L0 |
| 构建产物 lib/ 体积 | 693.5 kB | L0 |
| 样例工单的 PR 改动行数 | 1 行 | L0 |
| 每 token 有效带宽(decode 实测反算) | 23.29 GB/s | L1 |
| 真实翻译任务整轮耗时(英译中,PLaMo 0.8B) | 4.18 秒 | L1 |
| 纯 CPU 1.5B decode 跨机倍数(对 J3455) | 9.33 倍 | L1 |
| 纯 CPU 1.5B decode(8 线程) | 26.96 tok/s | L1 |
| 纯 CPU 1.5B decode(单线程) | 7.25 tok/s | L1 |
| 纯 CPU 1.5B prefill(8 线程) | 127.27 tok/s | L1 |
| 纯 CPU 8 线程 decode(饱和点,PLaMo 0.8B) | 40.64 tok/s | L1 |
| 纯 CPU prefill 吞吐(8 线程,PLaMo 0.8B) | 343.24 tok/s | L1 |
| 纯 CPU 单线程 decode(PLaMo 0.8B Q4_K_M) | 14.68 tok/s | L1 |
| 项目要求的 gh 最低版本 | 2.48 版本号 | L0 |
| 首次跑通总耗时(从零到能提 PR) | 5 小时 | L0 |