ARM01 端侧
| GPU | —(无独立显卡) |
|---|---|
| 显存 | 无独显 |
| CPU | ARM Cortex-A55 四核(aarch64) |
| 内存 | 3.8 GB |
| 磁盘 | 224 GB(约 84% 已用) |
| 系统 | Debian GNU/Linux 12 (bookworm) / 飞牛 fnOS |
| 驱动 | — |
| CUDA | — |
| 架构 | aarch64 |
这台机器的坑
🔴 2026-11-06 探测时(跨网段连接超时,本机到该网段需经 VPN 网关)。以下参数来自既有台账记录,:ARM Cortex-A55 四核 / 3.8 GB / 224 GB 存储(84% 偏满)/ Debian 12 bookworm(飞牛 fnOS)/ 跑 Docker 容器(证件照、图床)。⚠️ 3.8 GB 内存 + 零 swap 是硬约束:2026-11-01 实测在这台机上跑 int8 矩阵运算比 fp32 慢 ,根因是 CPU Features 缺 i8mm 指令 —— 「量化省内存反而变慢」的典型反例。等它恢复在线后再补实测参数。
端侧 ARM 小机:证件照 / 图床等轻量容器宿主
🔴 2026-11-06 探测时(跨网段连接超时,本机到该网段需经 VPN 网关)。以下参数来自既有台账记录,:ARM Cortex-A55 四核 / 3.8 GB / 224 GB 存储(84% 偏满)/ Debian 12 bookworm(飞牛 fnOS)/ 跑 Docker 容器(证件照、图床)。⚠️ 3.8 GB 内存 + 零 swap 是硬约束:2026-11-01 实测在这台机上跑 int8 矩阵运算比 fp32 慢 ,根因是 CPU Features 缺 i8mm 指令 —— 「量化省内存反而变慢」的典型反例。等它恢复在线后再补实测参数。
与选型相关的实测(0 条)
尚无实测记录。
部署与运维相关(22 条)
磁盘、缓存、网络层面的数据,决定「能不能装下、传得快不快」, 不代表算力强弱。
| 任务 | 数值 | 等级 |
|---|---|---|
| ARM Cortex-A55 单线程内存 copy 带宽 | 5.01 GB/s | L1 |
| ARM Cortex-A55 双线程内存 copy 带宽 | 10.72 GB/s | L1 |
| ARM Cortex-A55 四线程内存 copy 带宽 | 18.35 GB/s | L1 |
| ARM Cortex-A55 纯 Q4_0 反量化吞吐 | 4015.5 MB/s | L1 |
| ARM 四核盒子只给 1,500MB 可用时的上下文上限 | 5727 token | L0 |
| ARM 四核盒子实测 available 内存 | 2121 MB | L1 |
| ARM 四核盒子实测 free 内存 | 134 MB | L1 |
| ARM 四核盒子开满 12.8 万上下文所需的 KV 体积 | 1.47 GiB | L0 |
| ARM 四核盒子开满 12.8 万上下文所需的可用内存总量 | 2.87 GiB | L0 |
| ARM 四核盒子开满官方 12.8 万上下文所缺的内存 | 818 MiB | L0 |
| ARM 四核盒子的 buff/cache 占用 | 2265 MB | L1 |
| ARM 四核盒子的 glibc 版本 | 2.36 版本号 | L1 |
| ARM 四核盒子跑 LFM2.5-1.2B Q4_K_M 的理论最大上下文 | 58474 token | L0 |
| Q4_0 反量化占「反量化+GEMV」总耗时比例 | 32.4 % | L1 |
| 端侧闪存 1MB 块读 512MB | 183.0 MB/s | L1 |
| 端侧闪存 4K 与 64MB 块读的跨度倍数 | 17.3 倍 | L1 |
| 端侧闪存 4K 块读 16MB | 32.2 MB/s | L1 |
| 端侧闪存 512MB 顺序写 | 119.0 MB/s | L1 |
| 端侧闪存 64MB 块读 512MB | 557.0 MB/s | L1 |
| 端侧闪存 64MB 块读相对 1MB 块的倍数 | 3.04 倍 | L1 |
| 镜像站单流下载速度(573MB 模型) | 21.3 MB/s | L1 |
| 镜像站单流下载速度(Q2_K 410MB 文件) | 2.4 MB/s | L0 |