ARM01 端侧

存储与调度22 条实测
GPU—(无独立显卡)
显存无独显
CPUARM Cortex-A55 四核(aarch64)
内存3.8 GB
磁盘224 GB(约 84% 已用)
系统Debian GNU/Linux 12 (bookworm) / 飞牛 fnOS
驱动—
CUDA—
架构aarch64
这台机器的坑
🔴 2026-11-06 探测时(跨网段连接超时,本机到该网段需经 VPN 网关)。以下参数来自既有台账记录,:ARM Cortex-A55 四核 / 3.8 GB / 224 GB 存储(84% 偏满)/ Debian 12 bookworm(飞牛 fnOS)/ 跑 Docker 容器(证件照、图床)。⚠️ 3.8 GB 内存 + 零 swap 是硬约束:2026-11-01 实测在这台机上跑 int8 矩阵运算比 fp32 慢 ,根因是 CPU Features 缺 i8mm 指令 —— 「量化省内存反而变慢」的典型反例。等它恢复在线后再补实测参数。
端侧 ARM 小机:证件照 / 图床等轻量容器宿主

与选型相关的实测(0 条)

尚无实测记录。

部署与运维相关(22 条)

磁盘、缓存、网络层面的数据,决定「能不能装下、传得快不快」, 不代表算力强弱。

任务数值等级
ARM Cortex-A55 单线程内存 copy 带宽5.01 GB/sL1
ARM Cortex-A55 双线程内存 copy 带宽10.72 GB/sL1
ARM Cortex-A55 四线程内存 copy 带宽18.35 GB/sL1
ARM Cortex-A55 纯 Q4_0 反量化吞吐4015.5 MB/sL1
ARM 四核盒子只给 1,500MB 可用时的上下文上限5727 tokenL0
ARM 四核盒子实测 available 内存2121 MBL1
ARM 四核盒子实测 free 内存134 MBL1
ARM 四核盒子开满 12.8 万上下文所需的 KV 体积1.47 GiBL0
ARM 四核盒子开满 12.8 万上下文所需的可用内存总量2.87 GiBL0
ARM 四核盒子开满官方 12.8 万上下文所缺的内存818 MiBL0
ARM 四核盒子的 buff/cache 占用2265 MBL1
ARM 四核盒子的 glibc 版本2.36 版本号L1
ARM 四核盒子跑 LFM2.5-1.2B Q4_K_M 的理论最大上下文58474 tokenL0
Q4_0 反量化占「反量化+GEMV」总耗时比例32.4 %L1
端侧闪存 1MB 块读 512MB183.0 MB/sL1
端侧闪存 4K 与 64MB 块读的跨度倍数17.3 倍L1
端侧闪存 4K 块读 16MB32.2 MB/sL1
端侧闪存 512MB 顺序写119.0 MB/sL1
端侧闪存 64MB 块读 512MB557.0 MB/sL1
端侧闪存 64MB 块读相对 1MB 块的倍数3.04 倍L1
镜像站单流下载速度(573MB 模型)21.3 MB/sL1
镜像站单流下载速度(Q2_K 410MB 文件)2.4 MB/sL0

← 返回机器清单