我是做嵌入式开发的,平时最熟悉的不是“大模型参数”,而是内存、Flash 和启动时间。
所以当我看到 PicoClaw 这个超轻量级 Agent 框架时,第一反应不是把它装到服务器,而是:能不能塞进一块只有 16MB NOR Flash、64MB 内存的 ARM 开发板?
我用公司的一块网络摄像机开发板做了实验。最后跑通了:PicoClaw 经 UPX 压缩后约 2.9MB,能够开机自启,通过 Telegram Bot 对话,运行时 RSS 大约 18.5MB。整个移植和排错过程大约用了五个小时,主要借助 OpenCode 和 Claude 完成。
这不是一篇“复制命令就能成功”的教程。不同芯片、SDK 和分区方案差异很大。我更想记录几个真正决定成败的工程判断:怎么裁系统、怎么重新分配 Flash、怎么处理 32 位兼容,以及为什么 AI 能加速移植,却替代不了板级验证。
一、先看硬件约束
这块开发板使用 32 位 ARM Cortex-A7,64MB DDR2 和 16MB NOR Flash。它原本跑着厂商自带的业务程序,资源预算已经被内核、根文件系统、厂商服务和业务程序分走。
网络上,开发板通过局域网代理访问模型 API 和 Telegram。文章不保留真实代理地址,部署时应使用自己的 <PROXY_HOST>:<PORT>,并限制来源设备。
我的目标很明确:不增加硬件,尽量不动 Bootloader,只在现有 16MB Flash 里挤出 PicoClaw、配置和证书的位置。
二、整体架构和分区思路
PicoClaw 不在本地运行大模型。设备端负责接收消息、调用远端模型、执行受控工具,再把结果返回。这样能把模型计算留在云端,把 Agent 入口放到资源受限的设备上。
16MB Flash 最难的不是“二进制能不能放下”,而是每个分区都有硬边界。原来的 customer 分区只有 1MB,PicoClaw 压缩后仍接近 3MB,必须重新分配。
最终调整有三点:
- 1. rootfs 从只读 squashfs 改为可写的 jffs2,方便配置 DNS 和运行时文件;
- 2. customer 分区扩大到约 3.75MB,用来放 PicoClaw、配置和证书;
- 3. sdk_libs 严格控制在 2MB 以内,只保留实际依赖的库。
这三项是一个整体。只扩 customer、不裁 sdk_libs,镜像仍然过不了打包检查;只压二进制、不处理可写文件系统,程序启动后也会在 DNS 和日志环节卡住。
三、先从内核和系统里拿回空间
原始 SDK 为完整摄像机能力准备了不少资源:MMA、CMA、Wi-Fi、USB、传感器、调试信息和多个文件系统。这个实验不需要它们。
我在 project/configs/current.configs 里关闭不用的功能,把 MMA 从 16MB 降到 1MB,关闭 CMA、调试、Wi-Fi、USB、传感器以及不使用的文件系统。
核心不是照抄某个配置值,而是逐项回答两个问题:这个能力当前镜像会不会用?关掉后有没有启动或驱动依赖?
修改后重新应用配置并编译内核:
cd /path/to/arm_sdk/project
make defconfig
make uimage -j16
当时编译出的压缩内核约 2.04MiB,落在 3MB 的内核分区预算内。
四、重新分配 Flash
原 customer 分区只有 1MB,放不下 2.9MB 的 PicoClaw。我的做法是压缩其他区域、扩大 customer,同时保留升级和回滚需要的基本空间。
rootfs 改为 jffs2 的原因也很具体:程序需要可写的 /etc/resolv.conf 和临时日志目录。squashfs 只读,启动脚本再正确也写不进去。
这里有个代价:jffs2 的空间效率和启动表现与 squashfs 不同。生产环境不能只看“能写”,还要测试掉电、擦写寿命、升级流程和异常恢复。
五、交叉编译 PicoClaw
目标平台是 32 位 ARMv7,Go 侧采用静态编译并去掉调试符号:
cd /path/to/picoclaw
CGO_ENABLED=0 \
GOOS=linux \
GOARCH=arm \
GOARM=7 \
go build -tags embed -ldflags="-s -w" \
-o picoclaw-arm ./cmd/picoclaw
upx --best -o picoclaw-arm-upx picoclaw-arm
当时的大小变化大致是:原始二进制约 13MB,使用 embed 标签后约 8.7MB,再经 UPX 压缩到约 2.9MB。
UPX 不是免费午餐。它会增加启动时解压成本,也可能影响某些安全扫描和调试流程。这里选择它,是因为 Flash 空间比启动开销更紧张。
证书和配置文件也要一起打包,但不能把 API Key、Bot Token 或真实代理地址写进文章、仓库和通用镜像。它们应在设备侧注入,并限制文件权限。
六、打包和烧录
打包阶段遇到的主要问题,是 sdk_libs.sqfs 超过分区限制。SDK 默认复制了大量第三方库,其中很多与这个最小化实验无关。
我修改 sdk_libs.mk,跳过批量复制,只保留运行必须的库。库文件从 44 个、约 4.9MB,缩到 2 个、约 52KB,最终 sdk_libs.sqfs 约 500KB。
烧录仍沿用开发板原有流程:生成升级镜像,写入 FAT32 SD 卡,进入 U-Boot 执行升级,再通过串口检查启动日志。每块板子的命令和镜像格式不同,不能直接套用这套烧录步骤。
七、四个最费时间的问题
1. 打包镜像超限
症状是厂商服务镜像超过 2MB 阈值。根因不是 PicoClaw 本身,而是打包脚本把不需要的第三方库全复制进来了。
修复方式不是继续压缩所有文件,而是追踪打包依赖,只留下真正会加载的库。
2. TLS 证书验证失败
设备开机时间停在 1970 年,证书当然无法通过有效期校验。
我在启动流程里增加 NTP 同步,并在时间未校准时阻止需要 TLS 的服务启动。不要用长期写死的未来日期“骗过”证书检查,那只会把问题藏起来。
3. DNS 解析失败
原 rootfs 是只读 squashfs,无法更新 /etc/resolv.conf。改为 jffs2 后,再由启动脚本写入受控的 DNS 配置,问题才解决。
4. 32 位 ARM 上的 math.MaxInt64 溢出
某个可选 SDK 在 32 位平台上把 math.MaxInt64 放进了 int,编译时报溢出。使用 -tags embed 只编译 Telegram 所需通道,排除了不需要的平台依赖,也顺带缩小了二进制。
这个问题很典型:很多库默认开发者运行在 64 位服务器上,一到嵌入式平台,隐含假设就会暴露。
八、最终资源占用
当时 16MB Flash 的实际使用约 13.6MB。内核约 2.1MB,rootfs 约 5.8MB,customer 约 3.2MB,其他分区保留给 Boot、环境、杂项和厂商服务。
PicoClaw 进程的 RSS 约 18.5MB;空闲时大约 8—10MB,对话时常见 15—20MB。CPU 空闲约 1%—2%,处理消息时约 15%—25%。这些数字只代表这块板和当时的软件版本,不能当成所有 ARM 设备的承诺值。
九、跑起来之后
串口日志确认程序可以开机自启,Telegram Bot 能正常收发消息。原始启动日志含内网端口和 Telegram 标识,只保留在来源证据中,不进入跨平台正文。下面四张图是当时的实际对话记录。
十、我真正得到的结论
PicoClaw 跑在小设备上,不代表 16MB Flash 里塞进了一个本地大模型。它证明的是另一件事:资源受限设备也可以承载 Agent 入口、工具接口和本地控制逻辑,把推理交给远端模型。
这会改变嵌入式应用层的设计。过去常见链路是“App → 云端 → 设备”;未来一部分设备会变成“用户 → Agent → 工具接口和外设”。用户说自然语言,Agent 决定调用哪个受控能力,再由设备执行。
但真正落地时,权限、离线能力、错误恢复和安全边界,比“能不能聊天”重要得多。摄像头、门锁和工业设备不能因为模型误判就随意动作。
AI 编程在这次实验里确实帮了很大忙。交叉编译参数、Makefile、32 位溢出和启动脚本,都能更快得到候选方案。但最后判断分区能不能动、板子会不会起不来、串口日志意味着什么,仍然依赖嵌入式和 Linux 经验。
我不是把工程交给了 AI。我是多了一个能快速查资料、写候选补丁、陪我排错的搭档。
这就已经很有用了。
本文来自「小天说FDE」,全平台同名。
我会持续分享普通人能用上的 AI 工具、内容工作流和真实实践,欢迎联系我,一起交流 AI。