【14MB：把智能代理塞进廉价电子设备里】Needle 2 是一个参数量仅 45M 的开放权重模型，它被压缩成 14MB 的二进制文件，运行时仅需 28MB 内存。它完全剔除了聊天能力和百科全书式的知识，专门负责工具调用、物理设备控制和结构化数据提取。研发团队 Cactus Compute 的切入点非常明确：全球有 210 亿台 IoT 设备，其中绝大部分是单价低于 200 美元、没有 NPU 或高端 GPU 的硬件。社区评论注意到，这种极端的特化让它在移动指令准确率上甚至超过了体积更大的 Apple FM。这件事给我们的判断是，模型小型化不一定要卷参数规模，当任务是精准操控硬件时，放弃对文学的理解能换取极高的执行效率。它让 AI 摆脱了对云端和昂贵算力的依赖，让每一个微控制器都能用极低的 Token 消耗完成复杂的指令匹配，真正让智能下沉到每一块智能手表和传感器中。 cactuscompute.com/needle