DC娱乐网

小扎把300亿参数模型塞进24GB显存,直接点名Anthropic Meta回

小扎把300亿参数模型塞进24GB显存,直接点名Anthropic

Meta回到开源桌前

Meta昨晚发布Muse Glimmer,300亿参数,量化后17GB,一张24GB显存的消费级显卡就能跑。上下文13万Token,能调用工具,能检查结果,也能在失败后重试。参数不算大,但这是Meta超级智能实验室成立后的第一个开源模型。上一次Meta认真做开源还是Llama时期,中间转向闭源,被开源圈追着骂。小扎这次自己写了长文,原话是“限制开源是大错特错”。几乎所有硅谷AI公司都签了英伟达的开源协议,只有Anthropic没签。

一张显卡,本地跑Agent

完整300亿参数模型原本需要55GB内存。Meta把它量化到17GB,准确率只掉了约1%。另一项DFlash推测解码技术把RTX 5090上的生成速度从74.9 Token/s提到233.4 Token/s,提速3.1倍。M4 Max和M5 Max也分别加速1.5倍和1.8倍。一张RTX 4090就能放下13万Token上下文。以前要把数据传到云端、调用OpenAI API才能做的Agent任务,现在可以断网跑在自己机器上。律师、医生、企业内部知识库这类数据不能出门的场景,会先感受到差别。

它不是最强,但小扎押的是分发

Meta自己承认,Muse Glimmer整体能力弱于Muse Spark,在SWE-Bench Verified和OSWorld这些硬核基准上还输给Qwen3.6-27B。先把跑分放一边。小扎承诺未来的个人Agent会有完全隐私模式,连Meta自己也看不了用户数据。他还预告Muse Spark 1.2的权重也会开放。Meta把“免费、低价、本地、私密”绑在一起,直接撞向OpenAI和Anthropic的订阅模式。



开源和闭源吵了三年,今年第一次出现实质性分叉。OpenAI、Anthropic往10万亿参数和万亿美元估值走,把AI做成少数机构掌握的电网。Meta、阿里、DeepSeek把模型往消费级硬件和开源协议里塞。短期最强模型仍然在闭源那边。三年后决定AI能进到多少行业的,可能是模型铺到了多少设备上,而不是榜单分数。

AI 开源 大模型