全球首个大规模Agentic扩散模型蚂蚁inclusionAI 终于!Agent赛道,不再是自回归(AR)模型一家独大。
长期处于非主流位置的扩散模型,也开始有了一席之地。
这些年但凡叫得上名字的Agent,从ChatGPT到Claude,底层清一色因果自回归LLM。
逐Token生成慢是慢了点,但行业默认,Agent的大脑只能如此。
蚂蚁却不这么想。
旗下inclusionAI团队陆续推出LLaDA系列模型,最新开源LLaDA2.2,实现扩散模型首次进入智能体长程任务!
准确来说,这是一款千亿参数的MoE扩散语言模型,原生支持128K上下文,也是全球首个大规模Agentic扩散模型。
总之自回归模型能干的,它也能干,自回归模型跑得慢的痛点,它也能一刀切。
更关键的是,它第一次将Levenshtein编辑、面向环境反馈的强化学习,以及长上下文工程架构,整合进同一套扩散模型Agent系统——
模型不仅能并行生成,还能在生成过程中自我增删、动态修正。
LLaDA2.2的出现同样有迹可循,从2.0时期的规模化尝试,到2.1版本的边写边改,再到如今的智能体觉醒。
半年时间、三代模型,依次完成扩散架构从生成工具到行动架构的递进。网页链接





