字节将推理模型速度提高5.4倍字节Seed发布扩散语言模型
用扩散模型写代码，不仅像开了倍速，改起来还特别灵活！
字节Seed最新发布扩散语言模型Seed Diffusion Preview，这款模型主要聚焦于代码生成领域，它的特别之处在于采用了离散状态扩散技术，在推理速度上表现出色。【图1】
在H20上，它的代码推理速度能达到2146tokens/s，比同类的Mercury和Gemini Diffusion等模型快不少，同时比同等规模的自回归模型快5.4倍，并且在代码编辑任务中更具优势。【图2】
Seed Diffusion Preview以结构化的代码生成为实验领域，系统性地验证离散扩散技术路线作为下一代语言模型基础框架的可行性。【图3】
下面介绍它的具体技术细节：
