字节论文拆出DeepSeek的周期弱点：同一道题最多差40个百分点

研究人员让DeepSeek-V4-Flash-Base补全一段FP8量化函数代码，正确答案是8，模型给出32。他们没有改代码，只在代码前加了一段装饰性注释，放着重复的等号，再逐个调整数量。答案在8和32之间来回翻转，每两个标记翻一次，每四个标记重复一遍。

9月28日，字节跳动Seed团队把这套实验写成论文《Periodic Weak Spots》，挂上arXiv，讲的是分块KV缓存压缩带来的相位敏感性。八位作者全部挂着字节Seed，通讯作者是Yiyuan Ma和Xin Dong。
放大到12.8万标记之后，结果才刺眼。团队构造约1.6万组键值对，只调整目标信息相对压缩窗口的相位，提示长度、提问位置、目标平均位置都不变。DeepSeek-V4-Flash基座版在不同相位之间的最大准确率差距达40.2个百分点，Pro基座版34.8个百分点。
后训练收窄了差距，却没有抹平：V4-Flash后训练版还剩19.1个百分点，Pro后训练版14.8个百分点。步长从4改成2的V4.1-Flash差距最小，只有6.1个百分点，可它的偶数位置准确率仍全高于奇数位置。
为排除是实现写错了，团队以Qwen3-0.6B为底座从头预训练了一批小模型，参考规模1000亿标记，唯一实质改动就是分块KV压缩。所有压缩模型都复现了周期性：步长4、6、8、12，周期就是4、6、8、12个标记；全注意力基线最大差距只有6.1个百分点。最扎人的一组数据是：某配置下压缩模型平均准确率59.4%，基线61.1%，看不出差别，但压缩模型最差相位只有9.9%，基线58.4%。
机制指向注意力头。逐个敲除KV注意力头后，团队发现压缩模型里一些头只影响少数几个相位，不同的头负责不同的相位，论文把这叫做“相位特化”。更细一层，门控决定每个位置在压缩条目里的权重，第14、10、9层分别偏向窗口前段、中段、后段；把门控参数平移几个位置，弱点也跟着移。
作者自己划清了边界：机制结论主要在受控模型里得到，不能断定为大型模型的普遍成因；平移门控也消不掉窗口边界处的弱点；能否不牺牲平均性能让各相位更均匀，仍是开放问题。
论文的处方不是修模型，而是改测量：评估用了分块KV压缩的模型，别只看平均分，要在同一段输入平移几个标记后再测一遍。至于DeepSeek有没有按相位重测过自家模型，论文没提，DeepSeek也没回应。