做了个sillytavern的本地中间层主要有四个功能∶1、外置的bge-small-zh-v1.5向量存储，不影响生成速度；2、用DeepSeek flash整理长上下文，提取关键角色、地点、物品、人物关系等，输入一个词ai自动整理出相关词条；3、记忆、上下文都是Deepseek处理，发送给sillytavern的都是短文本；4、代码重排焊死格式前缀。这样达到了三个效果∶前后文记忆不丢失、token消耗大大降低、缓存几乎必命中。我也用得起Gemini4了。