做了个sillytavern的本地中间层 主要有四个功能∶1、外置的向量存储,不影响生成速度;2、用DeepSeek flash整理长上下文,提取关键角色、地点、物品、人物关系等,输入一个词ai自动整理出相关词条;3、记忆、上下文都是Deepseek处理,发送给sillytavern的都是短文本;4、代码重排发送给大模型的文本格
做了个sillytavern的本地中间层
主要有四个功能∶1、外置的向量存储,不影响生成速度;2、用DeepSeek flash整理长上下文,提取关键角色、地点、物品、人物关系等,输入一个词ai自动整理出相关词条;3、记忆、上下文都是Deepseek处理,发送给sillytavern的都是短文本;4、代码重排发送给大模型的文本格