Easy同学正在独立开发 FreeToken 加速效果：
- 配备 8GB 显存 RTX 4060 的普通笔记本电脑能以 39 tok/s 的速度运行 35B 模型- 而搭载 RTX 5090 的游戏台式机则能以交互方式运行庞大的 284B DeepSeek 模型。
为什么它能做到？我让 Gemini 解读了一下它的论文
Easy同学正在独立开发 FreeToken 加速效果：
- 配备 8GB 显存 RTX 4060 的普通笔记本电脑能以 39 tok/s 的速度运行 35B 模型- 而搭载 RTX 5090 的游戏台式机则能以交互方式运行庞大的 284B DeepSeek 模型。
为什么它能做到？我让 Gemini 解读了一下它的论文