lucebox，一个面向本地大模型推理加速的项目，目标是在消费级 GPU / APU 上（RTX 3090、RTX 2080 Ti之类的），把 LLM 跑得比通用推理框架更快。地址：github.com/Luce-Org/lucebox-hub

能提供大概1.5~10倍的加速。AI创造营