网上看到一大佬刚刚放出基于 Qwen3.8-27B 的 Dynamic 3.0 超级量化版本。
27B 多模态模型,原本动辄需要 30GB+ 内存/显存,这次直接通过 1-bit / 2-bit 极限量化,压缩到约 6GB~8GB!
8G Mac 终于也能挑战 27B 大模型👇
亮点:
✅ UD-IQ1_M / UD-IQ2_S 极限量化
✅ 模型体积大幅缩水
✅ 多模态能力还在
✅ 支持深度思考
小白直接 Ollama:
"ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:UD-IQ2_S"
极客用 llama.cpp:
"brew install llama.cpp"
"llama-cli -hf unsloth/Qwen3.8-27B-GGUF:UD-IQ2_S"
Mac 本地跑大模型的门槛,又被狠狠砍了一刀。🔥
#Qwen #Qwen38 #本地大模型 #Mac #ai #AI工具 #大模型 #人工智能
