Qwen 3.6 27B 成为本地开发「甜点级」模型
Hacker News 580分、498条评论——一个中国开源模型让全球开发者集体兴奋:在笔记本上跑出接近 GPT-5 水平的代码能力。
Qwen 3.6 27B 刷屏 Hacker News
2026年6月30日,波兰开发者 Piotr Migdał 在博客 quesma.com 发表了一篇测评文章《Qwen 3.6 27B is awesome》,被顶到 Hacker News 首页第二名,收获 580 个赞和 498 条评论。
文章开篇就说:“这是第一个让我觉得’本地模型真的能用’的通用模型。”
Qwen 3.6 系列有两个版本:一个 35B MoE(混合专家,A3B 参数激活),速度更快;一个 27B dense(稠密模型),速度较慢但质量更高。作者明确推荐 27B dense 版本,因为它在代码质量上"以小博大"。
为什么 27B 是「甜点」
在 MacBook Max M5 128GB 上跑 8-bit 量化:
| 模型 | 引擎 | 速度 | 显存占用 |
|---|---|---|---|
| Qwen3.6-35B-A3B | llama.cpp + MTP | 105 tok/s | 45 GB |
| Qwen3.6-27B | llama.cpp + MTP | 32 tok/s | 42 GB |
| DeepSeek-V4-Flash | llama.cpp | 33 tok/s | 103 GB |
关键在于:27B 模型 42GB 的内存占用,刚好能塞进 48GB 的 Apple Silicon;32 tok/s 的速度处于主流 API 的体感范围内;而质量上,它的 AI Benchmark 得分 37,相当于 2025年中期的 GPT-5 / Claude Sonnet 4.5 水平。
在 RTX 5090(32GB 显存)上,用户报告 Q6_K 量化可达 50-67 tok/s,上下文窗口 123k;双卡 3090 方案则能跑出 110 tok/s。
社区热议:MacBook 能跑,但别在腿上跑
iagooar:“我爱我的 MacBook Pro M5 128GB,也爱 Qwen 3.6。但千万别买 MacBook 来跑本地 LLM——你的手指会被烫伤,风扇噪音会让你脑袋爆炸。想跑出最佳效果,买个 Mac Mini M4 64GB,扔地下室去。”
tedivm:“我搞了个双 3090 的 Linux 机器,每张卡功耗限制 250W,搭了个小风道把废热排到室外。机器基本静音,跑 Qwen 3.6 27B 写代码能到 110 tok/s。”
throw1234567891:“SaaS 的 token 用完就没了,但 MacBook 留着。看看那些人每月烧在 API 上的钱,5 个月就能回本一台 MacBook。而且不只是隐私问题——你用 Claude 的时候,是把所有东西都发给了 Anthropic,这太疯狂了。”
Saris:“光是玩 Hermes,一天就烧了 $5 DeepSeek V4 额度。Qwen 3.6 35B 更贵。我在游戏 PC 上跑 35B 能到 50 tok/s,除了多交点电费,硬件都是几年前买的。”
本地 vs 云端:隐私成最大驱动力
文章和评论区最一致的共识是:隐私是选择本地模型的首要原因。
当开发者把代码、配置、业务逻辑全部发给 Claude 或 GPT 的 API 时,这些数据都经过了第三方服务器。对于企业开发者、处理敏感数据的程序员来说,这是一个实实在在的风险。
Qwen 3.6 27B 的出现,让"本地跑出够用质量"从理论变成了现实。42GB 内存、一台 Mac Mini 就能搞定,不需要 GPU 服务器集群。
生态适配:llama.cpp 生态已成熟
作者推荐直接用 llama.cpp 运行,明确反对使用 Ollama(“出于道德原因”)。搭配 unsloth 的量化版本(推荐 Q8_0),支持多 token 预测(MTP)加速。
社区用户报告,Qwen 3.6 27B 已经可以无缝对接 OpenCode、Pi、Hermes 等 AI 编程助手,体验接近 API 调用。
不过也有反面声音。用户 girvo 指出:“Gemma 在除了编程之外的所有任务上都比 Qwen 强。可惜我主要就是用它写代码。”——这对 Qwen 来说反而是个好评。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐




所有评论(0)