【清华代码熊】Qwen3.5代码泄漏? 模型架构+源码一手解析
·
📌 本次开源的代码有 Qwen-3.5 和 Qwen-3.5-MOE 两类多模态大模型,本质上来说:
🌟 Qwen-3.5 就是多模态版的 Qwen3 Next,即把 ViT + PatchMerger 接上 Qwen3 Next。自然地,模型也支持 Text-Only 的输出。
🌟 Qwen-3.5-MOE 在 Qwen-3.5 基础上将 LLM Backbone 的 FFN 替换为 Qwen3 风格的 MoE(Top-K Router + Multi-Expert + Shared Expert)










更多推荐



所有评论(0)