教程上新丨9B 小模型也能复杂推理,基于 Qwen3.5-9B,Qwythos 融合 Claude 推理经验实现能力跃升
不是所有场景都需要千亿参数,但几乎所有场景都需要「会推理」的模型。如何让更小、更易部署的模型具备更强的推理能力、长上下文理解能力以及工具调用能力,成为开源社区探索的重要方向。
针对小模型复杂任务处理能力不足的问题,Empero 开源了 Qwythos-9B-Claude-Mythos-5-1M,一款基于 Qwen3.5-9B 打造的推理增强语言模型。该模型通过超过 5 亿 Token 的高质量 Claude Mythos 和 Claude Fable 推理轨迹数据进行后训练,在保持 90 亿参数规模的同时,提升模型在复杂推理任务中的表现。
相比基础模型 Qwen3.5-9B,Qwythos 在多个评测中实现显著提升,其中 MMLU 提升 34 分,gsm8k-strict 数学推理提升 30 分,证明了小参数模型同样能通过高质量推理数据实现能力跃升。
除了推理能力优化,Qwythos 还面向 AI Agent 场景进行了增强。模型支持基于 Qwen3.5 规范的原生工具调用能力,可连接外部工具执行复杂任务;同时通过 YaRN RoPE scaling 技术支持 100 万 Token 超长上下文,能够处理长文档、代码库等复杂信息。此外,Qwythos 继承了 Qwen3.5-9B 的多模态视觉能力,可通过 mmproj 模块支持图像理解,进一步拓展模型在多模态 Agent 等场景中的应用。
Qwythos 的发布为小模型的发展打开了新思路:通过高质量数据、推理训练和能力优化,小参数模型也能突破规模限制,为低成本、高效率的 AI 应用提供新的可能。
目前,OpenBayes 官网已上线「Qwythos-9B-Claude-Mythos-5-1M GGUF 推理型大语言模型」教程,降低部署门槛,助力快速验证模型 。
在线运行链接:
https://go.openbayes.com/l1gaJ

项目示例
Demo 运行阶段
1.登录 OpenBayes.com,在「公共教程」页面,搜索并选择「Qwythos-9B-Claude-Mythos-5-1M GGUF 推理型大语言模型」教程。

2.页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

3.选择「NVIDIA GeForce RTX 5090」以及「PyTorch」镜像,点击「继续执行」。新用户使用下方邀请链接注册,即可获得满 ¥10 赠 ¥10 优惠券,更有机会获得 ¥15 赠金!
小贝总专属邀请链接(直接复制到浏览器打开):
https://go.openbayes.com/9S6Dr


4.等待分配资源,当状态变为「运行中」后,点击「打开工作空间」进入 Jupyter Workspace。

效果演示
1.页面跳转后,点击左侧 README.ipynb 文件。


2.待运行完毕后,点击右侧 API 地址即可打开 Demo 界面。


项目示例
教程链接:
更多推荐


所有评论(0)