不是所有场景都需要千亿参数,但几乎所有场景都需要「会推理」的模型。如何让更小、更易部署的模型具备更强的推理能力、长上下文理解能力以及工具调用能力,成为开源社区探索的重要方向。

针对小模型复杂任务处理能力不足的问题,Empero 开源了 Qwythos-9B-Claude-Mythos-5-1M,一款基于 Qwen3.5-9B 打造的推理增强语言模型。该模型通过超过 5 亿 Token 的高质量 Claude Mythos 和 Claude Fable 推理轨迹数据进行后训练,在保持 90 亿参数规模的同时,提升模型在复杂推理任务中的表现。

相比基础模型 Qwen3.5-9B,Qwythos 在多个评测中实现显著提升,其中 MMLU 提升 34 分,gsm8k-strict 数学推理提升 30 分,证明了小参数模型同样能通过高质量推理数据实现能力跃升。

除了推理能力优化,Qwythos 还面向 AI Agent 场景进行了增强。模型支持基于 Qwen3.5 规范的原生工具调用能力,可连接外部工具执行复杂任务;同时通过 YaRN RoPE scaling 技术支持 100 万 Token 超长上下文,能够处理长文档、代码库等复杂信息。此外,Qwythos 继承了 Qwen3.5-9B 的多模态视觉能力,可通过 mmproj 模块支持图像理解,进一步拓展模型在多模态 Agent 等场景中的应用。

Qwythos 的发布为小模型的发展打开了新思路:通过高质量数据、推理训练和能力优化,小参数模型也能突破规模限制,为低成本、高效率的 AI 应用提供新的可能。

目前,OpenBayes 官网已上线「Qwythos-9B-Claude-Mythos-5-1M GGUF 推理型大语言模型」教程,降低部署门槛,助力快速验证模型 。

在线运行链接:

https://go.openbayes.com/l1gaJ

图片

项目示例

Demo 运行阶段

1.登录 OpenBayes.com,在「公共教程」页面,搜索并选择「Qwythos-9B-Claude-Mythos-5-1M GGUF 推理型大语言模型」教程。

图片

2.页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

图片

3.选择「NVIDIA GeForce RTX 5090」以及「PyTorch」镜像,点击「继续执行」。新用户使用下方邀请链接注册,即可获得满 ¥10 赠 ¥10 优惠券,更有机会获得 ¥15 赠金!

小贝总专属邀请链接(直接复制到浏览器打开):

https://go.openbayes.com/9S6Dr

图片

图片

4.等待分配资源,当状态变为「运行中」后,点击「打开工作空间」进入 Jupyter Workspace。

图片

效果演示

1.页面跳转后,点击左侧 README.ipynb 文件。

图片

图片

2.待运行完毕后,点击右侧 API 地址即可打开 Demo 界面。

图片

图片

项目示例

教程链接:

https://go.openbayes.com/l1gaJ

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐