Qwen3.5-9B开源大模型：信创适配清单（麒麟V10+统信UOS+达梦DB）

1. 模型概述

Qwen3.5-9B是一款拥有90亿参数的开源大语言模型，在国产信创环境下展现出卓越的性能表现。该模型特别针对国产操作系统和数据库进行了优化适配，确保在麒麟V10、统信UOS等国产操作系统上能够稳定运行。

核心能力亮点：

• 强逻辑推理：能够处理复杂的逻辑推理任务
• 代码生成：支持多种编程语言的代码生成和补全
• 多轮对话：保持上下文连贯的长对话能力
• 多模态理解：支持图文混合输入（通过Qwen3.5-9B-VL变体）
• 长上下文支持：最高可处理128K tokens的超长文本

2. 项目部署指南

2.1 基础环境配置

项目部署环境关键信息：

• 搭建日期：2026-03-25
• 模型版本：Qwen3.5-9B（多模态）
• 运行环境：torch28（Conda）
• 服务端口：7860
• 进程管理：Supervisor

2.2 项目目录结构

项目采用标准化的目录结构，便于管理和维护：

/root/qwen3.5-9b/
├── app.py              # 主程序（基于Gradio的Web界面）
├── start.sh            # 服务启动脚本
├── service.log         # 运行日志记录
└── history.json        # 对话历史存储

3. 服务管理操作

3.1 常用管理命令

使用Supervisor进行服务管理，提供以下常用命令：

# 查看服务运行状态
supervisorctl status qwen3.5-9b

# 重启服务（配置变更后使用）
supervisorctl restart qwen3.5-9b

# 停止服务
supervisorctl stop qwen3.5-9b

# 实时查看日志输出
tail -f /root/qwen3.5-9b/service.log

# 检查错误信息
grep -i error /root/qwen3.5-9b/service.log

3.2 服务访问方式

• 本地访问：http://localhost:7860
• 网络访问：http://服务器IP:7860

4. 功能特性详解

4.1 支持功能列表

功能类型	详细说明
文本对话	支持中英文混合输入，保持上下文连贯的多轮对话
图片上传与分析	支持JPEG/PNG/GIF/WEBP等常见格式，可对图片内容进行描述和分析
参数调节	提供max_tokens、temperature、top_p、top_k等关键参数的可视化调节界面

4.2 使用操作指南

文本对话流程：

1. 在输入框中输入问题或指令
2. 点击"Send"按钮或直接按回车键提交
3. 等待模型生成回复（响应时间取决于问题复杂度）

图片分析操作：

1. 通过右侧"Upload Image"按钮上传图片文件
2. 在输入框中输入与图片相关的问题（如"描述这张图片的内容"）
3. 提交问题获取模型的图文分析结果

参数调节说明：

• Max tokens：控制生成文本的最大长度（范围64-8192）
• Temperature：影响生成结果的随机性（0.0-1.5，值越高越随机）
• Top P：核采样阈值（0.1-1.0，值越低结果越确定）
• Top K：采样候选数（1-100，值越小结果越确定）

5. Supervisor配置详解

5.1 配置文件位置

主配置文件路径：/etc/supervisor/conf.d/qwen3.5-9b.conf

5.2 配置内容说明

[program:qwen3.5-9b]
command=/bin/bash /root/qwen3.5-9b/start.sh
directory=/root/qwen3.5-9b
environment=HOME="/root",USER="root",LOGNAME="root",SHELL="/bin/bash",PATH="/opt/miniconda3/envs/torch28/bin:/usr/bin:/bin"
user=root
autostart=true
autorestart=true
startsecs=30
startretries=3
redirect_stderr=true
stdout_logfile=/root/qwen3.5-9b/service.log
stopasgroup=true
killasgroup=true

关键配置项解析：

• autostart=true：系统启动时自动运行服务
• autorestart=true：服务异常退出时自动重启
• startsecs=30：服务启动后观察30秒确认稳定性
• PATH：指定使用torch28 Conda环境的可执行路径

6. 运行环境要求

6.1 Conda环境配置

激活项目专用的Conda环境：

conda activate torch28

6.2 依赖包版本要求

包名称	最低版本要求	功能说明
transformers	≥5.0.0	提供模型加载和推理能力
torch	2.8.0	深度学习框架，支持GPU加速
gradio	6.x	构建Web交互界面
huggingface_hub	≥1.3.0	支持从HuggingFace下载模型

6.3 模型存储路径

• 实际存储路径：/root/ai-models/Qwen/Qwen3___5-9B
• 符号链接路径：/root/ai-models/Qwen/Qwen3.5-9B

7. 日志系统说明

7.1 日志文件位置

主日志文件路径：/root/qwen3.5-9b/service.log

7.2 常见日志信息解析

日志内容	含义说明
Loading model from...	模型加载过程开始
Loading weights: XX%	模型权重加载进度显示
Model loaded successfully!	模型加载成功标志
Running on local URL: http://...	服务启动成功，监听指定端口

7.3 启动问题排查指南

# 检查服务进程状态
supervisorctl status qwen3.5-9b

# 确认端口监听情况
ss -tlnp | grep 7860

# 验证模型加载状态
grep "Model loaded" /root/qwen3.5-9b/service.log

# 检索错误信息
grep -i "error\|exception\|traceback" /root/qwen3.5-9b/service.log | tail -20

8. 常见问题解决方案

8.1 服务启动失败处理

排查步骤：

1. 通过supervisorctl status确认进程状态
2. 使用supervisorctl tail查看实时日志
3. 检查Conda环境是否激活正确
4. 验证模型文件是否存在且完整

8.2 模型加载缓慢问题

原因分析：

• 模型文件较大（约19GB）
• 首次加载需要初始化时间
• GPU资源不足或未正确识别

解决方案：

• 耐心等待2-3分钟完成加载
• 使用nvidia-smi检查GPU状态
• 通过日志监控加载进度

8.3 端口冲突处理

# 检查端口占用情况
ss -tlnp | grep 7860

# 定位占用进程
lsof -i :7860

8.4 图片上传异常

可能原因：

• 上传了不支持的图片格式
• 图片文件损坏
• 网络传输超时

解决方法：

• 尝试使用PNG或JPEG格式的小尺寸图片
• 检查图片文件完整性
• 适当增加请求超时时间

9. 日常维护操作

9.1 清理对话历史

rm -f /root/qwen3.5-9b/history.json
supervisorctl restart qwen3.5-9b

9.2 日志管理

# 备份当前日志
cp /root/qwen3.5-9b/service.log /root/qwen3.5-9b/service.log.bak

# 清空日志文件
> /root/qwen3.5-9b/service.log

# 重启服务生效
supervisorctl restart qwen3.5-9b

9.3 代码更新流程

# 编辑主程序文件
vim /root/qwen3.5-9b/app.py

# 重启服务使变更生效
supervisorctl restart qwen3.5-9b

10. 同类项目对比

项目名称	模型版本	服务端口	当前状态
Qwen3.5-9B	Qwen3.5-9B多模态	7860	运行中
Qwen3.5-2B	Qwen3.5-2B多模态	7860	已下线

11. 总结与展望

Qwen3.5-9B在国产信创环境下的成功部署，展示了国产大模型与国产操作系统、数据库的良好兼容性。通过Supervisor进行进程管理，确保了服务的稳定运行。未来可考虑进一步优化：

• 模型量化压缩，降低资源占用
• 增加API接口，便于系统集成
• 完善权限管理，提升安全性

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。