ollama+Docker+RAGflow大模型搭建过程超详细!!
1.下载ollama,通过ollama将DeepSeek模型下载到本地运行;
(1)下载ollama平台
ollama是一个用于本地运行和管理大语言模型(LLM)的工具。本次实验安装地址为"D:\App\ollama"
更改软件安装路径装到d盘
(2)配置环境变量
OLLAMA HOST-0.0.0.0:11434
作用:让虚拟机里的RAGFlow能够访问到本机上的Ollama;
如果配置后虚拟机无法访问,可能是你的本机防火墙拦截了端口 11434;
不想直接暴露 11434 端口:SSH 端口转发来实现;
更新完两个环境变量记得重启;
OLLAMA MODELS﹣自定义位置
作用:ollama 默认会把模型下载到C盘,如果希望下载到其他盘需要进行配置;本次实验模型位置为"D:\App\ollamaimagers"
(3)通过ollama下载模型deepseekEr1:1.5b
ollama run deepseek-r1:1.5b;
2.下载RAGflow源代码和Docker,通过Docker来本地部署RAGflow
(1)直接在浏览器搜索RADflow下载RAGflow源代码解压到
"D:\App\DeepSeek+RAGFlow\ragflow-main"
(2)找到Docker官网下载
在官网下载Docker Desktop并安装后,大概率会遇到安装WSL --update报错问题:Docker Desktop -WSL --update failed。
执行wsl --set-default-version 2下载又很慢,并且科学上网会直接被禁止下载,可以直接离线下载所需要的wsl版本https://github.com/microsoft/WSL/releases
避坑参考链接:
(3)安装并运行ragflow:(需要较长时间)
D:\App\DeepSeek+RAGFlow\ragflow-main>docker compose -f docker/docker-compose.yml up -d
报错:拉取镜像失败
解决办法:更换国内镜像源
"registry-mirrors":[
"https://docker.mirrors.ustc.edu.cn",
"https://docker.1panel.live",
"https://docker.nju.edu.cn",
"https://docker.m.daocloud.io",
"https://dockerproxy.com",
"https://hub-mirror.c.163.com",
"https://docker.mirrors.ustc.edu.cn",
"https://registry.docker-cn.com",
"https://registry.cn-hangzhou.aliyuncs.com"
]
镜像拉取,启动
在浏览器输入localhost:80
此时说明RAGflow部署成功,注册登录即可
3.在RAGflow中构建个人知识库并实现基于个人知识库的对话问答;
1)添加本地部署模型并进行配置
选择Add the model,添加模型,填写信息
- 填写模型类型,此处所下载模型为聊天模型,因此选择chat
- 填写模型名称,可在终端输入ollama list查看以下载的模型信息复制模型名称,如
- 填写http://+本地ip地址(终端输入ipconfig命令找到以太网适配器的ipv4地址):+端口号(ragflow默认为11434)
2).创建知识库,上传、解析文件
配置:语言选择中文,嵌入模型同上,解析方法按需选择一般为General点击保存,新建文件上传相关材料并:“点击解析”
遇到的问题:文件解析进度长时间不变,如图所示
解决方法:
重新启动解析过程:找到界面中 “解析状态” 栏旁边的红叉图标 ,点击它。然后在界面上找到重新启动解析过程的按钮(一般会有 “重新解析”“重新启动” 等类似提示 )并点击,观察问题是否依旧存在。若问题仍在,继续后续操作。
检查RAGFlow服务器日志
- 确保Docker已安装且运行: 如果电脑上还没安装Docker,前往Docker官网(https://www.docker.com/ )下载适合Windows系统的安装包,按提示完成安装。安装后打开Docker Desktop,确保Docker服务处于运行状态(在任务栏中Docker图标显示为运行状态 )。
- 查看日志: 以管理员身份打开命令提示符或PowerShell窗口(按下 `Win + X` ,选择 “命令提示符(管理员)” 或 “Windows PowerShell(管理员)” )。在命令行中输入 `docker logs -f ragflow-server` ,回车后会实时显示 `ragflow-server` 容器的日志信息。仔细查看日志内容,查找是否有报错信息、异常堆栈等,根据提示排查问题。比如若提示缺少依赖,就安装对应的依赖;若提示权限不足,调整相关权限。
检查task_executor.py进程
- 打开任务管理器: 按下 `Ctrl + Shift + Esc` 组合键,快速打开任务管理器。
- 查找进程: 在任务管理器的 “进程” 选项卡中,查看进程列表,寻找是否有与 `task_executor.py` 相关的进程。如果找不到,可能是进程未启动或启动失败。可以尝试在RAGFlow项目目录下(如果知道具体位置 ),以管理员身份打开命令提示符或PowerShell窗口,进入该目录,执行 `python task_executor.py` (前提是已配置好Python运行环境 )来启动进程。若启动过程中报错,根据报错信息解决问题,如缺少Python库则安装相应库。 检查网络访问
- 测试访问hf-mirror.com: 以管理员身份打开命令提示符或PowerShell窗口,输入 `ping hf-mirror.com` ,回车后查看是否能收到响应。若能收到响应,说明网络可访问该网站;若提示 “请求超时” 等,说明网络不通。此时检查网络连接是否正常(可尝试访问其他网站 ),若网络正常,可能是被防火墙或代理限制,可联系网络管理员排查,或尝试暂时关闭防火墙(仅测试时,测试完恢复 )、调整代理设置后再测试。
- 测试访问huggingface.com: 同样在命令提示符或PowerShell窗口中,输入 `ping huggingface.com` ,按上述方法判断网络是否可访问。若无法访问,按相同的网络排查思路解决问题。
3)创建聊天助手
点击聊天,新建助理填写相关信息
4)开始对话
至此就完成了模型搭建
更多推荐



所有评论(0)