1.下载ollama,通过ollama将DeepSeek模型下载到本地运行;

(1)下载ollama平台

ollama是一个用于本地运行和管理大语言模型(LLM)的工具。本次实验安装地址为"D:\App\ollama"

更改软件安装路径装到d盘

(2)配置环境变量

OLLAMA HOST-0.0.0.0:11434

作用:让虚拟机里的RAGFlow能够访问到本机上的Ollama;

如果配置后虚拟机无法访问,可能是你的本机防火墙拦截了端口 11434;

不想直接暴露 11434 端口:SSH 端口转发来实现;

更新完两个环境变量记得重启;

OLLAMA MODELS﹣自定义位置

作用:ollama 默认会把模型下载到C盘,如果希望下载到其他盘需要进行配置;本次实验模型位置为"D:\App\ollamaimagers"

(3)通过ollama下载模型deepseekEr1:1.5b

ollama run deepseek-r1:1.5b;

2.下载RAGflow源代码和Docker,通过Docker来本地部署RAGflow

(1)直接在浏览器搜索RADflow下载RAGflow源代码解压到

"D:\App\DeepSeek+RAGFlow\ragflow-main"

(2)找到Docker官网下载

在官网下载Docker Desktop并安装后,大概率会遇到安装WSL --update报错问题:Docker Desktop -WSL --update failed。

执行wsl --set-default-version 2下载又很慢,并且科学上网会直接被禁止下载,可以直接离线下载所需要的wsl版本https://github.com/microsoft/WSL/releases

避坑参考链接:

https://blog.csdn.net/qq_37926315/article/details/147103600?fromshare=blogdetail&sharetype=blogdetail&sharerId=147103600&sharerefer=PC&sharesource=2201_75342180&sharefrom=from_link

(3)安装并运行ragflow:(需要较长时间)

D:\App\DeepSeek+RAGFlow\ragflow-main>docker compose -f docker/docker-compose.yml up -d

报错:拉取镜像失败

解决办法:更换国内镜像源

"registry-mirrors":[

    "https://docker.mirrors.ustc.edu.cn",

    "https://docker.1panel.live",

    "https://docker.nju.edu.cn",

    "https://docker.m.daocloud.io",

    "https://dockerproxy.com",

    "https://hub-mirror.c.163.com",

    "https://docker.mirrors.ustc.edu.cn",

    "https://registry.docker-cn.com",

    "https://registry.cn-hangzhou.aliyuncs.com"

  ]

镜像拉取,启动

在浏览器输入localhost:80

此时说明RAGflow部署成功,注册登录即可

3.在RAGflow中构建个人知识库并实现基于个人知识库的对话问答;

1添加本地部署模型并进行配置

选择Add the model,添加模型,填写信息

  • 填写模型类型,此处所下载模型为聊天模型,因此选择chat
  • 填写模型名称,可在终端输入ollama list查看以下载的模型信息复制模型名称,如
  • 填写http://+本地ip地址(终端输入ipconfig命令找到以太网适配器的ipv4地址):+端口号(ragflow默认为11434)

2).创建知识库,上传、解析文件

配置:语言选择中文,嵌入模型同上,解析方法按需选择一般为General点击保存,新建文件上传相关材料并:“点击解析”

遇到的问题:文件解析进度长时间不变,如图所示

解决方法:

重新启动解析过程:找到界面中 “解析状态” 栏旁边的红叉图标 ,点击它。然后在界面上找到重新启动解析过程的按钮(一般会有 “重新解析”“重新启动” 等类似提示 )并点击,观察问题是否依旧存在。若问题仍在,继续后续操作。

检查RAGFlow服务器日志

  • 确保Docker已安装且运行: 如果电脑上还没安装Docker,前往Docker官网(https://www.docker.com/ )下载适合Windows系统的安装包,按提示完成安装。安装后打开Docker Desktop,确保Docker服务处于运行状态(在任务栏中Docker图标显示为运行状态 )。
  • 查看日志: 以管理员身份打开命令提示符或PowerShell窗口(按下 `Win + X` ,选择 “命令提示符(管理员)” 或 “Windows PowerShell(管理员)” )。在命令行中输入 `docker logs -f ragflow-server` ,回车后会实时显示 `ragflow-server` 容器的日志信息。仔细查看日志内容,查找是否有报错信息、异常堆栈等,根据提示排查问题。比如若提示缺少依赖,就安装对应的依赖;若提示权限不足,调整相关权限。

 检查task_executor.py进程

  • 打开任务管理器: 按下 `Ctrl + Shift + Esc` 组合键,快速打开任务管理器。
  • 查找进程: 在任务管理器的 “进程” 选项卡中,查看进程列表,寻找是否有与 `task_executor.py` 相关的进程。如果找不到,可能是进程未启动或启动失败。可以尝试在RAGFlow项目目录下(如果知道具体位置 ),以管理员身份打开命令提示符或PowerShell窗口,进入该目录,执行 `python task_executor.py` (前提是已配置好Python运行环境 )来启动进程。若启动过程中报错,根据报错信息解决问题,如缺少Python库则安装相应库。 检查网络访问
  • 测试访问hf-mirror.com: 以管理员身份打开命令提示符或PowerShell窗口,输入 `ping hf-mirror.com` ,回车后查看是否能收到响应。若能收到响应,说明网络可访问该网站;若提示 “请求超时” 等,说明网络不通。此时检查网络连接是否正常(可尝试访问其他网站 ),若网络正常,可能是被防火墙或代理限制,可联系网络管理员排查,或尝试暂时关闭防火墙(仅测试时,测试完恢复 )、调整代理设置后再测试。
  • 测试访问huggingface.com: 同样在命令提示符或PowerShell窗口中,输入 `ping huggingface.com` ,按上述方法判断网络是否可访问。若无法访问,按相同的网络排查思路解决问题。

3)创建聊天助手

点击聊天,新建助理填写相关信息

4)开始对话

至此就完成了模型搭建

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐