私有化 AI 知识库实战教程:Ubuntu 系统 Docker+Ollama+RagFlow 本地知识库
一、第一步,需要使用统一的Ubuntu系统版本,避免版本不一样,安装出现的问题也不一样,这里推荐使用:清华大学开源软件镜像站
Ubuntu-24.10版本
Index of /ubuntu-releases/24.10/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror
二、所有安装都需要科学上网,在控制台超级用户下,设置网络代理,代理地址需要填自己的,我这里例如:http://192.168.1.105:7897
设置代理:export HTTPS_PROXY = “http://192.168.1.105:7897”
取消代理:unset HTTPS_PROXY
三、安装Ollama
这里示例安装,deepseek-r1:1.5b,如果需要其他版本,输入对应模型大小即可
网站地址:https://ollama.com/
控制台输入下载:curl -fsSL https://ollama.com/install.sh | sh
安装好后,使用命令下载模型:ollama run deepseek-r1:1.5b
四、安装python环境
本系统自带了python3.12版本,只需要安装python-venv,建立单个运行环境,操作如下:
sudo apt install python3.12-venv
python3 -m venv dvenv
source dvenv/bin/activate
五、安装docker与docker-compose
安装前先删除原有的,如果之前安装过,控制台删除命令:
sudo apt-get remove docker docker-engine docker.io
接着安装docker和docker-compose:
curl -fsSL get.docker.com -o get-docker.sh
sudo sh get-docker.sh
curl -sSL https://get.docker.com/ | sh
安装 docker-compose
apt install docker-compose
检查是否安装成功
docker -version
docker-conpose -version
六、安装gcc编译器
这里经过反复的安装实验,使用命令apt install gcc 自动下载的是gcc 14版本,但在后面下载python环境会报错,这里推荐使用gcc-13版本,控制台命令如下:
apt install gcc-13
建立gcc连接
cp /usr/bin/gcc-13 /usr/bin/gcc
测试gcc安装版本
gcc -v
七、上面的基本环境安装好后,就可以到https://github.com/infiniflow/ragflow/blob/main/README_zh.md
按照官方的步骤安装了。
八、预装deepseek系统获取
如果您觉得自己配置实在是太复杂太麻烦,了解这款定制化,虚拟机一键部署的Ubuntu系统,并体验DeepSeek与RAGflow的强大功能,“哈勒勒软件代安装”taobao购买这款Ubuntu系统
更多推荐




所有评论(0)