Win11安装WSL2,解决ragflow集成ollama基础url问题
·
目录
先说一下,目前的安装环境,wsl2.5.4.0(window10.0.26100.3624)安装ubuntu24.04 + linux-ollama0.6.3 + linux-docker-ragflow0.17.2
即ollama不使用docker安装,ragflow使用也只能使用docker安装
看了很多教程都没理清楚全部配置,导致很多人搜教程时已经是集很多修改于一体也未能解决问题,所以写篇文章分享一下清晰的解决方案。
WSL2配置:
在C:\Users\[username]下创建.wslconfig文件,写入以下内容(不需要多余配置):
[wsl2]
kernelCommandLine = "sysctl.vm.max_map_count=262144"
memory=16GB # 分配的内存
processors=12 # 处理器核心数量,考虑超线程
swap=4G # 交换空间
OLLAMA环境配置:
1为 Ollama 创建用户和组:
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
使用上面的方式创建用户后模型位置改变!
模型默认是在存储在~(/home/user)用户目录下的.ollama/models目录,上述命令创建的ollama用户的目录在/usr/share/ollama
所以模型的目录就是在/usr/share/ollama/.ollama/models下
说在前面,在最后一步填写基础url时报错[102]找不到模型而不是[111]连接错误,记得重新拉取模型,或者移动一下.ollama的位置。
2创建服务脚本
sudo vim /etc/systemd/system/ollama.service,比官方文档只需加入一个监听所有链接的HOST:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0" #服务器接受来自任何IP地址的连接,未设置时为回环地址127.0.0.1
[Install]
WantedBy=multi-user.target
3启动服务(即在后台保持服务)
sudo systemctl daemon-reload #重新加载服务的配置文件,而不影响服务的运行
sudo systemctl enable ollama #设置服务开机启动
最终填入的基础url为:
http://host.docker.internal:11434/
总结一下:
注意wsl不需要太多多余配置,原因是为什么我也没有仔细研究
ollama比官方建议加入一行Environment="OLLAMA_HOST=0.0.0.0"
基础url为http://host.docker.internal:11434/
至此问题解决。
更多推荐




所有评论(0)