目录

WSL2配置:

OLLAMA环境配置:

1为 Ollama 创建用户和组:

2创建服务脚本

3启动服务(即在后台保持服务)

最终填入的基础url为:

总结一下:


先说一下,目前的安装环境,wsl2.5.4.0(window10.0.26100.3624)安装ubuntu24.04 + linux-ollama0.6.3 + linux-docker-ragflow0.17.2

即ollama不使用docker安装,ragflow使用也只能使用docker安装

看了很多教程都没理清楚全部配置,导致很多人搜教程时已经是集很多修改于一体也未能解决问题,所以写篇文章分享一下清晰的解决方案。

WSL2配置:


在C:\Users\[username]下创建.wslconfig文件,写入以下内容(不需要多余配置):

[wsl2]
kernelCommandLine = "sysctl.vm.max_map_count=262144"

memory=16GB    # 分配的内存
processors=12  # 处理器核心数量,考虑超线程
swap=4G        # 交换空间

OLLAMA环境配置:


1为 Ollama 创建用户和组:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

使用上面的方式创建用户后模型位置改变!

模型默认是在存储在~(/home/user)用户目录下的.ollama/models目录,上述命令创建的ollama用户的目录在/usr/share/ollama

所以模型的目录就是在/usr/share/ollama/.ollama/models下

说在前面,在最后一步填写基础url时报错[102]找不到模型而不是[111]连接错误,记得重新拉取模型,或者移动一下.ollama的位置。

2创建服务脚本

sudo vim /etc/systemd/system/ollama.service,比官方文档只需加入一个监听所有链接的HOST:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0" #服务器接受来自任何IP地址的连接,未设置时为回环地址127.0.0.1

[Install]
WantedBy=multi-user.target

3启动服务(即在后台保持服务)

sudo systemctl daemon-reload #重新加载服务的配置文件,而不影响服务的运行
sudo systemctl enable ollama #设置服务开机启动

最终填入的基础url为:


http://host.docker.internal:11434/

总结一下:

注意wsl不需要太多多余配置,原因是为什么我也没有仔细研究

ollama比官方建议加入一行Environment="OLLAMA_HOST=0.0.0.0"

基础url为http://host.docker.internal:11434/

至此问题解决。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐