试了一下网上的教程,有时候需要看看这个时间段适不适合部署,哈哈哈

前面试过代码,又试过离线部署,但是发现不太行。现在又准备试试curl部署。

linux安装采用命令行curl -fsSL https://ollama.com/install.sh | sh

安装完成后,打开终端验证

ollama -v

好险,差点以为寄了

下载大模型【deepseek为例】

根据电脑性能选择合适的deepseek模型

这边我是部署7b的

ollama run deepseek-r1:7b

再而更改配置

我把environment里面默认路径更改了

建议友友们备份一下

"PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games"

这个是我安装的

ollama list

重载 systemd 并重启 Ollama:

systemctl daemon-reload
systemctl restart ollama

现在登入我们的dify平台部署一下

我这边是弄了ollama的

我注册了deepseek的 还有qwen的(具体获得大模型key,可以自行搜索,简单的)

然后我这边遇到了你们配置可能存在的所有问题

像是需要把配置环境打开就是上

An error occurred during credentials validation: API request failed with status code 400: {"error":"model is required"}

An error occurred during credentials validation: HTTPConnectionPool(host='host.docker.internal', port=11434): Max retries exceeded with url: /api/embed (Caused by NameResolutionError("<urllib3.connection.HTTPConnection object at 0x7f47330fa8d0>: Failed to resolve 'host.docker.internal' ([Errno -2] Name or service not known)"))

An error occurred during credentials validation: HTTPConnectionPool(host='host.docker.internal', port=11434): Max retries exceeded with url: /api/embed (Caused by NameResolutionError("<urllib3.connection.HTTPConnection object at 0x7f47330fa8d0>: Failed to resolve 'host.docker.internal' ([Errno -2] Name or service not known)"))

我就开始不断刷新,又改了一遍变量,什么的,还是报错

然后我真的不知道该怎么解决了,我就去看了一下视频,然后看见他们的ollama默认就是安装好在上面,我也就去看看,然后它就闪亮亮的出现了。小泪纵横了...

然后这边就是应该就是没有打开环境变量的问题导致大模型无法调用,默认一般都是会在上面

大家可以自行试试,或者多刷新几次,我也是弄了24小时才成功的,害,又是感谢老天爷让我部署成功的一天(害,开始神神叨叨了,别怕蛤)

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐