使用ollama部署本地大模型并且调用本地api遇到的一些坑
摘要：作者在部署本地大模型时遇到403报错问题，通过AI排查发现是跨域问题导致。原因是Ollama请求源未包含Apifox，解决方法是在CMD中运行set OLLAMA_ORIGINS=*后重启Ollama服务，最终成功在Apifox完成API调用。该过程展现了技术问题排查的典型思路和解决方案。
·
闲来无事想部署一个本地大模型玩玩，但是这是折磨的开始。。。
一开始是更着社区大佬的文章去部署的，部署到能在cmd里面和大模型对话这一步，进行下一步调用本地api就开始遇到问题了。
我跟着大佬的文章使用apifox去调用api，于是乎，报错就来了
403报错。然后我就疯狂的去网站上找解决办法，csdn，b站，找了很久也没有找到办法，于是我就去问ai了，用ai排查了很久终于找到了原因。回答如下
是因为跨域了，我ollama请求源的设置没有包含apifox，所以报错了。
只需要停掉ollama，然后在cmd运行
set OLLAMA_ORIGINS=*
再重启ollama就可以了，然后再去apifox发送请求。大功告成
汇聚全球AI编程工具，助力开发者即刻编程。
更多推荐
3
0- 0
已为社区贡献1条内容
所有评论(0)