Llamaindex+Ollama RAG学习bug记录及解决方案
1.没有opeiai 的api-key
没招,无解,改用ollama
以及如果有直连key的,记着用本地的,autodl不能使用小小的魔法
中转key没有成功过,最后放弃了选择ollama本地了受不了了
下面是我使用成功的教程,后面是教程中一些有可能踩坑的点
LlamaIndex中从OpenAI默认设置切换到本地Ollama部署模型设置指南_llamaindex使用本地模型-CSDN博客
2.使用Ollama本地教程
通过Ollama本地部署DeepSeek R1以及简单使用的教程(超详细) - Qubernet - 博客园
belike上面链接,下面是使用bug记录
3.Jupyter Notebook报错TqdmWarning: IProgress not found. Please update jupyter and ipywidgets.
安装那个缺的包,忘记记住名字了
4.报错kera 3 butxxxx,就是transformer版本高了
回退一下
pip install transformers==4.38.0
5.配置嵌入模型:选择本地的all-MiniLM-L6-v2作为嵌入模型
怎么配置?去魔塔,下面是魔塔的链接,右侧有安装教程
6.报错:BertModel.__init__() got an unexpected keyword argument 'device'
没有cuda,device改cpu
7.报错Failed to load file ,Directory ‘static/’ does not exist
是python 3.8以上读取pdf的包fitz的兼容问题
解决方案:fitz包卸载改为pymupdf包
解决fitz模块报错RuntimeError: Directory ‘static/‘ does not exist_directory 'static' does not exist-CSDN博客
8.报错time out
这个看下自己是不是显存爆了,通过下面的命令。应该是只有本地大模型才会遇见的问题,降模型就可以了
nvidia-smi
9.调用llamacloud接口做pdf解析,报错
Error while parsing the file '<bytes/buffer>': Failed to parse the file: {"detail":"Invalid authentication token"}
Error while parsing the file '<bytes/buffer>': Event loop is closed
Error while parsing the file '<bytes/buffer>': Failed to parse the file: {"detail":"Invalid authentication token"}
注册llamacloud
下面是注册的链接
更多推荐


所有评论(0)