1.没有opeiai 的api-key

没招,无解,改用ollama

以及如果有直连key的,记着用本地的,autodl不能使用小小的魔法

中转key没有成功过,最后放弃了选择ollama本地了受不了了

下面是我使用成功的教程,后面是教程中一些有可能踩坑的点

LlamaIndex中从OpenAI默认设置切换到本地Ollama部署模型设置指南_llamaindex使用本地模型-CSDN博客

2.使用Ollama本地教程

通过Ollama本地部署DeepSeek R1以及简单使用的教程(超详细) - Qubernet - 博客园

belike上面链接,下面是使用bug记录

3.Jupyter Notebook报错TqdmWarning: IProgress not found. Please update jupyter and ipywidgets.

安装那个缺的包,忘记记住名字了

4.报错kera 3 butxxxx,就是transformer版本高了

回退一下

pip install transformers==4.38.0

5.配置嵌入模型:选择本地的all-MiniLM-L6-v2作为嵌入模型

怎么配置?去魔塔,下面是魔塔的链接,右侧有安装教程

all-MiniLM-L6-v2 · 模型库

6.报错:BertModel.__init__() got an unexpected keyword argument 'device'

没有cuda,device改cpu

7.报错Failed to load file ,Directory ‘static/’ does not exist

是python 3.8以上读取pdf的包fitz的兼容问题

解决方案:fitz包卸载改为pymupdf包

解决fitz模块报错RuntimeError: Directory ‘static/‘ does not exist_directory 'static' does not exist-CSDN博客

8.报错time out

这个看下自己是不是显存爆了,通过下面的命令。应该是只有本地大模型才会遇见的问题,降模型就可以了

nvidia-smi

 9.调用llamacloud接口做pdf解析,报错

Error while parsing the file '<bytes/buffer>': Failed to parse the file: {"detail":"Invalid authentication token"}
Error while parsing the file '<bytes/buffer>': Event loop is closed
Error while parsing the file '<bytes/buffer>': Failed to parse the file: {"detail":"Invalid authentication token"}

注册llamacloud

下面是注册的链接

LlamaCloud

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐