Ollama+AnythingLLM+DeepSeek本地部署教程(附避坑指南)

为什么用本地知识库?

✅ 完全离线 - 隐私数据不出本地

✅ 中文优化 - DeepSeek模型中文理解超强

✅ 零成本 - 全部开源免费

✅ 易扩展 - 支持Word/Excel/Txt等多种格式

️ 准备工具

  1. Windows 10/11系统(8G内存就能跑)

  2. Ollama(本地大模型引擎)

  3. AnythingLLM桌面版(解压即用)

⚡ 4步搞定

1️⃣ 安装Ollama

官网下载安装包:Ollama官网
请添加图片描述

双击安装后(只能安装C盘但是可以通过改环境变量可以把模型下载到别的盘符)

win+r输入cmd:

ollama pull deepseek-r1:1.5b

ollama pull deepseek-r1:7b

ollama pull deepseek-r1:8b

请添加图片描述
请添加图片描述

根据电脑配置选择模型参数

请添加图片描述

2️⃣ 下载AnythingLLM桌面版

AnythingLLM官网下载 Windows ZIP包

解压到任意文件夹安装(建议放D盘)
请添加图片描述

3️⃣ 启动知识库

  1. 双击文件夹内的AnythingLLM.exe
    请添加图片描述
    请添加图片描述
    请添加图片描述
    请添加图片描述请添加图片描述

  2. 首次打开会提示配置: -模型选:Ollama 并配置你自己安装的版本 -地址填:http://localhost:11434(默认端口) -然后是下一步,下一步邮箱可以直接跳过然后填一个工作区名字然后就可以用了

4️⃣ 导入你的资料 直接拖文档到窗口,等进度条读完 选中上传的文档添加到工作区就可以完成 了
请添加图片描述
请添加图片描述

效果实测

▸ 问:“2024年巴黎奥运会各国获得的奖牌数量?” → 直接定位到原文显示

注:deepseek 训练截止到23年所以他不知道 你可以试试
请添加图片描述

⚠️ 常见问题

❌ 启动失败?→ 检查Ollama是否在后台运行

❌ 模型回答慢?→ 更换更小的模型

❌ C盘不够大?→ 设置环境变量,将用户变量更改到其他盘符,配置系统变量

请添加图片描述

小福利 点赞收藏后私信我,送你本文包含的软件

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐