人工智能大火，方向非常多，算法、大模型应用，rag(Retrieval-Augmented Generation)(检索增强生成)等，rag相对来说更近更好实现。
可以增加工作的机会和薪资的筹码。

1、先安装ollama。
2、cmd命令行安装两个模型(对话模型、嵌入模型)

# 1. 下载对话模型 (推荐 qwen2.5:7b 或 llama3.1:8b，中文能力 qwen 更好)
ollama run qwen2.5:7b

# 2. 下载嵌入模型 (用于将文档转化为向量，nomic-embed-text 是目前轻量级中效果最好的之一)
ollama pull nomic-embed-text

3、下载软件：
下载桌面版安装包（Windows/Mac/Linux)，安装并打开。
地址：https://anythingllm.com

它会根据配置为你选择最合适的模型，例如之前下载的qwen2.5:7b，这里可能还会下载最新的适配电脑配置的大模型。

4、连接 Ollama：
首次启动会进入设置向导。
LLM Provider 选择：Ollama。
Embedding Provider 选择：Ollama (这里就会自动调用你刚下载的 nomic-embed-text)。
点击保存/检测，它会自动列出你本地的模型。

5、创建知识库 (Workspace)：

• 点击 “New Workspace”，起个名字（比如 “MyDocs”）。
• 进入工作空间后，找到 “Documents” 标签页。
• 拖入你的文件（PDF, TXT, Markdown, Word 等）。

6、关键一步：向量化 (Embed)：
文件上传后，你会看到文件旁边有个按钮叫 “Move to Workspace” 或者 “Embed”。
点击它！
此时发生了什么？ 软件会调用你刚下载的 nomic-embed-text 模型，把你的文档切成小块并转换成向量存入本地数据库。如果不动这一步，AI 是读不到文档内容的。

7、开始对话：
切换到 “Chat” 标签页。
确保右上角或设置里选中了刚才的 “MyDocs” 工作空间。
输入问题：“总结一下刚才上传的文档”。
成功！ 你现在就是一个拥有本地 RAG 系统的用户了。

ollama是什么?有什么用?

ollama相当于大模型管理工具、交互工具，用起来方便。

anythingLLM是什么?有什么用?

anythingLLM相当于知识库和大模型之间的桥梁。

ollama

ollama性能优化

ollama的端口是哪个?

11434端口。

环境变量和settings哪个优先级高?

配置优先级从高到低
1、命令行参数‌（如 ollama serve --host 0.0.0.0）
‌2、环境变量‌（如 OLLAMA_HOST、OLLAMA_MODELS）
3‌、配置文件‌（位于用户主目录的 .ollama 文件夹中，即 settings）
4‌、系统默认值

ollama环境变量 todo

ollama命令

run和launch有什么区别?

run是运行模型本身。如：ollama run gemma3
launch是启动集成工具或代理系统。 如：ollama launch claude (启动ai编程助手)

ollama命令帮助

cmd命令行输入 ollama -h

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start Ollama
  create      Create a model
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  signin      Sign in to ollama.com
  signout     Sign out from ollama.com
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  launch      Launch the Ollama menu or an integration
  help        Help about any command

Flags:
  -h, --help         help for ollama
      --nowordwrap   Don't wrap words to the next line automatically
      --verbose      Show timings for response
  -v, --version      Show version information

Use "ollama [command] --help" for more information about a command.

文档

git地址： https://github.com/ollama/ollama?tab=readme-ov-file
document地址(从git上也可以看)： https://docs.ollama.com/cli

报错

报错 model requires more system memory (5.6 GiB) than is available (4.9 GiB)

内存不够了。
大模型计算非常消耗内存，即使文件不大，也要占用大量内容。