在AI编程助手日益普及的今天，很多开发者仍然面临一个两难选择：使用云端AI助手（如GitHub Copilot）虽然功能强大，但需要将代码上传到第三方服务器，存在数据隐私风险；而且每月60-600元的费用对个人开发者来说也是一笔不小的开支。

本文将带你一步步搭建一套完全本地、免费、离线的AI编程助手，核心组件只有两个：Ollama（本地运行大模型的服务）和 Continue（IDE插件）。所有代码和对话数据永不离开你的电脑，且完全免费、无任何使用限制。

特性	云端方案	本地方案（Ollama + Continue）
费用	免费版有限额，高级模型收费	完全免费
网络依赖	必须联网	完全离线可用
数据隐私	代码上传至服务器	数据永不离开本机
使用限制	每日次数、并发限制	无任何限制
模型控制	只能使用平台提供的模型	自由选择任何开源模型

一、核心组件介绍

Ollama：本地大模型的“播放器”

Ollama 是一个让你在本地电脑上运行大语言模型的开源框架。它的核心优势在于：

• 完全免费：不需要按月付费订阅，模型本身也是开源免费的
• 隐私安全：所有对话都在本地运行，数据不会上传到任何云端服务器
• 离线可用：下载好模型后，拔掉网线也能正常使用
• 低延迟响应：本地运行带来即时的响应速度，有助于保持编程的“心流”状态

Continue：连接本地模型的IDE插件

Continue 是一款支持 IntelliJ IDEA、VS Code 等主流 IDE 的 AI 编程助手插件。它能够连接 Ollama 提供的本地模型，为你提供代码补全、智能对话和代码修改等能力。

二、安装 Ollama

macOS

1. 访问 ollama.com，点击 “Download for macOS”
2. 将下载的 .zip 文件解压，把 Ollama 图标拖入“应用程序”文件夹
3. 在“应用程序”中双击打开 Ollama，顶部菜单栏会出现一个小羊驼图标，表示运行成功

如果你习惯使用 Homebrew，也可以执行：

brew install ollama

Windows

1. 访问 ollama.com，点击 “Download for Windows”
2. 双击安装包，一路点击 “Next” 直到完成
3. 安装结束后，Ollama 会在后台自动运行，可在系统托盘中查看

Linux

打开终端，执行以下命令：

curl -fsSL https://ollama.com/install.sh | sh

验证安装

安装完成后，打开终端执行：

ollama --version

如果能正常显示版本号，说明安装成功。

三、选择合适的模型

选择模型时，硬件（显存/内存）是第一道筛选器。以下是不同硬件配置下的模型选择建议：

按硬件配置推荐

硬件配置	推荐模型	参数量	量化后大小	说明
8GB 内存	qwen2.5-coder:1.5b	1.5B	~1 GB	轻量代码补全，响应极快，Continue官方推荐
	qwen3.5:2b	2B	~1.9 GB	综合代码助手，能力更强
	phi3:3.8b	3.8B	~2.3 GB	微软出品，轻量高效
8-16GB 内存	qwen2.5-coder:7b	7B	~4.5 GB	最佳平衡之选
	deepseek-coder:6.7b	6.7B	~3.8 GB	代码能力强，性价比高
	llama3.2:3b	3B	~2.0 GB	Meta出品，通用性好
	starcoder2:7b	7B	~4.2 GB	专为代码训练
16-32GB 内存	qwen2.5-coder:14b	14B	~9 GB	高质量代码生成
	deepseek-coder-v2:16b	16B	~9-10 GB	在编程基准上表现优异
	codestral:22b	22B	~13 GB	Mistral出品，代码能力强
32GB+ 内存	qwen2.5-coder:32b	32B	~18 GB	顶级代码模型

量化版本说明：Ollama 模型名称中的 q4_0、q5_k_m 等标签表示量化程度。q5_k_m 是质量和性能的平衡点，q4_0 体积更小但质量略降。推荐优先使用 q5_k_m 版本。

按使用场景推荐

使用场景	推荐模型	理由
代码补全（Autocomplete）	qwen2.5-coder:1.5b	官方推荐，响应快，资源占用低
日常编码助手（Chat）	qwen2.5-coder:7b	代码生成和解释能力均衡
复杂推理与Agent	deepseek-coder-v2:16b	工具调用能力强
多语言支持	codestral:22b	Mistral出品，多语言覆盖好
写代码首选	qwen2.5-coder 系列	覆盖0.5B到32B全尺寸，编程场景口碑最稳

下载模型

在终端中执行以下命令（以 qwen2.5-coder:1.5b 为例）：

ollama pull qwen2.5-coder:1.5b

重要提示：始终使用 ollama pull 来下载模型，ollama run 会启动交互式会话，不是 Continue 所需的。模型名称必须与 Ollama 官方页面上的标签完全一致。

确认服务正在运行

Continue 需要 Ollama 的 HTTP API 服务常驻运行（默认地址为 http://localhost:11434）。用以下命令确认：

curl http://localhost:11434

如果返回 “Ollama is running”，说明 API 服务已就绪。

四、安装 Continue 插件

方法一：从插件市场安装（推荐）

1. 打开 IntelliJ IDEA，进入 Preferences/Settings（macOS：Cmd+,，Windows/Linux：Ctrl+Alt+S）
2. 导航到 Plugins，点击 Marketplace
3. 搜索 Continue，点击 Install
4. 安装完成后重启 IntelliJ IDEA

方法二：从磁盘安装（备选）

如果插件市场搜索不到，或需要安装特定版本：

1. 访问 JetBrains 插件市场 Continue 页面，点击 Get 下载 .zip 文件
2. 在 IDEA 中进入 Settings/Preferences → Plugins
3. 点击齿轮图标（⚙️），选择 Install Plugin from Disk...
4. 选中下载的 .zip 文件，点击确认并重启 IDE

五、配置 Continue 连接 Ollama

安装完成后，需要让 Continue 知道如何连接到 Ollama 和已下载的模型。

1. 在 IDEA 右侧边栏点击 Continue 图标
2. 点击底部的齿轮图标（⚙️），选择 Open Config
3. 这将打开 ~/.continue/config.json 配置文件

将配置文件内容替换为以下内容：

{
  "models": [
    {
      "title": "本地代码助手",
      "provider": "ollama",
      "model": "qwen2.5-coder:1.5b",
      "apiBase": "http://localhost:11434"
    }
  ],
  "tabAutocompleteModel": {
    "title": "本地自动补全",
    "provider": "ollama",
    "model": "qwen2.5-coder:1.5b",
    "apiBase": "http://localhost:11434"
  }
}

关键提示：model 字段的值必须与 ollama list 命令输出的名称完全一致。

使用自动检测（Autodetect）

Continue 支持自动检测已安装的 Ollama 模型：

models:
  - name: Autodetect
    provider: ollama
    model: AUTODETECT
    roles:
      - chat
      - edit
      - apply
      - rerank
      - autocomplete

设置后，Continue 会动态列出本地已安装的所有模型。

高级配置：设置上下文长度

如果遇到内存不足的问题，可以降低上下文长度：

{
  "models": [
    {
      "title": "本地代码助手",
      "provider": "ollama",
      "model": "qwen2.5-coder:1.5b",
      "apiBase": "http://localhost:11434",
      "defaultCompletionOptions": {
        "contextLength": 4096
      }
    }
  ]
}

六、三种核心模式：Chat、Plan、Agent

Continue 提供了三种交互模式，分别对应不同风险等级与操作权限：

模式	工具权限	功能	适用场景
Chat（聊天）	无工具	纯对话交流	询问概念、解释代码、生成片段
Plan（规划）	只读工具	安全探索和规划	分析代码库、制定执行方案
Agent（执行）	所有工具	自主执行代码修改	多步骤复杂任务、自动化重构

Chat 模式：纯对话交流

无工具可用，仅进行对话。适合：

• 询问代码概念和最佳实践
• 请求生成代码片段
• 解释现有代码逻辑
• 技术问题咨询

Plan 模式：只读规划

仅可使用只读工具，AI 被限制在只能观察和分析你的代码库，而不会进行任何更改。Plan 模式的核心原则是 “先理解，再行动”（understand before you change）。

Plan 模式可用的只读工具包括：

• 读取文件 (read_file)
• 读取当前打开的文件 (read_currently_open_file)
• 列出目录 (ls)
• 全局搜索 (glob_search)
• 代码搜索 (grep_search)
• 获取URL内容 (fetch_url_content)
• 查看差异 (view_diff)
• 查看仓库地图 (view_repo_map)

Plan 模式弥合了 Chat（无工具）和 Agent（所有工具）之间的差距，适合需要 AI 辅助探索代码库、制定执行方案，但希望完全控制实际代码更改的场景。

Plan 模式的典型使用场景：

• 代码库探索：导航陌生系统，追踪数据流
• 实施规划：映射依赖关系，规划复杂变更
• 问题调查：追踪执行路径，分析根本原因
• 架构分析：评估系统健康度，识别瓶颈

Agent 模式：自动执行

所有工具均可用，包括读写和执行类工具。Agent 模式为聊天模型配备了处理各种编码任务所需的工具。

除了 Plan 模式的只读工具外，Agent 模式额外包含：

• 创建新文件 (create_new_file)
• 编辑现有文件 (edit_existing_file)
• 运行终端命令 (run_terminal_command)
• 创建规则块 (create_rule_block)

权限控制：默认情况下，Agent 模式在执行工具调用前会请求用户确认，点击 Continue 允许执行，或点击 Cancel 拒绝。

如何切换模式

你可以在聊天输入框下方的模式选择器中切换，也可以使用快捷键 Cmd/Ctrl + . 快速循环切换。

提示：如果 Agent 模式或 Plan 模式显示 “Not Supported”，说明所选模型不支持工具调用（Function Calling）。建议切换到 Chat 模式使用，或更换支持工具调用的模型（如 deepseek-coder-v2:16b、qwen2.5-coder:7b 等）。

七、常见问题与故障排除

1. Continue 显示 “Failed to connect to Ollama”

原因：Ollama 服务未启动。

解决：

• 检查菜单栏是否有 Ollama 的羊驼图标
• 或在终端执行 ollama serve 手动启动服务
• 确认 http://localhost:11434 可访问

2. Agent 模式显示 “Not Supported”

原因：所选模型不支持工具调用（Function Calling）。

解决：

• 切换到 Chat 或 Plan 模式使用
• 或更换支持工具调用的模型（如 deepseek-coder-v2:16b、qwen2.5-coder:7b 等）

3. 模型名称不匹配

原因：配置文件中的模型名与 ollama list 输出的名称不一致。

解决：

1. 执行 ollama list，复制完整的模型名称
2. 在 config.json 中粘贴完整名称

4. IDE 卡顿或内存不足

原因：模型推理消耗大量资源，或上下文长度设置过高。

解决：

• 换用更小的模型（如从 7B 降到 1.5B）
• 在配置中降低 contextLength（如从默认值降到 2048 或 4096）
• 确保 Ollama 服务已正常启动

5. 补全延迟过高

原因：模型加载策略或硬件性能限制。

解决：

• 使用更小的模型（如 qwen2.5-coder:1.5b）
• 在 tabAutocompleteModel 中设置 "temperature": 0.15 和 "maxTokens": 128
• 避免使用会"思考"的模型（thinking-type models），它们生成速度较慢

八、总结

通过 Ollama + Continue 的组合，你可以在本地搭建一套完全免费、数据私密、离线可用的 AI 编程助手。根据你的硬件配置选择合适的模型，再配合 Continue 的三种模式——Chat（学习）、Plan（规划）、Agent（执行）——即可构建一个完整的本地 AI 开发工作流。

快速回顾

1. 安装 Ollama → 下载并启动服务
2. 选择并下载模型 → 根据硬件配置选择合适的模型
3. 安装 Continue → 从 JetBrains 插件市场安装
4. 配置连接 → 编辑 ~/.continue/config.json
5. 选择模式 → 根据任务选择 Chat / Plan / Agent
6. 开始使用 → 享受本地 AI 编程的便利

延伸阅读

• Ollama 官方文档
• Continue 官方文档
• Ollama 模型库

---

本文配置基于 IntelliJ IDEA 2026.1.5、Ollama 0.32.11 和 Continue 1.0.67，不同版本可能会有细微差异。

发布日期：2026-08-17