Ollama介绍

Ollama 是一款轻量、易用的本地大模型运行工具，支持在 macOS、Linux、Windows 多系统部署，无需复杂配置，就能快速运行各类主流大模型，适合新手入门和开发者快速调试。它简化了大模型的下载、安装与运行流程，同时支持云端模型联动、网络共享、模型存储路径自定义等实用功能，兼顾便捷性与灵活性。

安装

Ollama 支持三大主流操作系统，下载安装流程简洁，可通过官网直接下载，也可通过命令行快速安装，具体步骤如下：
官方下载链接：Ollama 下载，打开后可根据自己的操作系统（Windows/macOS/Linux）选择对应版本下载。

Linux/macOS 系统可直接通过以下命令一键安装，无需手动下载安装包：

curl -fsSL https://ollama.com/install.sh | sh

Windows 系统下载安装包后，双击运行即可完成安装，全程默认下一步即可，安装完成后可直接启动 Ollama。

大模型选型

选择大模型下载路径：

Ollama 支持多种主流大模型，涵盖编码、推理、多模态、翻译等不同场景，根据主机硬件配置和自身需求选择合适的模型，下载安装流程简单，去官网找相关大模型配置信息：模型信息，并执行指令安装。
参数模型及对比

新手推荐几款易上手、轻量化的模型，适配不同需求：

• qwen3.5：阿里开源多模态模型，性能出色，支持 0.8b~122b 多种参数版本，其中 qwen3.5:2b 轻量化，适合新手入门、日常对话和简单任务。

• gemma4：谷歌推出的前沿模型，支持推理、编码、多模态理解，适配多种场景，稳定性强。

• lfm2.5-thinking：专为本地部署设计的混合模型，轻量化（1.2b 参数），推理高效，适合边缘设备部署。

ollama run qwen3.5:2b

窗口使用

选择相关模型，并轻量使用。

可在设置中调整上下文长度（4k~256k），控制模型记忆对话内容的长度，适配不同场景需求。

常用指令

# 查看版本
ollama --version
# 查看模型
ollama list
# 启动服务
ollama serve
# 关闭服务
ollama stop
#下载模型
ollama pull deepseek-r1:1.5b
#删除模型
ollama rm deepseek-r1:7b