DeepSeek-R1-Distill-Qwen-1.5B新手入门：从镜像拉取到网页对话完整流程

1. 为什么你需要关注这个“小钢炮”模型

如果你正在寻找一个能在自己电脑上流畅运行，还能帮你解决数学题、写代码、回答问题的AI助手，那么DeepSeek-R1-Distill-Qwen-1.5B可能就是你要找的答案。

让我用一个简单的比喻来解释：想象一下，你有一个只有1.5升排量的小汽车，但它却能跑出3.0升大排量汽车的速度和性能。这就是DeepSeek-R1-Distill-Qwen-1.5B的神奇之处——它只有15亿参数（在AI模型里算是很小的体量），但经过特殊训练后，表现能力接近70亿参数的大模型。

最吸引人的是它的部署门槛极低。普通笔记本电脑的显卡就能跑起来，甚至一些性能好点的手机也能运行。这意味着你不需要昂贵的专业设备，就能在本地体验AI对话的乐趣。

2. 准备工作：检查你的电脑环境

在开始之前，我们先确认一下你的电脑是否满足基本要求。别担心，要求并不高。

2.1 硬件要求

这里有两个配置方案，你可以根据自己的设备选择：

基础配置（适合大多数笔记本电脑）

• 显卡：NVIDIA显卡，显存4GB以上（比如GTX 1650、RTX 3050）
• 内存：8GB以上
• 硬盘：至少10GB可用空间
• 系统：Windows 10/11、macOS或Linux

低配方案（实在没有好显卡怎么办） 如果你的显卡显存小于4GB，或者用的是集成显卡，也不用担心。这个模型有专门的优化版本，可以在CPU上运行，只是速度会慢一些。

2.2 软件准备

你需要安装两个软件：

1. Docker Desktop

   • 这是容器化工具，能让我们的部署过程变得简单
   • 访问Docker官网下载对应版本安装即可
   • 安装后记得启动Docker服务

2. Git（可选但推荐）

   • 用来下载一些配置文件
   • 不是必须的，但有了会更方便

安装完成后，打开命令行工具（Windows用PowerShell或CMD，macOS/Linux用终端），输入以下命令检查是否安装成功：

docker --version

如果能看到版本号，说明Docker安装成功了。

3. 三步搞定镜像部署

现在进入正题，我会带你一步步完成整个部署过程。整个过程就像搭积木一样简单。

3.1 第一步：创建项目文件夹

首先，我们在电脑上找个合适的位置创建一个专门用来放这个项目的文件夹。打开命令行，依次输入：

# 创建一个新文件夹
mkdir deepseek-r1-demo

# 进入这个文件夹
cd deepseek-r1-demo

# 在里面再创建几个子文件夹，用来存放不同的文件
mkdir models config logs

这样做的目的是让文件有条理，models文件夹用来放模型文件，config放配置文件，logs放运行日志。

3.2 第二步：编写配置文件

接下来我们需要创建一个配置文件，告诉Docker怎么运行我们的AI模型。

在刚才创建的deepseek-r1-demo文件夹里，新建一个文件，命名为docker-compose.yml。你可以用任何文本编辑器来创建，比如记事本、VS Code等。

文件内容如下：

version: '3.8'
services:
  deepseek-r1:
    image: ghcr.io/deepseek-ai/deepseek-r1-distill-qwen-1.5b:latest
    container_name: deepseek-r1-server
    ports:
      - "7860:7860"   # 网页对话界面端口
      - "8000:8000"   # API接口端口
    volumes:
      - ./models:/models
      - ./logs:/logs
    environment:
      - VLLM_MODEL=deepseek-ai/deepseek-r1-distill-qwen-1.5b-gguf
    restart: unless-stopped

我来解释一下这个配置文件的关键部分：

• ports: "7860:7860"：这是网页对话界面的访问端口，等会儿我们就在浏览器里访问这个端口
• ports: "8000:8000"：这是API端口，如果你想要编程调用模型，就用这个端口
• volumes：把本地的文件夹映射到容器内部，这样模型文件和日志都会保存在你的电脑上

3.3 第三步：启动服务

保存好配置文件后，回到命令行，确保你在deepseek-r1-demo文件夹里，然后输入：

docker compose up -d

这个命令会做以下几件事：

1. 自动从网上下载需要的镜像文件（大约800MB）
2. 创建并启动一个容器
3. 在后台运行所有服务

第一次运行需要下载文件，时间取决于你的网速，一般需要5-15分钟。你可以看到命令行里有下载进度显示。

下载完成后，服务会自动启动。你可以用这个命令查看运行状态：

docker logs -f deepseek-r1-server

如果看到类似这样的输出，就说明启动成功了：

INFO:     Uvicorn running on http://0.0.0.0:8000
INFO:     Open WebUI is ready on http://0.0.0.0:7860

4. 开始你的第一次AI对话

服务启动成功后，就可以开始使用了。有两种使用方式：网页对话和API调用。我们先从最简单的网页对话开始。

4.1 访问网页对话界面

打开你常用的浏览器（Chrome、Edge、Firefox都可以），在地址栏输入：

http://localhost:7860

如果是在同一网络下的其他设备访问，需要把localhost换成运行服务的电脑的IP地址。

4.2 登录系统

第一次访问会看到登录界面，使用以下账号密码：

• 账号：kakajiang@kakajiang.com
• 密码：kakajiang

点击登录后，你就进入了AI对话界面。这个界面设计得很像ChatGPT，用过ChatGPT的朋友会觉得很熟悉。

4.3 和AI模型聊天

现在你可以在底部的输入框里输入任何问题。让我给你一些尝试的建议：

试试数学题

请帮我解这个方程：2x + 5 = 13

试试编程问题

用Python写一个函数，判断一个数是不是质数

试试日常问答

用简单的语言解释什么是区块链

输入问题后按回车，模型就会开始思考并生成回答。你会看到回答一个字一个字地显示出来，就像真人在打字一样。

4.4 界面功能探索

这个网页界面提供了不少实用功能：

• 对话历史：左侧可以看到所有的对话记录，点击就能重新打开
• 新建对话：右上角有“New Chat”按钮，可以开始全新的对话
• 模型设置：虽然我们只有一个模型，但可以调整一些参数
• 导出对话：可以把有趣的对话导出为文本文件

5. 通过代码调用模型（给开发者）

如果你是个开发者，想要在自己的程序里调用这个模型，也很简单。模型提供了标准的API接口。

5.1 最简单的Python调用示例

首先确保你安装了Python的openai库：

pip install openai

然后创建一个Python文件，比如test_api.py，写入以下代码：

from openai import OpenAI

# 初始化客户端，连接到我们本地启动的服务
client = OpenAI(
    base_url="http://localhost:8000/v1",  # 本地服务的地址
    api_key="not-needed"  # 本地服务不需要真正的API密钥
)

# 问一个简单的问题
response = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=[
        {"role": "user", "content": "你好，请介绍一下你自己"}
    ],
    temperature=0.7,  # 控制回答的随机性，0-1之间
    max_tokens=500    # 限制回答的最大长度
)

# 打印回答
print("AI的回答：")
print(response.choices[0].message.content)

运行这个Python脚本，你就能看到模型的自我介绍了。

5.2 处理复杂任务

这个模型特别擅长数学和编程问题。试试这个例子：

response = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=[
        {"role": "user", "content": """请用Python解决以下问题：
有一个列表，包含一些数字：[23, 45, 12, 67, 89, 34]
1. 找出列表中的最大值和最小值
2. 计算所有数字的平均值
3. 创建一个新列表，包含原列表中所有大于50的数字
        
请给出完整的代码和解释。"""}
    ],
    temperature=0.3,  # 降低随机性，让回答更确定
    max_tokens=800
)

print(response.choices[0].message.content)

5.3 流式输出（适合长回答）

如果问题比较复杂，回答会比较长，你可以使用流式输出，让回答一个字一个字显示：

stream = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=[
        {"role": "user", "content": "详细解释一下机器学习中的梯度下降算法"}
    ],
    stream=True,  # 启用流式输出
    max_tokens=1000
)

print("正在生成回答：")
for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

6. 常见问题与解决方案

在使用的过程中，你可能会遇到一些问题。这里我整理了一些常见问题和解决方法。

6.1 服务启动失败怎么办？

问题： 运行docker compose up -d后，服务没有正常启动。

解决步骤：

1. 检查Docker是否在运行
2. 查看详细日志：docker logs deepseek-r1-server
3. 常见原因和解决：
   • 端口被占用：修改docker-compose.yml中的端口号，比如把7860改成7861
   • 显存不足：如果你用的是低配显卡，可能需要使用CPU版本

6.2 网页打不开怎么办？

问题： 浏览器访问http://localhost:7860显示无法连接。

检查清单：

1. 确认服务正在运行：docker ps应该能看到deepseek-r1-server
2. 确认端口正确：检查docker-compose.yml中的端口映射
3. 尝试用IP地址访问：如果是在其他设备访问，需要用运行服务的电脑的IP地址

6.3 回答速度慢怎么办？

问题： 模型回答需要很长时间。

优化建议：

1. 检查电脑资源使用情况，确保没有其他程序占用大量CPU或内存
2. 如果是显卡运行，确保驱动是最新版本
3. 可以尝试调整问题长度，太长的输入会影响速度

6.4 如何保存对话记录？

所有的对话记录都保存在Docker容器内部。如果你想备份，可以定期导出：

1. 在网页界面，选择要导出的对话
2. 点击导出按钮，选择文本格式
3. 或者通过API获取对话历史

7. 进阶使用技巧

当你熟悉基本使用后，可以尝试一些更高级的功能。

7.1 调整模型参数

在API调用时，你可以调整一些参数来改变模型的回答风格：

response = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=[{"role": "user", "content": "写一个关于人工智能的短故事"}],
    temperature=0.9,      # 更高的温度，回答更有创意
    top_p=0.95,           # 核采样参数，控制多样性
    frequency_penalty=0.2, # 降低重复用词
    presence_penalty=0.1,  # 鼓励提到新主题
    max_tokens=300
)

7.2 使用系统提示词

你可以给模型一个“角色设定”，让它按照特定风格回答：

messages = [
    {
        "role": "system", 
        "content": "你是一个友好的数学老师，用简单易懂的方式解释数学概念，适合小学生理解。"
    },
    {
        "role": "user", 
        "content": "什么是勾股定理？"
    }
]

response = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=messages
)

7.3 多轮对话保持上下文

模型能记住对话历史，实现真正的多轮对话：

conversation_history = []

# 第一轮
conversation_history.append({"role": "user", "content": "Python里怎么读取文件？"})
response1 = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=conversation_history
)
conversation_history.append({"role": "assistant", "content": response1.choices[0].message.content})

# 第二轮，基于之前的对话
conversation_history.append({"role": "user", "content": "那怎么写入文件呢？"})
response2 = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-1.5b",
    messages=conversation_history
)

8. 实际应用场景推荐

这个模型虽然体积小，但能力不容小觑。以下是一些适合它的应用场景：

8.1 学习助手

• 数学解题：从小学算术到高中数学都能帮忙
• 编程学习：解释概念、调试代码、写示例
• 语言学习：翻译、语法解释、写作练习

8.2 工作效率工具

• 代码片段生成：快速生成常用代码模板
• 文档总结：提炼长文档的核心要点
• 邮件草拟：帮你写工作邮件

8.3 创意写作

• 故事创作：给定开头，续写故事
• 文案生成：产品描述、广告语
• 头脑风暴：提供创意点子

8.4 技术研究

• 算法解释：用通俗语言解释复杂算法
• 技术对比：比较不同技术的优缺点
• 方案设计：提供技术实现思路

9. 性能优化建议

如果你发现模型运行不够流畅，可以尝试以下优化方法：

9.1 硬件层面优化

1. 确保独显运行：如果是笔记本电脑，插上电源，设置高性能模式
2. 关闭不必要的程序：释放更多内存给模型使用
3. 更新显卡驱动：特别是NVIDIA显卡，保持驱动最新

9.2 软件层面优化

1. 使用量化版本：如果显存紧张，可以使用更小的模型版本
2. 调整批次大小：在API调用时减少同时处理的请求数
3. 合理设置参数：根据任务调整max_tokens，不要设置过大

9.3 使用技巧优化

1. 问题要明确：清晰的问题能得到更准确的回答
2. 适当分段：复杂问题拆分成几个小问题
3. 利用上下文：多轮对话时，模型能记住之前的内容

10. 总结

通过这篇文章，你应该已经掌握了DeepSeek-R1-Distill-Qwen-1.5B的完整部署和使用流程。让我们回顾一下关键要点：

10.1 这个模型有什么特别之处？

这是一个真正的“小身材大能量”的模型。它只有1.5B参数，但对数学和代码问题的处理能力接近7B模型。这意味着你可以在普通的笔记本电脑上运行它，不需要昂贵的专业设备。

10.2 部署过程比想象中简单

整个部署过程其实就是三步：

1. 准备环境（安装Docker）
2. 写配置文件（复制我给的代码）
3. 启动服务（一行命令）

不需要复杂的编译，不需要手动安装各种依赖，Docker帮我们搞定了一切。

10.3 两种使用方式都很友好

你可以通过网页界面像使用ChatGPT一样和它聊天，也可以通过API把它集成到自己的程序里。网页界面适合日常使用和测试，API接口适合开发者构建应用。

10.4 适合哪些人使用？

• 学生：做数学题、学编程、写作业的好帮手
• 开发者：本地代码助手、技术问题咨询
• 研究者：低成本实验平台、算法验证
• 普通用户：日常问答、学习新知识

10.5 开始你的AI之旅吧

现在你已经拥有了一个运行在本地的AI助手。它可能不如ChatGPT-4那么强大，但它完全免费、完全私有、完全在你的控制之下。你可以用它来学习、工作、创作，或者只是好奇地探索AI的能力。

记住，技术工具的价值在于如何使用它。这个模型是一个很好的起点，让你以最低的成本接触和了解大语言模型。从简单的问答开始，逐渐尝试更复杂的应用，你会发现AI技术并不遥远，它就在你的电脑里，随时准备为你提供帮助。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。