一、课程核心概览

  1. 学习内容:RAG 原理零基础讲解 + RAG 模拟 API 请求正确写法 + 作业高频错误避坑 + 大模型无法真正推理的核心原因

二、RAG 核心知识

1. 什么是 RAG?

大白话定义
大模型本身会「忘知识、胡说八道(幻觉)」,RAG 就是先帮大模型搜资料→把资料直接拼给它→让它只按资料回答

2. RAG 的本质(必记)

RAG ≠ 向量数据库!
向量库只是「搜资料」的一种工具,只要是「检索信息 + 拼接上下文给大模型」,全都是 RAG
比如:用搜索引擎查资料、调历史对话、查技能库,逻辑全是 RAG。

3. RAG 的核心目的

解决大模型两大问题:知识过时回答幻觉(瞎编)

三、第 12 课作业要求

作业题目

构造大模型 API 请求的 JSON 格式,模拟 RAG 的工作过程

考察重点

你是否理解:RAG 的核心是给大模型「拼接检索后的上下文」,而不是瞎写 API 参数。

四、RAG 模拟 API 请求 正确构造方法

1. 先记死:大模型 API固定角色(绝对不能自定义!)

主流模型(Kimi/Deepseek/OpenAI)只认 3 个基础角色,新手只用前 2 个:

  1. system:系统提示词 → 只定身份(固定不变)
  1. user:用户输入 → 放检索资料 + 用户问题(核心变量)
  1. assistant:模型回复 → 是模型返回的结果,请求里不用自己写

2. 标准构造步骤

  1. system 位:只写身份,不塞任何可变资料
  1. user 位:先放「检索到的参考资料」→ 再放「用户问题」(用分隔符分开更清晰)
  1. 不自定义角色、不瞎加 API 参数、不暴露 API Key

3. 正确示例(直接复制改内容就能用)

json
{
  "model": "kimi",
  "messages": [
    {
      "role": "system",
      "content": "你是专业问答助手,仅依据提供的资料回答,不编造内容"
    },
    {
      "role": "user",
      "content": "参考资料:RAG是检索增强生成,核心是先搜资料再拼上下文给大模型。
用户问题:请用一句话解释什么是RAG?"
    }
  ]
}

五、RAG 作业 高频错误 + 避坑指南(零基础必看)

错误 1:把参考资料塞进 system 里(最常见)

  • 错误原因:system 是固定缓存位,塞可变资料会导致KV Cache 无法命中,工程上费钱、变慢、难维护。
  • 正确做法:所有检索资料必须放 user 位

错误 2:自定义 API 角色 / 参数(如 rag_meta、PP2.5、自创 role)

  • 错误原因:官方 API 只认固定角色,自定义参数模型识别不到、直接报错
  • 正确做法:只用system/user/assistant,严格按官方文档写参数。

错误 3:用 assistant 位放检索资料

  • 错误原因:assistant 是模型回复位,强行塞资料会让模型产生幻觉(以为自己会检索,实际没有工具)。
  • 正确做法:资料只能放 user 位。

错误 4:API 里没放 RAG 检索资料

  • 错误原因:没理解 RAG 核心是「给模型喂资料」,等于没做 RAG 作业。
  • 正确做法:user 位必须包含检索到的参考资料

错误 5:放链接当资料(以为模型能自己读链接)

  • 错误原因:大模型无法直接读取网页 / 文档链接,链接里的内容模型完全看不到。
  • 正确做法:把链接里的文字内容复制出来,粘贴到 user 位。

错误 6:直接用 AI 代写作业

  • 错误原因:AI 写的是套话,你自己没理解,知识永远记不住。
  • 正确做法:用自己的话写,哪怕简单,也是自己的理解。

错误 7:公开截图暴露 API Key

  • 错误原因:API Key 泄露会被盗刷,产生高额费用。
  • 正确做法:截图前打码 / 隐藏 API Key,绝不公开。

六、第 3 课核心:大模型为什么无法实现「真正推理」?

先明确结论

大模型的思考、纠错、推理全是模仿表演,不是真正的主动思考!

核心原因 1:生成机制是「单向逐词预测」,一往无前不回退

  • 大模型是一个词一个词往后生成,生成后就不能修改、不能回头纠错
  • 真正的推理:人思考到一半发现错了,会回头改、补信息;大模型做不到,只能一路生成到底。

核心原因 2:本质是「统计概率匹配」,不是「理解因果」

  • 大模型靠训练语料的概率规律生成内容,是「照猫画虎」。
  • 真正的推理:基于概念理解、逻辑因果、主动推导;大模型没有主动思考能力。

核心原因 3:「反思 / 纠错」是微调出来的表演

  • 比如 Deepseek R1 的「先错后改」,是微调语料里写好了固定格式,模型只是模仿,不是真的发现错误。

核心原因 4:大模型「不知道自己不知道」

  • 大模型没有自我认知,超出知识范围会直接瞎编,不会说「我不会」。

补充:大模型为什么看起来会推理?

思维链(COT)、RAG、微调模仿人类推理的格式,本质还是概率生成,不是真思考。

七、优秀作业标准(照着写就能拿高分)

1. RAG 作业优秀标准

  • 角色只用system/user,无自定义参数
  • system 只定身份,资料全放 user
  • 包含「参考资料 + 用户问题」,结构清晰
  • 无 API Key 泄露、无无效链接
  • 自己手写,不是 AI 代写

2. 推理作业优秀标准

  • 自己的话解释,不抄 AI 套话
  • 抓住核心:单向生成、概率模仿、不回退
  • 结合大模型生成原理,不空谈定义

八、学习方法建议

  1. 不抄作业、不直接用 AI 代写:自己写,哪怕错,才能真正理解
  1. 记死 API 固定角色:别自定义,按官方规则来
  1. RAG 核心口诀:搜资料→拼 user 上下文→喂给大模型
  1. 推理核心口诀:大模型只生成不思考,单向走到底不回头
  1. 多动手实操:自己写 JSON API 请求,测试是否能跑通
  1. 提升思维:多读书、多交流、多反思,不做只会打杂的产品人
Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐