QDKT第12次作业点评&直播答疑
一、课程核心概览
- 学习内容:RAG 原理零基础讲解 + RAG 模拟 API 请求正确写法 + 作业高频错误避坑 + 大模型无法真正推理的核心原因
二、RAG 核心知识
1. 什么是 RAG?
大白话定义:
大模型本身会「忘知识、胡说八道(幻觉)」,RAG 就是先帮大模型搜资料→把资料直接拼给它→让它只按资料回答。
2. RAG 的本质(必记)
RAG ≠ 向量数据库!
向量库只是「搜资料」的一种工具,只要是「检索信息 + 拼接上下文给大模型」,全都是 RAG。
比如:用搜索引擎查资料、调历史对话、查技能库,逻辑全是 RAG。
3. RAG 的核心目的
解决大模型两大问题:知识过时、回答幻觉(瞎编)。
三、第 12 课作业要求
作业题目
构造大模型 API 请求的 JSON 格式,模拟 RAG 的工作过程
考察重点
你是否理解:RAG 的核心是给大模型「拼接检索后的上下文」,而不是瞎写 API 参数。
四、RAG 模拟 API 请求 正确构造方法
1. 先记死:大模型 API固定角色(绝对不能自定义!)
主流模型(Kimi/Deepseek/OpenAI)只认 3 个基础角色,新手只用前 2 个:
- system:系统提示词 → 只定身份(固定不变)
- user:用户输入 → 放检索资料 + 用户问题(核心变量)
- assistant:模型回复 → 是模型返回的结果,请求里不用自己写
2. 标准构造步骤
- system 位:只写身份,不塞任何可变资料
- user 位:先放「检索到的参考资料」→ 再放「用户问题」(用分隔符分开更清晰)
- 不自定义角色、不瞎加 API 参数、不暴露 API Key
3. 正确示例(直接复制改内容就能用)
|
json |
五、RAG 作业 高频错误 + 避坑指南(零基础必看)
错误 1:把参考资料塞进 system 里(最常见)
- 错误原因:system 是固定缓存位,塞可变资料会导致KV Cache 无法命中,工程上费钱、变慢、难维护。
- 正确做法:所有检索资料必须放 user 位。
错误 2:自定义 API 角色 / 参数(如 rag_meta、PP2.5、自创 role)
- 错误原因:官方 API 只认固定角色,自定义参数模型识别不到、直接报错。
- 正确做法:只用system/user/assistant,严格按官方文档写参数。
错误 3:用 assistant 位放检索资料
- 错误原因:assistant 是模型回复位,强行塞资料会让模型产生幻觉(以为自己会检索,实际没有工具)。
- 正确做法:资料只能放 user 位。
错误 4:API 里没放 RAG 检索资料
- 错误原因:没理解 RAG 核心是「给模型喂资料」,等于没做 RAG 作业。
- 正确做法:user 位必须包含检索到的参考资料。
错误 5:放链接当资料(以为模型能自己读链接)
- 错误原因:大模型无法直接读取网页 / 文档链接,链接里的内容模型完全看不到。
- 正确做法:把链接里的文字内容复制出来,粘贴到 user 位。
错误 6:直接用 AI 代写作业
- 错误原因:AI 写的是套话,你自己没理解,知识永远记不住。
- 正确做法:用自己的话写,哪怕简单,也是自己的理解。
错误 7:公开截图暴露 API Key
- 错误原因:API Key 泄露会被盗刷,产生高额费用。
- 正确做法:截图前打码 / 隐藏 API Key,绝不公开。
六、第 3 课核心:大模型为什么无法实现「真正推理」?
先明确结论
大模型的思考、纠错、推理全是模仿表演,不是真正的主动思考!
核心原因 1:生成机制是「单向逐词预测」,一往无前不回退
- 大模型是一个词一个词往后生成,生成后就不能修改、不能回头纠错。
- 真正的推理:人思考到一半发现错了,会回头改、补信息;大模型做不到,只能一路生成到底。
核心原因 2:本质是「统计概率匹配」,不是「理解因果」
- 大模型靠训练语料的概率规律生成内容,是「照猫画虎」。
- 真正的推理:基于概念理解、逻辑因果、主动推导;大模型没有主动思考能力。
核心原因 3:「反思 / 纠错」是微调出来的表演
- 比如 Deepseek R1 的「先错后改」,是微调语料里写好了固定格式,模型只是模仿,不是真的发现错误。
核心原因 4:大模型「不知道自己不知道」
- 大模型没有自我认知,超出知识范围会直接瞎编,不会说「我不会」。
补充:大模型为什么看起来会推理?
靠思维链(COT)、RAG、微调模仿人类推理的格式,本质还是概率生成,不是真思考。
七、优秀作业标准(照着写就能拿高分)
1. RAG 作业优秀标准
- 角色只用system/user,无自定义参数
- system 只定身份,资料全放 user
- 包含「参考资料 + 用户问题」,结构清晰
- 无 API Key 泄露、无无效链接
- 自己手写,不是 AI 代写
2. 推理作业优秀标准
- 用自己的话解释,不抄 AI 套话
- 抓住核心:单向生成、概率模仿、不回退
- 结合大模型生成原理,不空谈定义
八、学习方法建议
- 不抄作业、不直接用 AI 代写:自己写,哪怕错,才能真正理解
- 记死 API 固定角色:别自定义,按官方规则来
- RAG 核心口诀:搜资料→拼 user 上下文→喂给大模型
- 推理核心口诀:大模型只生成不思考,单向走到底不回头
- 多动手实操:自己写 JSON API 请求,测试是否能跑通
- 提升思维:多读书、多交流、多反思,不做只会打杂的产品人
更多推荐

所有评论(0)