你先知道一件事

如果你以后想做 AI 工程，迟早要面对一个事实：大模型并不是一个稳定、精确、永远听话的函数。

为什么这一步重要

你给同样的问题，它未必每次都答得一样。你觉得它应该懂的，它有时候会胡说。你明明要求输出一个固定格式，它偶尔还是会跑偏。

这就是为什么，零基础入门 AI 工程时，最该先理解的不是训练细节，而是模型行为。

今天你至少要把几个核心概念建立起来。

第一是 token。你可以先粗略理解成模型处理文本时的计量单位。上下文能塞多少内容、一次调用大概花多少钱，最后都和 token 有关系。

第二是上下文窗口。它决定模型一次最多能“看到”多少内容。很多回答变差，不是模型突然变笨，而是你给它的信息太多、太散，真正重要的部分被淹没了。

第三是采样参数，比如温度。温度越高，回答通常越发散；温度越低，输出通常越稳。不是所有场景都要追求创意，很多工程场景更需要稳定。

第四是角色分工。system prompt 通常负责定义规则和边界，user prompt 负责提出任务。你越早理解这层分工，后面写 Prompt 越容易稳定。

它会幻觉，也就是在不知道时一本正经地胡说。

它会不完全遵守指令，尤其是在要求很多、约束很杂的时候。

它会格式不稳定，明明让它输出 JSON，它却夹带自然语言。

它会在长上下文里忘记前面关键信息。

这些并不是“偶发 Bug”，而是你以后做 AI 工程时必须持续对付的现实。

常见误区

还有一个非常重要的部分，是认识大模型常见的失败方式。

它也可能在工具调用场景里做出错误判断。

今天要做的 3 件事

• 今天最好的练习方法，不是死记概念，而是亲自观察。你可以准备同一个问题，用不同提示方式、不同温度、不同长度上下文去试，看看输出差别。
• 你会慢慢意识到，AI 工程师很大一部分工作，其实就是在管理不确定性。

今天的最低产出

• 写一份自己的大模型基础笔记，把上面这些概念用你能理解的语言重新解释一遍。

一句提醒

只要你理解了模型的脾气，后面学 Prompt、工具调用和 RAG 时，才不会总把问题归咎于“是不是我不够懂算法”。