大模型底层逻辑：优势局限与天生短板
博主介绍
👨💻 了解博主：波仔椿
📖 人生箴言：技术落地，方为 AI 正道。
🧰 我的专栏：普通人可落地的 AI 提效实战
文章内容
上个月跟一个做律师的朋友吃饭，他跟我吐槽了一件事。
他接了一个劳动争议的案子，想先让AI帮忙梳理一下相关法律条文。AI哗哗哗给他输出了一大段，条理清晰、逻辑严密，连法条编号都精确到了第几条第几款。他一看，觉得挺靠谱，正准备拿去用，结果他助理多了个心眼，去法库里逐条核对了一下——好家伙，三条引用里两条压根不存在，完全是AI编的。
他当时跟我说：“这玩意儿回答得太自信了，要不是查了一下，我真就信了。”
这件事让我想了很久。现在身边的人聊AI，态度基本是两个极端：要么觉得AI无所不能，写文案、做PPT、写代码，人类马上就要被替代了；要么觉得AI就是个高级点儿的搜索引擎，聊胜于无，用不用差别不大。
两种看法都不对。
我后来想了很久才想明白这件事——问题不在于AI强不强，在于我们根本不知道它"哪儿强、哪儿弱"，就像一个你不太熟的同事，你既不知道他的拿手活，也不知道他会在什么事上掉链子。
所以今天这篇文章，我想聊聊大模型底层的那套东西：它凭什么这么能打，又有哪些毛病是娘胎里带的、怎么都改不掉的。
一、四个拿手活：大模型凭什么这么快进入普通人的生活
我有个做运营的同事，以前她的电脑桌面上摆满了各种软件图标：翻译用这个、修图用那个、写文案又得切另一个。她跟我抱怨过，学这些工具比干活本身还累。
但这一年多，她桌面变干净了。不是她不上进了——是她发现大部分事，一个对话框就搞定了。
这事让我开始认真琢磨：同一个AI工具，怎么能同时干翻译、修图、写文案这些完全不搭边的事？传统工具可都是各管各的。答案其实在大模型底层那套"通用学习"的机制上。
说白了，传统AI工具是"一招鲜"，专门为某一个任务训练的，换个场景就废了。大模型不一样，它是个"通才"——它不是学怎么写文案、怎么修照片的，它是学"怎么理解人的意思"的。你让它干嘛，它就去匹配对应的能力。
除了"什么都能干"，大模型还有一个让我特别服气的地方——进化速度。
我记得去年年初第一次用某个国产大模型，让它帮我写一段产品介绍，出来的东西干巴巴的，翻来覆去就是那几句套话。我当时心想，也就这样了。结果半年后再用，同样的需求，它开始会用比喻了，会分析目标用户了，甚至还主动问我"面向的是企业客户还是个人用户"。
你如果一直不用、隔了半年再去试，会有一种"这已经不是同一个东西了"的感觉。传统的软件，一年更新一个大版本就算勤快了，大模型是每天都在进步。
上次我表姐问我一个生物方面的问题——她班上一个学生问的，关于什么酶的作用机制，她一个语文老师怎么答得上来。她把问题丢给AI，AI从酶的化学结构讲到人体代谢路径，从头到尾逻辑自洽，还自动把专业术语翻译成了初中生能听懂的话。
她跟我说：“我感觉我面前站着一个生物学博士。”
这件事让我想到大模型的第三个核心优势——知识储备。它不是记性好，是"读"得多。
| 对比维度 | 传统工具 | 大模型 |
|---|---|---|
| 使用方式 | 一个工具干一件事 | 一个对话框解决多种需求 |
| 学习门槛 | 每个软件都要学操作 | 会说人话就能用 |
| 迭代速度 | 半年到一年一个大版本 | 几周到几个月就有明显变化 |
| 知识范围 | 限定在预设领域 | 覆盖几乎所有公开知识领域 |
| 创作方式 | 模板填充，机械拼接 | 理解意图后自由生成 |
至于第四个优势——高效创作，说实话，写这篇文章本身就是例子。以前写一篇这个长度的技术文章，我得先列提纲、查资料、打草稿、反复改，没个三五天根本出不来。现在呢？我脑子里有思路，剩下的组织、润色、查漏补缺，AI能帮我省掉至少七成的"搬砖时间"。
但别急着下结论——优势讲完了，接下来才是重点。正因为大模型这套底层机制，它也带着一堆"治不好的毛病"。
二、四个治不好的毛病：大模型身上那些改不掉的"出厂设定"
继续说我那个律师朋友的事。
AI给他编了两条不存在的法条，这件事让他差点在客户面前翻车。他后来问我：“为什么它能编得那么像？连措辞、句式、编号格式都跟真法条一模一样。”
答案其实不复杂：大模型的工作方式决定了它一定会出现幻觉。
我后来终于搞懂了一件事：大模型不是"思考"出答案，是"算"出答案。它看着你提的问题，在脑子里过一遍——“根据我的训练数据，下一个字大概率是什么？再下一个字呢？“它追求的不是"说得对”，是"说得顺”。
我把四个最常见的毛病拉了个表：
| 毛病 | 表现 | 我身边的真实例子 |
|---|---|---|
| AI幻觉 | 自信地输出不存在的信息 | 律师朋友遇到的法条编造 |
| 逻辑断裂 | 复杂推理容易翻车 | 让AI算一笔涉及多重折扣的订单，中间步骤直接跳错 |
| 知识滞后 | 不知道训练截止后发生的事 | 问它上个月的某政策变化，它一本正经回答旧政策 |
| 价值观缺失 | 缺乏人情味和道德判断 | 让它评价一首表达丧子之痛的诗，它从"韵律工整度"开始分析 |
第二个毛病——逻辑推理薄弱——我上个月刚踩过坑。我给AI发了一组销售数据，让它分析"为什么第二季度华北区业绩下滑"。它给我的分析看起来头头是道：市场竞争加剧、客户预算缩减、产品定价偏高……每一条都有模有样。
但我实际去翻了一下原始数据，发现华北区Q2有一个大客户合同正好在季度末才签下来，只是没计入当期统计。等合同入账后，华北区的数据是增长的。AI根本没发现这个问题，它只是把所有"可能导致业绩下滑"的原因拼凑了一遍。
后来我就养成了一个习惯——AI给的分析结论，我会先反问一句："你凭什么这么说？“它答不上来的时候，大概率就是在"造句"而不是在"推理”。
第三个问题，知识滞后性，是最容易让人掉以轻心的。有次我一个朋友问我："上周北京新出的那条购房政策，影响大不大？"她很自然地打开AI去问，AI也很自然地回答了一通——但回答的是半年前的旧政策。如果你不了解这个领域，根本看不出问题。
第四个短板——价值观判断的缺失——听起来很抽象，我说个具体的你就明白了。之前网上流传过一个测试：让AI评价一首描述丧亲之痛的诗。人类的反应是"心里一紧、鼻子一酸"，AI的反应是"这首诗运用了比喻和排比的修辞手法，情感表达较为充分"。不是AI冷血，是它根本没有"悲伤"这个概念，它只能识别文字模式。
三、幻觉这件事：为什么AI会"一本正经地胡说八道"
在四个毛病里，幻觉是最普遍、也最容易让人翻车的。我想单独拿出来多聊几句。
很多人不理解：AI不是号称读了全网的知识吗？为什么还会编造不存在的东西？
这里有一个关键认知——大模型的工作方式，跟我们人类完全不一样。
你问我"昨天中午吃了什么"，我会回忆一下，然后告诉你"吃的是面条"。我会调取真实的记忆，哪怕记不清，也不会凭空编一个"吃了满汉全席"。
大模型不是这样的。它没有"记忆"这回事。你问它一个问题，它做的事是：看你的问题，然后在海量的训练数据中，计算"按照人类的语言习惯，下面最应该接什么词"。
举个例子。你问它：“请引用《民法典》第1043条。”
它如果训练数据里刚好有这一条的原文，那它就输出原文。但如果它的训练数据里没有这一条，或者数据质量不好——它不会说"我不知道"，它会"造"一条出来。因为从概率上讲，"看起来像法条的句子"比"我不知道"更符合它学到的回答模式。
这个机制注定了，幻觉是大模型从娘胎里带来的毛病，不可能彻底根治——当然，不是完全没招。
目前最有效的方法叫RAG。名字很唬人，但道理不难——给AI配一本"标准答案书"。你问它问题，它先不靠自己那套概率算法瞎猜，而是先去翻这本书，找到相关内容，再基于书上的内容来回答。
这就好比，你问一个刚入职的新同事"公司的报销流程是什么"，与其让他凭感觉猜，不如给他一本员工手册让他照着说。
你想想这个区别：没配RAG的AI是在"裸考"——全凭训练数据里记住的东西；配了RAG的AI等于"开卷考试"——可以翻参考资料。哪个更靠谱，不用我说。
除了RAG，还有几个常用的手段：
- 垂直场景微调：给通用大模型喂大量某个行业的真实数据，就像给一个"全科医生"补了心脏外科的专项训练。
- 人工对齐：让人类标注员告诉AI哪些是对的、哪些是错的，反复纠正。
- 主动承认不知道：现在主流大模型遇到确实不清楚的问题，会直接说"暂无相关信息"，不再硬编。
不过丑话说在前头——这些方法是"降低"幻觉概率，不是"消灭"幻觉。你用AI的时候，永远要保留一分怀疑，尤其是涉及事实、数据、条款的内容。
四、说到底，AI是个工具——别神化，也别小瞧
聊完优势和短板，我想说一个最根本的认知——很多人用不好AI，不是技术问题，是定位问题。
要么觉得AI什么都能干，扔给它一个模糊的需求，指望它给出完美答案，结果发现到处都是坑，转头就说"AI不过如此"。要么觉得AI就是个花架子，PPT做得还行，正经事一件干不了，从来不去试。
这两种态度，说到底是同一个毛病——没搞清楚人和AI的分工。
| 工作类型 | 谁更适合 | 为什么 |
|---|---|---|
| 文案初稿、会议纪要整理 | AI | 机械重复，耗时但不需要深度思考 |
| 数据筛选、信息检索 | AI | 速度快、覆盖面广 |
| 最终决策、核心判断 | 人 | 需要担责任、需要综合考量 |
| 原创创意、战略规划 | 人 | 需要跨领域联想和突破性思维 |
| 情感沟通、价值判断 | 人 | 需要共情、需要道德底线 |
| 代码初稿、翻译草稿 | AI | 效率碾压，质量尚可 |
| 终稿审核、专业校验 | 人 | 需要专业经验做最后把关 |
我现在的习惯是：让AI干"第一遍"——初稿、初筛、初排——自己干"最后一遍"——审核、把关、定调。这样一来，AI帮我省掉了最磨人的"搬砖"环节，我保留了最核心的"拍板"权力。
说一个我自己的变化。
以前看到AI出的内容，尤其是那种看起来特别专业、特别有逻辑的，我会下意识觉得"应该没问题"。但经历了律师朋友那件事、经历了数据分析翻车、经历了政策信息滞后之后，我现在养成了一个条件反射——AI给的任何内容，只要涉及事实判断，我先默认它是"初稿"，必须交叉验证一遍才敢用。
这不是不信任AI。恰恰相反，我觉得这才是真正用好了AI——你知道它的边界在哪，你就不会在边界外头摔跟头。
五、写在最后
这篇文章聊了很多"AI的毛病"，可能有人会觉得我是在唱衰AI。
不是的。
恰恰因为我每天都在用AI，我才想说这些。一个工具，你越了解它的短板，你越能用好它的长处。怕的不是工具有毛病，怕的是你不知道它有毛病，然后在最关键的地方翻了车。
大模型这波浪潮，跟之前任何一次技术革命都不一样——它门槛太低了。一个50多岁的普通中年人，不用学任何操作，对着手机说句话就能用。这是好事，但也意味着，更多的人会在"不了解"的情况下使用它。
我希望你看完这篇文章后，下次打开AI对话框的时候，脑子里不再是"它能帮我做什么"，而是多了一个问题：“它可能会在什么地方出错？”
最后我想说——AI不缺崇拜者，也不缺唱衰者，它缺的是愿意花时间搞清楚它"到底是个什么东西"的人。你读到这里，已经是其中之一了。
精彩推荐
本篇博客文章唯一版权归属©波仔椿
汇聚全球AI编程工具，助力开发者即刻编程。
更多推荐
7
0- 0
已为社区贡献7条内容
所有评论(0)