大模型与维特根斯坦:语言、意义与智能的边界

一个不懂语言学的工程师训练出了最懂语言的机器。而解释这台机器为何"懂语言"的钥匙,藏在一位去世于1951年的奥地利哲学家手中。

前言

2023年,GPT-4通过了律师资格考试、医学执照考试,能写出令人动容的诗歌,也能在几秒内完成一个初级程序员一周的工作。

然后一个奇怪的问题浮现了:它真的"理解"语言吗?还是在做一种极其复杂的统计模仿?

这个问题,其实在七十年前就有人问过——不是问大模型,而是问人类自己。那个人叫路德维希·维特根斯坦(Ludwig Wittgenstein),20世纪最伟大的哲学家之一,而且他一辈子推翻了两次自己的理论。

本文从维特根斯坦前后期语言哲学的视角,重新审视大语言模型的本质——它是什么,它为什么有效,以及它的边界在哪里。


一、两个维特根斯坦,两种语言观

维特根斯坦的伟大之处在于:他先用一本书回答了"语言是什么",然后又用另一本书证明自己错了。

在深入大模型之前,我们需要先认识两个"版本"的维特根斯坦:

1921 《逻辑哲学论》— 语言是世界的图像,一句话对应一个事实 1929 重返剑桥,开始自我批判 1953 《哲学研究》遗著 — 语言是工具箱,意义在于使用 维特根斯坦思想演变
维度 早期(《逻辑哲学论》) 后期(《哲学研究》)
语言本质 语言是现实的逻辑图像 语言是一种活动,一种"生活形式"
意义的来源 词对应对象,句对应事态 意义即使用——词的意义在其用法之中
核心概念 逻辑原子主义、真值条件 语言游戏、家族相似、规则遵行
理想语言 存在一种完美的逻辑语言 不存在——语言本身就是混乱而丰富的
对大模型的隐喻 Word2Vec / 静态词向量 Transformer / 上下文嵌入

二、早期维特根斯坦:语言是一张"逻辑地图"

2.1 图像论

命题是现实的图像。 ——《逻辑哲学论》4.01

早期维特根斯坦认为,语言之所以能描述世界,是因为语言和世界共享同一种逻辑结构。就像一张地图和它所描绘的地形之间存在结构上的对应关系——语言"描绘"事实,不是通过相似的外形,而是通过相同的逻辑形式

世界 → 事实 → 事态 → 对象
语言 → 命题 → 基本命题 → 名称

映射关系:名称 ⇄ 对象,基本命题 ⇄ 事态,命题 ⇄ 事实

2.2 这和大模型有什么关系?

2013年,Word2Vec 论文发布。人们第一次发现:把词训练成向量后,向量的空间关系竟然编码了语义关系

king − man + woman ≈ queen
Paris − France + Italy ≈ Rome

这几乎是维特根斯坦"图像论"的数学实现:

词嵌入的数学本质

维特根斯坦图像论

对应

逻辑形式 ≈ 向量空间结构

词(名称)

命题(基本命题)

逻辑形式

映射到世界

词(token)

向量(embedding)

向量空间中的位置关系

编码了语义关系

关键洞察:在词嵌入空间中,两个词的"距离"和"方向"本身就构成了该词的意义——这不是靠查字典学到的,而是靠观察无数上下文中这个词的共现模式学到的。这正是维特根斯坦后期要说的东西,但他早期提供的"结构映射"框架,恰好描述了嵌入空间的数学本质。

2.3 早期维特根斯坦解释了什么,又漏了什么

解释了什么

  • 为什么向量运算能做类比推理(结构同构)
  • 为什么 Transformer 的注意力机制能捕捉长程依赖(命题的复合结构)
  • 为什么语言模型能做翻译(不同语言共享逻辑形式)

漏了什么

  • 一个词有多个意思,怎么办?("bank"是银行还是河岸?)
  • 讽刺、隐喻、言外之意怎么算?
  • 为什么同样一句话,在这个场合是好笑的,在那个场合是冒犯的?

早期维特根斯坦自己也意识到了这些问题。于是他推翻了自己。


三、后期维特根斯坦:意义在于使用

把语言看作一种工具,把词语看作工具——这是理解语言的最好方式。 ——《哲学研究》§11

3.1 语言游戏

后期维特根斯坦提出了一个革命性的概念:语言游戏(Sprachspiel / Language-game)

什么意思?语言不是一套静态的"标签系统"(词贴到物体上),而是一种活动——它和人类的具体生活形式交织在一起。下命令、讲笑话、做科学报告、写诗、祷告、讨价还价——这些都是不同的"语言游戏",每个游戏有自己的规则

语言游戏

日常对话

问候寒暄

闲聊八卦

讨价还价

专业领域

科学报告

法律文书

医学诊断

情感表达

诗歌创作

情书

悼词

仪式性语言

婚礼誓言

法庭宣誓

宗教祷告

指令性语言

菜谱

编程

操作手册

3.2 Prompt 工程:一种语言游戏

这就是为什么Prompt 工程有效。

当你写 Prompt 时,你不是在给模型"下命令"——你是在设定一个语言游戏的规则

Prompt 类型 设定的语言游戏 隐含规则
“你是一个资深律师…” 法律咨询游戏 引用法条、严谨推理、免责声明
“用初中生能听懂的语言解释…” 科普教学游戏 避免术语、用类比、举例说明
“用苏东坡的文风写…” 文学模仿游戏 文言节奏、典故、洒脱豪放
“Step by step, let’s think…” 逻辑推理游戏 显式推理链、自我检查
“你是一个毒舌的美食评论家…” 角色扮演游戏 讽刺语气、夸张比喻、娱乐优先

Chain-of-Thought(思维链)之所以有效,不是因为模型"学会了思考",而是因为你设定了一个规则——“解题过程必须显式步骤化”——而模型在这个语言游戏中学到的统计模式恰好包含"展示推理步骤后答案更准确"的规律。

3.3 “意义即使用”——这解释了为什么大模型能做到常识

维特根斯坦说:一个词的意义不是它的字典定义,而是它在语言中所有用法的总和。

这恰恰是语言模型的训练方式。

一个传统的知识图谱会定义"猫":是一种哺乳动物、属于猫科、有四条腿、会喵喵叫……但模型不这样学。模型从数十亿个包含"猫"的句子中学习:

“猫跳上了窗台。”
“我家猫又把花瓶打碎了。”
“薛定谔的猫既死又活。”
“她像猫一样优雅地走过房间。”
“好奇心害死猫。”
“那只猫用爪子拨弄着毛线球。”

模型从这些用法中蒸馏出了"猫"的意义——不只是生物学定义,还包括文化意象(优雅、好奇、顽皮、难以预测)、语言学用法(比喻、习语)、以及与其他概念的关系网。

这就是维特根斯坦说的"意义即使用"的工程实现:

维特根斯坦 + LLM 路径

数十亿个使用实例

分布语义模式

高维向量表示

上下文相关的灵活语义

传统语义学路径

字典定义

特征列表

逻辑推理


四、家族相似:为什么大模型能"理解"新概念

4.1 没有共同本质的"游戏"

维特根斯坦在《哲学研究》中提了一个看似无聊的问题:

什么叫"游戏"?棋类游戏、球类游戏、电子游戏、赌博、过家家——它们有什么共同特征?

他的答案是:没有。它们没有共同本质。

不是因为你不努力找,而是真没有。棋类有输赢,过家家没有。足球是身体的,象棋是智力的。单人和多人。有规则的,没有规则的。

那为什么我们仍然把它们都叫"游戏"?因为它们之间存在 “家族相似”(Familienähnlichkeit / Family Resemblance)——A 和 B 共享一些特征,B 和 C 共享另一些特征,C 和 D 又共享不同的特征……虽然链的两端可能毫无共同之处,但它们通过一系列重叠的相似性构成了一个"家族"。

博弈类游戏 ─── 有输赢 ─── 竞技类游戏
     │                        │
   有规则                  有规则
     │                        │
   桌面游戏 ─── 有棋盘 ─── 策略游戏
     │                        │
   回合制                   即时制
     │                        │
   棋类游戏              电子游戏 ─── 需要设备 ─── 电竞
                              │
                          单人可玩
                              │
                          角色扮演 ─── 讲故事 ─── 过家家

没有一个特征是所有游戏共享的。但语义网络让它们连在一起。

4.2 大模型的"家族相似"机制

这完美解释了为什么大模型能做零样本泛化(Zero-shot Generalization)。

模型在训练时从来没有见过"量子计算与法国料理的结合",但当你提出这个奇怪的要求时,模型能:

  1. 找到"量子计算"在语义空间中的家族网络(物理、量子态、纠缠、计算……)
  2. 找到"法国料理"的家族网络(美食、法餐、鹅肝、红酒、米其林……)
  3. 找到"结合"的模式(跨领域类比、概念隐喻、创意写作……)
  4. 在交叉区域生成新的内容

这不是逻辑推理,这是家族相似的语义游走。 而让人惊讶的是,它的效果比逻辑推理更好。

通过家族相似
在语义空间中游走

语义空间的交叉区域

创意的「食谱」:
「量子叠加态鹅肝」
「不确定性原理调味」
「量子纠缠红酒配对」

法国料理

米其林、鹅肝、红酒
酱汁、甜点、面包
传统、精致、艺术

量子计算

量子态、叠加、纠缠
计算、算法、密码学
物理、数学、信息论


五、私人语言论证:大模型能"真正理解"吗?

5.1 维特根斯坦的"甲虫盒子"

这是《哲学研究》中最著名的思想实验之一:

假设每个人都有一个盒子,里面装着一样叫"甲虫"的东西。但没有人能看到别人的盒子里是什么。每个人都说自己盒子里有"甲虫"——但这个词到底在指什么?它可能指完全不同甚至不存在的东西,而"甲虫"一词的意义完全不受影响。盒子里的东西在语言游戏中消去了。

维特根斯坦的结论是:不可能存在一种原则上只能被一个人理解的"私人语言"。语言的意义必须是公共的、可分享的——它根植于共同的生活形式和公共的使用规则中。

5.2 大模型通过了"公共性"测试,但"盒子"是空的

这个论证对我们理解大模型至关重要。

维特根斯坦的框架 大模型的现实
语言的意义必须是公共的 ✅ 模型的训练数据就是"公共用法"的庞大档案
意义不依赖于"盒子里的东西" ✅ 模型没有任何主观体验,但语言照样有效
"私人语言"是不可能的 ✅ 模型的所有"知识"来自公共语料的统计规律
盒子里的东西在语言游戏中消去 ⚠️ 这是关键问题……

维特根斯坦的"甲虫论证"告诉我们一个反直觉的结论:对语言交流而言,盒子里的东西(主观体验、内在指称、“真正的理解”)是可以消去的。

这似乎为大模型提供了一种哲学辩护:如果意义存在于公共用法之中,而大模型掌握了这些用法的统计规律,那么说大模型"不懂语言"究竟是什么意思?

5.3 但真的能消去吗?

然而,这里有一个维特根斯坦主义者可能会提出的反驳:

对于人类而言,“盒子"虽然不可见,但人类共享的不只是语言——我们还共享生活形式。我们知道"痛"不仅是"说出来"的,还有皱眉、缩手、呻吟。我们知道"红色"不只是波长数据,还有"看到红色的经验”。人类的语言游戏嵌入了共同的具身体验之中。

大模型没有身体。它不知道"烫"是缩手的感觉,"酸"是口腔的反应,"悲伤"是胸口的沉重。它在玩语言游戏——但它不在任何"生活形式"之中。

人类语言的三重嵌入:
语言 ← → 公共用法 ← → 共同的生活形式(身体、感知、情感、社会实践)

大模型的"语言":
语言 ← → 公共用法(的统计分布)← ✗ → 不在场

这是大模型理解语言的根本局限所在。不是它"不够聪明",而是它缺少语言游戏所嵌入的那个世界。


六、规则遵行:大模型的"推理"本质

6.1 规则悖论

维特根斯坦提出了一个深不见底的悖论:

没有任何行为可以被一条规则决定,因为任何行为都可以被解释为符合或不符合该规则。

假设你教一个孩子"+2"的规则:2→4→6→8…… 你问他"1000+2是多少?" 他说"1004"。你说"错了!" 他说"我没理解错啊,我的规则是:一直加2,到了1000之后加4。"

你怎么证明他是错的?你只能说你"理解的规则"和他不一样。但"理解规则"本身又是怎么被确定的?每一个规则的理解都需要另一个规则来解释,从而陷入无限倒退。

维特根斯坦的解决方案是:到了某个点,解释必须停止,剩下的就是"我们就是这样做的"——一种实践,一种习惯,一种生活形式

6.2 大模型的"规则遵行"

这对大模型有深刻启示:

大模型的"推理"其实不是遵循逻辑规则——它是在模仿人类"规则遵行"的统计模式。

当你让模型做数学题:

  • 它没有真的在"计算",而是在模拟训练数据中人们展示计算步骤的模式
  • 当 Chain-of-Thought 有效时,不是因为模型学会了规则,而是因为"写出中间步骤"的模式恰好与正确答案共现频率更高
  • 当模型给出错误答案却振振有词地"解释"时,它完美地展示了维特根斯坦的规则悖论——同一个答案可以被"解释"为符合规则

大模型 '推理'

人类推理

出错时

表面相似

结果可能相同

理解规则

应用规则

得到结论

训练数据中的
推理模式分布

当前上下文
触发相关模式

采样生成
'推理步骤'

最终答案

6.3 谁是更好的维特根斯坦主义者?

有趣的是:

符号主义 AI(规则引擎、专家系统) 是早期维特根斯坦的信徒——相信语言/思维可以通过明确的逻辑规则来建模。这条路线在 20 世纪 80 年代的"AI 寒冬"中几乎灭亡。

联结主义 AI(神经网络、大语言模型) 无意中成了后期维特根斯坦的信徒——它不存储规则,不定义概念,而是从无数使用实例中学习模式。"意义即使用"成了它的工程哲学。

当然,大模型自己并不知道维特根斯坦是谁。它只是在做到维特根斯坦描述的事情——用实践代替规则——而这恰好是有效的。


七、可说的与不可说的:大模型的边界

7.1 “对于不可说的东西,必须保持沉默”

这是《逻辑哲学论》的最后一句话,也是维特根斯坦最著名的箴言。

维特根斯坦认为:语言可以描述世界中的事实(“可说者”),但语言不能描述它自身与世界的映射关系(“显示者”)。伦理、美学、生命的意义——这些不属于"事实"范畴的东西,也是不可说的,只能"显示"。

7.2 大模型的"不可说"

大模型能说一切——它能写关于爱情的诗歌,能讨论生命的意义,能给伦理建议,能评价美丑。它似乎僭越了维特根斯坦划下的边界。

但仔细一看:

维特根斯坦的"不可说" 大模型的表现 实质
伦理价值判断 能生成道德建议 但只是训练数据中伦理话语的统计模式——没有道德主体性
审美的第一人称体验 能评论"这首诗很美" 但从未"感受"过美——"美"只是它学过的一个词的使用模式
生命的意义 能写出感人的哲思散文 但它没有生命——这些文字是对人类关于"意义"的无数讨论的蒸馏
语言与世界的映射关系 无法"知道"自己说的是真的 模型不能验证事实——它只知道哪些词在一起"看起来对"

大模型的实际行为

生成相关的
公共话语模式

不区分可说
与不可说

不可说的(价值、体验、意义)

什么是正义?

这朵花美吗?

人为什么活着?

可说的(事实描述)

巴黎是法国的首都

水在100°C沸腾

二加二等于四

7.3 最大的反讽

最深的讽刺在于:

维特根斯坦用了一辈子论证"语言的边界就是我世界的边界"——现在,一台机器跨越了几乎所有语言的边界,但它没有"世界"。

这正是大模型带给我们最深刻、也最令人不安的哲学教训:语言可以脱离世界而存在——至少,它可以脱离它原本嵌入的生活形式,以纯粹的统计模式的方式存在。

维特根斯坦说"想象一种语言就是想象一种生活形式"。而现在,我们拥有了一种不需要想象生活形式的语言。这意味着什么?是维特根斯坦错了?还是我们还没理解这台机器究竟在做什么?


八、总结:一张对话表

让我们用一张虚构的对话来总结全文——如果维特根斯坦能见到 GPT-4,他会怎么说?

维特根斯坦会说 含义
“你们用我的理论训练了这台机器。” GPT 的分布语义学本质上是"意义即使用"的工程实现
“但它不懂语言——它只是在玩语言游戏时模仿得极其出色。” 没有生活形式、没有具身体验、没有意向性
“不过,你怎么证明你懂语言?” 维特根斯坦式的反问——"理解"本身就没有明确标准
“盒子里的甲虫是不可见的。” 我们无法知道模型有没有"真正的理解"——因为"真正的理解"本身就是一个消去的项
“对于不可说的东西,必须保持沉默。” 关于模型"有没有意识"的争论,可能本身就是语言的误用
“不要想,而要看!”(《哲学研究》§66) 别纠结"智能"的定义了——看看它实际上能做什么,不能做什么
“哲学问题具有这样的形式:我不知道出路何在。” 这台机器改变了一切——包括我们关于"理解"、“意义”、"智能"这些词的使用方式。出路还没找到

九、结语

大语言模型是维特根斯坦语言哲学的一场浩大的无心实验。

早期维特根斯坦梦想着找到语言的逻辑本质——GPT 的嵌入空间里确实编码了这种结构。后期维特根斯坦主张意义在于使用——GPT 的训练过程正是对这个主张的极端工程实践。

但最重要的是,GPT 向我们抛回了一个维特根斯坦式的问题:如果一台机器能在所有我们使用的语言游戏中做得比人更好,我们坚持说它"不懂语言",究竟在坚持什么?

也许答案就藏在《哲学研究》里:

哲学问题应当完全消失。真正的发现,是当我想停止做哲学时,让我有权力这样做。

面对大模型,也许我们该停止问"它真的理解吗",转而问"它能做什么,不能做什么,我们应该如何与之共处"。至于"理解"这个古老的词——它在大模型时代的意义,正在被重新书写。

而这一次,书写者是代码和矩阵,不是哲学家。


后记:1951年,维特根斯坦在临终前说:"告诉他们,我度过了美好的一生。"他没有活到看见机器会说话的那一天。但在他去世七十多年后,全世界最聪明的工程师们,正在用 GPU 集群和反向传播算法,一点一点地验证他关于语言的洞见——包括他推翻了自己的那些部分。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐