AI大模型里有个参数叫temperature,中文叫温度。这个参数控制AI生成内容时的随机性和创造力,调低AI变得保守严谨,调高AI变得天马行空。ChatGPT、豆包、通义千问这些工具底层都在用。这篇文章用性格比喻讲透temperature参数的原理,顺便从安全角度聊聊温度调太高会出什么事。

不知道有没有注意过一个事——同样一句话丢给AI,问两次,答案经常不一样。

不是模型抽风。是背后一个叫 temperature 的参数在起作用,中文翻译过来就是"温度"。

这东西几乎所有AI工具都有。ChatGPT有,豆包有,通义千问有,API接口里更是一堆人天天调它。但大部分普通用户根本不知道它的存在,以为AI就是个"输入问题给答案"的黑盒。

其实AI的"性格"是可以调的。温度就是那个旋钮。

温度到底在控什么

温度管的是AI选字时候胆子多大。

AI生成文字,本质上是在玩一个不停做选择题的游戏。每说一个字,都要从词表里挑一个。比如接"今天天气真",下一个字可能是"好",可能是"热",可能是"烂",甚至可能是"适合睡觉"。

AI会给每个选项算一个概率。"好"的概率最高,0.6。"热"其次,0.2。"适合睡觉"概率很低,0.01。

温度干的事情就是——要不要老实选概率最高的,还是偶尔赌一把。

低温的时候,AI是那种特别守规矩的学生。考试只写标准答案,老师让干嘛干嘛,从来不超纲。概率0.6的字几乎必选,概率0.01的字想都别想。稳定,靠谱,但有时候无聊到让人想打哈欠。

高温的时候,AI变成那种课堂上走神的天马行空型选手。概率0.01的字也敢选,还觉得这样很有创意。写出来的东西确实有意思,但也很容易跑偏——让它写个周报,它给整出一首诗。

中温就是大多数正常人,该守规矩的时候守规矩,该放飞的时候也能放飞一下。

在这里插入图片描述

温度原理

往深了扒一层。

AI选词背后用的 softmax 函数,温度就是往里塞的一个除数。温度低,概率分布尖锐,"好"字占大头;温度高,概率分布摊平,冷门字也有一席之地。

在这里插入图片描述

极端情况:温度调成0,同一个问题永远一个答案。调到无穷大,随机吐字,跟坏了的收音机似的。

同一个prompt,效果差多少

上面那张图已经展示了写文案的差别。再补个写代码的——低温写出来的代码逻辑严谨、该用什么模式用什么模式;高温能给你整出注释比代码还长的东西,函数名叫 calculateEverythingAndMaybeDestroyUniverse,跑起来全靠运气。

所以没有绝对的好坏。

各家AI的默认温度

OpenAI的GPT系列,API默认温度是1.0,范围0到2。ChatGPT网页版用户看不到这个参数,但底层有默认值,大概在0.7到1.0之间,每次回答有点变化但不至于乱来。

国内的大模型,大部分默认温度也在0.7到1.0这个区间。百度文心系列的温度范围是0到1,比OpenAI窄一点。

API用户能自己调,普通用户大多感知不到。但这个参数一直在后台跑,决定着AI跟人聊天的"感觉"。

有些产品的"创意模式""精准模式"切换,底层其实就是在调温度。不是什么高深操作,就是把那个旋钮拧了一下。

温度调太高,会出事

在这里插入图片描述

温度不是越高越好。高温一上来,AI胆子大了,什么字都敢选——包括那些让它编假事实的字。

这就是"幻觉"。低温问个冷门事件它说不太确定,高温直接给你编一段有鼻子有眼的假历史。

更麻烦的是安全层面。高温状态下AI更容易被诱导绕过护栏,搞"越狱攻击"的人就是利用这个特点找花式说法让AI放开限制。跟人一样,平时规规矩矩,喝多了可能就管不住嘴。高温就是给AI灌酒。

当然低温也不等于绝对安全,只是相对更听话。攻击者换个思路一样能钓鱼。温度只是一个变量,不是安全开关。

什么活用什么温度

写代码、做数据分析、查事实、写技术文档——低温,0到0.3。这类活要的是准,别让它发挥。

写邮件、写报告、日常聊天,0.5到0.8。通顺自然就行,出不了大问题。

创意类的活儿——起标题、写文案、头脑风暴——往高了走,0.8到1.2。不怕跑偏,跑偏了再改。

写诗或者搞实验性创作,1.2以上。做好心理准备,生成十段可能就一段能用。

简单讲,要"对"的活温度往低调,要"新"的活温度往高调。实在拿不准,0.7左右不会出大问题。

还有个细节——OpenAI官方建议,温度和另一个叫 top_p 的参数别同时调,动一个就行。两个一起动,结果很难预测。普通用户用不到 top_p,知道有这回事就行。

最后

温度这东西吧,听着玄乎,其实就是个性格旋钮。

往左拧到底,做题机器,稳是稳,就是无聊。往右猛拧,文艺青年,有意思,但容易翻车。大部分时候搁中间待着就行。

下次用AI的时候,如果觉得回答太死板或者太跳脱,不用换工具,先想想是不是温度的问题。当然,前提是能调到这个参数。

关注小虾,一起成长,一起进化。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐