什么是大模型的「涌现能力」？它真的存在吗？

简化版

涌现能力（emergent abilities） 通常指按某个指标观察时，小规模模型接近基线，而规模或训练计算越过一段区间后得分陡升的能力。它是经验曲线的描述，不等于已证明模型内部发生数学上的不连续相变。研究争议指出，Exact Match、通过/失败等非线性指标可把底层的连续改进显示成跳变；也有能力在换用连续指标后仍呈明显非线性。因此回答应区分“观测到陡升”“指标制造阈值”和“机制是否相变”三件事。

详细版

涌现能力的典型例子

• 少样本学习 / 上下文学习：部分任务随规模提升出现明显的少样本收益，但阈值依模型、数据、Prompt 和指标而变。
• 思维链（CoT）推理：早期实验在较大模型上观察到更明显收益，小模型收益较弱甚至退化；这不是对所有架构和训练方式都成立的定律。
• 多步算术、符号推理、指令遵循：都呈现「规模到了才出现」的模式。

主流叙事（Wei et al. 2022）

• 把某些任务的准确率对模型规模作图，会看到：小规模时几乎是随机水平（接近 0），越过某个规模后陡然上升。
• 结论：这些能力「无法从小模型外推」，是规模带来的质变/相变。

争议与反驳（Schaeffer et al. 2023）

• 观点：涌现可能是”指标的产物”，而非模型的真实相变。
• 原因：像「多位数加法全对才得分」这种非线性、全或无的指标，会把「模型其实在稳步变好」放大成「突然跳变」。
• 换用连续、平滑的指标（如按 token 计部分正确、用对数似然），同样的模型能力曲线变成平滑渐进，没有突变。

如何辩证看待

• 事实层面：在固定模型家族与训练配方中，扩大规模常能显著提高复杂任务得分，但“完全做不了”还受提示、数据和专门训练影响。
• 机制层面：这种提升是”不连续的相变”还是”被指标放大的连续提升”，尚无定论。
• 实践启示：不能只看某个规模的表现就断言「能力天花板」，也不能迷信「再大一点就一定涌现某能力」。

完整版教学

一、涌现这个概念从哪来

“涌现”原本用于描述系统层性质无法由单个组成部分直接看出。大模型语境通常更操作化：在一组不同规模、相近训练配方的模型上，某任务指标是否从基线附近转为明显可用。这里同时改变的往往还有训练 Token、算力和数据，不应把观察结果只归因于参数量。

这个概念容易被外推成“再扩大一点就必然得到未知能力”，但现有曲线只能描述已测尺度与任务。可靠讨论需要报告模型家族、训练计算、数据和评测定义，不能把回顾性拐点当成预测定律。

二、经典证据：能力曲线的”陡然跳升”

Wei 等人 2022 年系统整理了这一现象：在一批任务上，把「准确率」对「模型规模（参数量/训练算力）」画图，发现不少任务呈现同一模式——在某个规模阈值以下，表现几乎是随机猜（接近 0）；越过阈值后，准确率陡然拉升。

典型如思维链（Chain-of-Thought）：让模型「一步步推理再给答案」，在大模型上能显著提高数学题正确率；但在小模型上，加了 CoT 反而更差（因为它连每一步都写不对）。这类「小模型完全无效、大模型突然有效」的现象，构成了涌现的核心证据。

三、反转：涌现可能是”指标制造的幻觉”

2023 年 Schaeffer 等人的研究系统质疑：一部分“涌现”可由评测指标的非线性解释，而不必假设底层能力真实突变。 这是一项重要反证思路，但不能据此断言所有陡升都只是指标假象。

关键在指标的「全或无」特性。以「五位数加法」为例，常用指标是完全匹配（Exact Match）——五个数字全对才得 1 分，错一个就 0 分。设想模型对每一位的正确率在随规模平滑上升：

• 当每位正确率还不高时，「五位全对」的概率极低（几个小于 1 的数相乘），得分接近 0；
• 当每位正确率接近 1 时，「五位全对」的概率才骤然接近 1。

于是底层能力是平滑上升的，但被”全对才算分”的指标放大成了突然跳变。作者证明：把指标换成连续、部分给分的形式（如按正确位数、按对数似然），同样的数据画出来就是平滑单调的曲线，涌现的「拐点」消失了。

记忆钩子：「涌现」很多时候不是模型突然开窍，而是”全对才算分”的苛刻指标，把稳步的进步显示成了悬崖式跳升。

四、那到底该信哪个

两种观点其实不完全矛盾，要分层理解：

• 性能提升是经验事实：同一模型家族扩大规模后，许多复杂任务得分会提高；具体小模型是否“完全做不到”则取决于训练与指标。
• 是否”相变”有争议：这种获得是「数学上不连续的相变」，还是「连续提升被指标放大」，取决于你怎么定义和度量能力。用严苛离散指标看像相变，用平滑指标看是渐进。
• 务实结论：涌现是一个有用但需谨慎的概念。它提醒我们「规模能带来质的飞跃」，但不应据此神化「某个规模必然涌现某能力」，也不应用单一指标就下能力结论。

五、对实践的启示

• 评测要选合适指标：用「全或无」指标容易误判能力的有无和拐点；应结合连续指标、部分给分、对数似然，看清真实趋势。
• 别只看单点：一个规模上「不会」某任务，不代表更大规模也不会；反之亦然。要看曲线趋势而非某个点。
• 规模不是唯一变量：数据量与质量、Tokenizer、训练目标、提示和后训练都可能改变能力曲线，实验要尽量控制变量。
• 对”涌现”保持清醒：它是观察到的现象和有力的营销叙事，但机制尚未盖棺定论，答题时点出争议才显得专业。

六、用连续指标拆穿“突然涌现”

设模型规模从 1B、3B、7B、13B 增长，某任务平均得分依次为 0.42、0.49、0.58、0.66，能力实际平滑上升。若评测只记“是否超过 0.6”，前三个模型都记 0，13B 记 1，图上就会出现突变；离散指标把连续改进制造成了表面涌现。

连续得分: 0.42 -> 0.49 -> 0.58 -> 0.66
阈值(0.6):  0  ->   0  ->   0  ->   1

评测方式	曲线外观	风险
连续得分	渐进变化可见	更接近真实能力变化
硬阈值通过率	容易突然跳变	人为制造涌现

因此判断涌现要同时改变模型规模、训练计算和数据量，报告连续损失或部分得分，并给出多随机种子置信区间。即使曲线真实陡峭，也只能说明在观察区间存在非线性，不能据此断言模型凭空获得了完全新机制。

七、常见误区与追问

• 误区：涌现能力是被证实的”相变”。 存在重大争议，可能是评测指标非线性造成的假象。
• 误区：模型一大就必然涌现某能力。 不能保证；观察到的拐点依赖模型家族、训练计算、数据、提示与指标。
• 追问：思维链为什么算涌现例子？ 它只在大模型上有效，小模型加 CoT 反而更差，呈现规模阈值效应。
• 追问：为什么”全对才算分”会制造假涌现？ 多位全对的概率是各位正确率之积，底层平滑上升会被乘积放大成突然跳变。
• 追问：怎么判断是不是真涌现？ 换连续/部分给分指标看曲线是否仍有突变；平滑了就说明是指标产物。
• 追问：这对做产品有什么意义？ 评测别只用苛刻离散指标，要看连续趋势；能力提升也可来自数据和训练方法，非只靠堆参数。

八、加强记忆

把涌现问题拆成三层：先看指标曲线是否陡升，再换连续或部分得分检验阈值效应，最后才讨论内部机制是否发生相变。few-shot、CoT 和多步算术曾出现明显规模效应，但阈值会随训练配方与评测变化。面试中不要说“小模型绝对不会”或“扩大必然解锁”，而应要求多尺度点、控制训练计算与数据、多个 Seed 和连续指标；这样才能区分真实非线性、测量伪影与普通的平滑扩展。