今天小编分享的互联网经验：大模型“涌现”的思维链，究竟是一种什么能力？，欢迎阅读。
图片来源 @视觉中国
文 | 腦极体
听说最近 AI 大厂的开发人员和高校的 NLP 研究人员，都在琢磨，怎么让大模型 " 涌现 "。那画面莫名就让我想到了程式员给伺服器上香来保佑不宕机，都有种求诸于天的玄学。
所谓 " 涌现 ", 在大模型领網域指的是当模型突破某个规模时，性能显著提升，表现出让人惊艳、意想不到的能力。比如语言理解能力、生成能力、逻辑推理能力等。一般来说，模型在 100 亿到 1000 亿参数区间，可能产生能力涌现。
但老话说得好 " 氪不救非，玄不改命 "。靠砸钱和运气，只一味把模型做的大大大，也未必能让 AI" 显灵 "。
强大的逻辑推理是大语言模型 " 智能涌现 " 出的核心能力之一，好像 AI 有了人的意识一样。而推理能力的关键，在于一个技术——思维链（Chain of Thought，CoT）。
大家如果看过类 GPT 应用的翻车问题，会发现大多都是数学算术题、逻辑思考题等，这类需要精确推理的问题，而这正是思维链能够重点解决的。现在训练大语言模型的企业和机构很多，但能够训练出思维链并应用的很少。
换句话说，只有解锁了思维链技术，大语言模型才有可能 " 涌现 "，才能在 " 大炼模型 " 的竞争中具备能力优势。
思维链的故事，我们从一个奇男子说起。
一个神奇的男子
思维链，在人工智能领網域，是一个非常非常新的概念。
2022 年 1 月，它的相关论文才被放到 arxiv 上，成果也特别惊艳，谷歌在当年五月的年度开发者大会 Google I/O 2022，也对思维链这一研究成果进行了宣传。当时同台宣传的还有大模型 PaLM 和 Pixel 系列手机等。
你可能发现了华点，怎么让思维链闻名世界的，却变成了 OpenAI 的 ChatGPT 呢？
这就要提到一个奇男子——思维链的提出者 Jason Wei。
之所以神奇，一是本人能力卓绝。
这位华人科学家，2020 年本科毕业成为谷歌大腦的高级研究员，在任职期间，提出了思维链的概念，发现思维链可以在大语言模型中增强推理能力。
（Jason Wei 的个人博客 www.jasonwei.net）
二是他的个人际遇，对 AI 影响很大，2022 年 2 月他离开谷歌，加入了 OpenAI，进入 ChatGPT 团队，这也是思维链在 OpenAI 发扬光大，让 ChatGPT 拔得头筹的原因之一。
那这位奇男子和同事的工作，究竟干了什么呢？
谷歌之前在大模型下了很大功夫，GPT 生成式预训练模型中的 "T"，也就是 Transformer，就是谷歌大腦搞出来的。但是，预训练 + 精调的大模型搞了几年，仍然没办法很好地完成多步骤推理任务，比如数学问题和常识推理。
所以 Jason Wei 等人提出了思维链提示的方法，真的一下子就让大模型的逻辑推理能力不一样了。
具体来说，有三个不一样：
1. 常识推理能力赶超人类。以前的语言模型，在很多挑战性任务上都达不到人类水平，而采用思维链提示的大语言模型，在 Bench Hard ( BBH ) 评测基准的 23 个任务中，有 17 个任务的表现都优于人类基线。
比如常识推理中会包括对身体和互动的理解，而在运动理解 sports understanding 方面，思维链的表现就超过了运动爱好者（95% vs 84%）。
（思想链被高亮显示）
2. 数学逻辑推理大幅提升。
一般来说，语言模型在算术推理任务上的表现不太好，而应用了思维链之后，大语言模型的逻辑推理能力突飞猛进。
MultiArith 和 GSM8K 这两个数据集，测试的是语言模型解决数学问题的能力，而通过思维链提示，PaLM 这个大语言模型比传统提示学习的性能提高了 300%！
在 MultiArith 和 GSM8K 上的表现提升巨大，甚至超过了有监督学习的最优表现。
这意味着，大语言模型也可以解决那些需要精确的、分步骤计算的复杂数学问题了。
3. 大语言模型更具可解释性，更加可信。
我们知道超大规模的无监督深度学习，打造出来的大模型是一个黑盒，推理决策链不可知，这就会让模型结果变得不够可信。
而思维链将一个逻辑推理问题，分解成了多个步骤，来一步步进行，这样生成的结果就有着更加清晰的逻辑链路，提供了一定的可解释性，让人知道答案是怎么来的。
Jason Wei 这位奇男子提出的思维链，可以说是大语言模型惊艳世界的必要条件。
一句神奇的咒语
花式调戏大语言模型，有一句非常神奇的咒语，能让 LLM 的回答结果大不一样，那就是——"Let ’ s think step by step"。
此前很多用户就发现，一旦在问题中加上 "Let ’ s think step by step"，ChatGPT 就好像被施了魔法，原本做错的数学题，突然就会做了；原本的胡说八道，突然就有理有据了。
这就是思维链的魔力。
思维链 ( Chain-of-thought，CoT ) ，指的是一系列有逻辑关系的思考步骤，形成一个完整的思考过程。
人在日常生活中，随时随地都会用思维链来解决问题，比如工作、读书经常用到的思维导图，就是为了尽可能全面拆解步骤，不忽略重要细节，从而充分地考虑问题。
这种步骤分解的方式用在提示学习中，就被称为思维链提示，将大语言模型的推理过程，分解成一个个步骤，直观地展现出来，这样开发人员可以在 LLM 推理出现错误时，就及时地修复。
相当于让 AI 做分析题，而不是 " 填空题 "，要把推理过程详细说清楚，按步骤得分，最后给出答案。
Jason Wei 等在 2022 年的论文中，展示了标准提示学习和思维链提示的不同之处：
可以看到，类似的算术题，思维链提示会在给出答案之前，还会自动给出推理步骤：
" 罗杰先有 5 个球，2 罐 3 个网球等于 6 个，5 + 6 = 11"
" 食堂原来有 23 个苹果，用 20 个做午餐，23-20=3；又买了 6 个苹果，3+6=9"。
思维链提示给出了正确答案，而直接报答案的传统提示学习，给出的答案就是错的，连小学程度的加减法都做不好。
简单来说，语言模型很难将所有的语义直接转化为一个方程，因为这是一个更加复杂的思考过程，但可以通过中间步骤，来更好地推理问题的每个部分。
思维链提示，就是把一个多步骤推理问题，分解成很多个中间步骤，分配给更多的计算量，生成更多的 token，再把这些答案拼接在一起进行求解。
再举个例子，大家都特别希望有一个全能家政机器人，但目前的机器人看起来都挺傻的，只能执行一些很简单的开关灯指令。如果用户问：" 我把可乐洒在桌子上了，你能把它扔掉，然后拿点东西来帮我清理吗？"
机器人该怎么办呢？
这时候有思维链的语言模型，会分析问题：用户把可乐洒在桌子上了。我会把它扔掉，然后给用户一块海绵。
拆解步骤：找 ( 可乐 ) ，拣 ( 可乐 ) ，找 ( 垃圾 ) ，扔 ( 可乐 ) ，找 ( 海绵 ) ，拣 ( 海绵 ) ，找 ( 桌子 ) ，放 ( 海绵 ) 。
总的来说，思维链就相当于让大语言模型做 " 因式分解 "，把一个复杂的推理问题进行拆解，逐步解决，自然也就更容易得到高质量的答案了。
一个打破僵局的灵
你可能会问，大语言模型 " 智能涌现 "，思维链是必须的吗？目前阶段，确实。
因为，预训练的大语言模型参数规模巨大，很容易被不相关的上下文分散注意力，影响性能表现，相当于学生上课走神了，被老师叫起来回答问题只能胡言乱语。这时候就需要提示学习（Prompt Learning）来进行微调，相当于旁边有人给提了个醒，更好地完成下游任务。
但离散式的硬提示（Discrete Prompt），需要人为设计提示词 prompt，而人类觉得不错的提示词，语言模型却不一定觉得好，最后还是回答的一塌糊涂，而且，离散的 token 作为提示词，优化难度也特别大。
所以，连续化的软提示（Continuous Prompt），限制了模型参数不被调整，直接优化低维向量，这样就可以用较小的微调来提升模型性能。这个方法省事儿，效果也不错，但一直走这条路还是没办法让语言模型搞懂逻辑推理。
思维链的提出，用的是离散式的 token，又能自动构建问题、推理步骤和样例，这就解决了离散提示人工设计难的问题，而且还能让语言模型拥有可解释性。
所以说，思维链 promoting，可以算是打破了大语言模型能力僵局的神来之笔。有时候技术的突破靠的就是一个灵感，而造就这个灵感的人才机制、创新环境、组织模式等，却需要漫长的时间去培育。
一些待解的问题
说了这么多，是不是有了思维链，大语言模型就所向披靡了呢？照这么发展下去，真能媲美人类的能力了？
大可不必担心，思维链本身还是有很多局限的，而它的局限也是大语言模型的局限。
首先，思维链必须在模型规模足够大时才能涌现。
在 Jason Wei 等的研究中，PaLM 在扩展到 540B 参数时，与思维链提示结合，才表现出了先进的性能。一些小规模模型，思维链并没有太大的影响，能力提升也不会很大。
谷歌大腦的研究人员认为，策略问题需要大量的世界知识，而小型模型没有足够的参数来记忆这些世界知识，所以也不太可能产生正确的推理步骤。
但问题是，能落地到产业的模型，规模必然不会太大，思维链拆解了更多的步骤、用到更多的计算资源，相当于更加耗费腦力，很多研究机构和企业是负担不起 175B 参数以上的大模型。
所以思维链必须要探索，如何在较小的模型中进行推理，降低实际应用的成本。
（62B 比 540B 的语言模型更容易出错）
其次，思维链的应用领網域是有限的。
目前，思维链只是在一些有限的领網域，比如数学问题，五个常识推理基准（CommonsenseQA，StrategyQA，Date Understanding 和 Sports Understanding 以及 SayCan）上显现出作用，其他类型的任务，像是机器翻译，性能提升效果还有待评估。
而且，相关研究用到的模型（GPT-3 API）或数据集，都是半公开或不公开的，这就使其难以被复现和验证。严谨来看，思维链的效果还需要被进一步探索，才能下定论。
此外，即使有思维链提示，大语言模型依然不能解决小学水平的数学问题。
没有思维链，数学推理是指定不行。但有了思维链，大语言模型也可能出现错误推理，尤其是非常简单的计算错误。Jason Wei 等的论文中，曾展示过在 GSM8K 的一个子集中，大语言模型出现了 8% 的计算错误，比如 6 * 13 = 68（正确答案是 78）。
这说明，即使有了思维链，大语言模型还是没有真正理解数学逻辑，不知道加减乘除的真实意义，只是通过更精细的叠加来 " 照葫芦画瓢 "，所以，对于有精确要求的任务，还要进一步探索新的技术。
思维链确实增强了大语言模型的能力，但逻辑推理仍然是大语言模型的弱项，等待着更多突破。
One more thing
通过思维链，我们可以看到大语言模型为什么强，也为什么弱。
它强在，模型规模的提高，让语义理解、符号映射、连贯文本生成等能力跃升，从而让多步骤推理的思维链成为可能，带来 " 智能涌现 "。
它弱在，即使大语言模型表现出了前所未有的能力，但思维链暴露了它，依然是鹦鹉学舌，而非真的产生了意识。
认知心理学教授斯坦尼斯拉斯 · 迪昂（Stanislas Dehaene）在《精准学习》中提出，缓慢地、理智地、符号化地运作，是人腦的特权。它可以在任何可能的时候，提取具有普遍性、逻辑性的、明确的原则。
五六岁的儿童学会了较小数字的加法，就可以理解其含义，用到更大的数字的加法中，而目前最强大的大语言模型，还连 " 加法 " 这个简单的抽象定律都理解不了。
这么说，并不是让大家小看 AI 的能力，而是想说明，人腦和 AI，各有所长。
大语言模型，正如科幻作家特德 · 姜所说，是网上所有文本的模糊影像，一张有损压缩的 JPEG，但它可以用远超人腦的算力和数据，极其高产地做好文本生成、影像生成这样的模糊任务。而人腦更擅长精确的、逻辑性的任务，就像特德 · 姜说的：" 当你还有原始图片的时候，一张模糊的 JPEG 到底有多大用处呢？"
智能时代的生存策略，就是不要以己之短，硬碰 AI 之长。而是用 AI 之长，让自己的长板变得更长；用人腦的精确，让 AI 生成的模糊答案变得更高质量；用好思维链提示，让 LLM 生成时事半功倍。
《哈利波特》电影中，有一个 " 有求必应屋 "，里面全是人所需要的东西，海伦娜形容它：
If you have to ask, you'll never know. If you know, you need only ask.
如果你还需要问，就永远不会明白；如果你明白，你只需要开口问。
有问必答的 AI 时代，是智者的天堂，也是愚者的地狱。永远不要让 AI 代替你思考。
更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体 App
