玻尔百科在任何处理信息的系统中，从微处理器到人脑，延迟都是性能的敌人。等待一个关键信息的到来可能会让整个操作陷入停顿。那么，高性能系统是如何克服这种固有的延迟呢？它们采用了一种大胆的策略：猜测。这种基于有根据的预测来执行工作的行为，被称为推测计算，它是一场高风险的赌博，用浪费精力的风险来换取速度上的巨大回报。本文深入探讨了这一强大的概念，揭示了它是一个贯穿看似无关领域的统一原则。第一部分，“原理与机制”，将通过硬件和软件的具体例子，剖析推测的基本权衡，解释系统如何对未来下注，以及当它们赌输时会发生什么。随后，“应用与跨学科联系”将拓宽视野，阐述这同一核心策略如何在并行计算、人脑的预测功能，甚至生物体的生存策略中体现出来。
想象一下，你是一家繁忙厨房里的主厨。一位顾客点了一道菜，但最后选择哪种酱汁——是浓郁的番茄酱还是奶油味的阿尔弗雷多酱——取决于需要五分钟才能确定的葡萄酒搭配结果。你会怎么做？你可以袖手旁观，等待决定，双手空空，灶台冰冷。或者，你可以做一些非常低效的事情：同时开始准备两种酱汁。当决定最终下达时，你就能立刻准备好正确的酱汁。至于另一种酱汁呢？你只能把它扔掉了。
你刚刚就进行了一次推测计算。你用一些必然被浪费的工作（一份被丢弃的酱汁）换取了可能的速度显著提升（无需等待五分钟）。这种基本的权衡——现在投入额外的工作以节省未来的时间——是现代高性能计算的核心。
让我们以最纯粹的硬件形式来看看这个“厨师的困境”。考虑一个设计用来做数字加法的电路，称为进位选择加法器。当两个多位数相加时，比如计算高位部分，其结果取决于低位部分是否有“进位”。 的结果是 吗？百位数上的答案完全取决于十位数和个位数上的进位。进位选择加法器不会等待低位部分的计算完成，它的行为就像我们的厨师一样。它并行地计算高位和两次：一次假设输入进位为 ，一次假设输入进位为 。当实际的进位到达时，它就像一个开关，立即选择预先计算好的正确结果，并丢弃另一个。投入到未使用结果中的所有计算都是白费功夫，但最终答案却能更快地准备好。这是最简单的推测：用两种方式都做一遍，然后选择正确的那一个。
现在，让我们将这个想法放大。现代微处理器不像一个厨师，更像一条超高效、快如闪电的装配线。这被称为流水线。一条指令，比如“将 R1 和 R2 相加”，并不是一次性处理完成的。它会经过几个阶段：首先从内存中获取（取指），然后解码其含义（译码），接着执行计算（执行），依此类推。就像汽车在装配线上移动一样，多条指令可以同时处于不同的处理阶段，从而实现惊人的吞吐量。
但当这台完美润滑的机器遇到岔路口时会发生什么？在编程中，这就是一个 if 语句，一个条件分支。“如果寄存器 R2 为零，跳转到地址 A；否则，继续执行地址 B。”危机出现了！装配线上充满了正在处理的指令。取指阶段应该去取哪些指令？是来自地址 A 的还是地址 B 的？答案直到分支指令到达流水线后面几级的执行阶段才能知晓。难道整个价值数十亿美元的装配线都要停下来等待吗？
那将是一场性能灾难。所以，处理器做了一件大胆的事：它试图成为一个算命先生。它预测分支将走向何方。这就是分支预测。基于这个猜测，它推测性地开始从预测的路径中获取指令并送入流水线。如果猜对了，那简直是奇迹！装配线从未停顿，性能表现卓越。
但如果算命先生错了呢？
假设我们的处理器使用一个简单的预测规则：“总是假设分支会发生”。它获取分支指令后，立即开始从“已发生”的目标地址获取指令。这些新指令开始它们在流水线中的旅程。几个时钟周期后，原始的分支指令最终到达执行阶段，真相大白：分支不应该发生。预测是错误的。
现在，处理器必须付出代价。每一条被推测性获取并推入流水线的指令现在都被证明是垃圾。它们来自错误的计算路径。处理器必须执行一次流水线刷新：它废弃掉这些虚假的指令，防止它们的结果变成永久性的，并将取指器重定向到正确的路径上。这个清理并从正确位置重启的过程引入了一段延迟，即流水线中的一个“气泡”，在此期间没有有用的工作在进行。这个延迟就是分支预测错误惩罚。
这个惩罚不仅仅是几纳秒的抽象损失。每个为了获取、解码和开始执行那些无用指令而开关的逻辑门都消耗了真实的物理能量。该能量由动态功耗方程描述，它取决于开关电容 和电压的平方 等因素。每次错误的预测都会导致一次虽小但可测量的能量浪费爆发，并以热量的形式散失——全都白费了。推测是与概率共舞，每一步失误都有实实在在的代价。
你可能会认为，平均而言，正确预测带来的收益会超过错误预测造成的损失。而且在大多数情况下，你是对的。但有时，推测可能会导致极其灾难性的错误。
想象一下，在某个场景中，我们的处理器走错了路，推测性地执行了来自预测路径的一条指令。假设那条虚假的指令是一条“从内存加载”的命令。处理器尽职地向内存系统发送了一个请求。但是，请求的数据并不在处理器旁边的那个小而超快的缓存中。它必须从大而慢的主内存（RAM）中获取。这就是缓存未命中，在计算上相当于你的车掉进了一个天坑。整个流水线都停滞了，等待着数据的到来，这可能需要一百个甚至更多的时钟周期。
而美妙又可怕的讽刺在于：在这个巨大的停顿发生几个周期后，处理器终于解析了原始的分支，并意识到它的预测是错误的。那条导致了这场大堵塞的加载指令……根本就不应该被执行。当处理器废弃掉这条违规指令时，损害已经造成。巨大的时间惩罚已经付出了。在这种情况下，推测性处理器最终会比一个在岔路口耐心等待的简单、谨慎的处理器要慢得多。这是一个深刻的教训：为了节省几个周期而进行的赌博，有时会让你付出一百个周期的代价。
所以，我们身处一个建立在赌博、预测和惩罚之上的硬件世界。它能如此良好地运作，本身就是工程学的证明。但这让人不禁思考：有没有更优雅的方式？我们能完全避开岔路口吗？
让我们走出处理器硬件的世界，进入软件算法的世界，例如在量子化学中。在这里，科学家们经常对数百万个微小的贡献进行循环，只有当它们大于某个微小的阈值 时才将它们累加起来。一条典型的代码可能看起来像这样：
if (value > tau) { sum += value; }
这是一个分支！在一个紧凑的循环中，一个不可预测的分支可能会因为我们讨论过的预测错误惩罚而成为性能杀手。程序员和硬件设计者一样，面临着一个选择。但程序员可以更狡猾。他们可以使用算术来代替用分支提问。
诀窍是创建一个数值掩码。如果 value > tau，则掩码为 ，否则为 。在大多数编程语言中，这可以通过将布尔值（真/假）直接转换为数字（1/0）来实现，而无需分支。现在，这行代码变成了：
sum += value * mask;
想想这是如何工作的。如果值足够大，掩码就是 ，我们加上 value * 1，也就是值本身。如果值太小，掩码就是 ，我们加上 value * 0，也就是零。总和保持不变。我们用没有分支的方式，实现了与 if 语句完全相同的逻辑结果！这被称为无分支编程。
再也没有猜测，没有算命先生，也没有错误预言的惩罚。我们付出的代价是在循环的每一次迭代中都执行一次乘法和一次加法，即使该值最终被丢弃。但这个微小、固定的成本通常远低于单次分支预测错误的巨大、不可预测的成本。我们用一个有风险的赌博换来了一个可预测且通常更快的确定性。
从加法器的简单并行性，到流水线处理器的复杂舞蹈，再到无分支算法的数学优雅，其原理是相同的。计算是一个关于管理工作的故事。有时我们为了以防万一而并行地做额外的工作。有时我们进行赌博，预测未来并希望我们是对的。而有时，凭借一点聪明才智，我们可以重塑问题本身，以完全规避猜测的需要。其美妙之处在于理解这些权衡，并为这段旅程选择正确的策略。
我们花了一些时间来理解推测计算的齿轮和杠杆——即为了赢得速度大奖而对未来下注的原则。但是，孤立的原则就像锁在盒子里的漂亮工具。真正的乐趣在于我们用它来打开门，创造新事物，并以新的视角理解我们周围的世界。现在，我们将踏上一段旅程，看看这个强大的思想在何处生根发芽，从冰冷坚硬的硅芯片逻辑，到生机勃勃、混乱不堪的生命剧场。你会看到，这不仅仅是工程师的巧妙伎俩；它是一个普遍存在于各种复杂系统结构中的基本策略。
让我们从最基础的层面开始：计算机芯片。想象一下，你是处理器内部的一名微型工程师，你的工作是把两个长数字相加。你逐位相加，而那个讨厌的问题就是从一列到下一列的“进位”。在知道第一列的进位之前，你无法完成第二列的和的计算。而在得到第二列的进位之前，你无法计算第三列。这是一个缓慢、痛苦的串行过程，就像多米诺骨牌一个接一个地倒下。
但如果你不耐烦呢？如果你说：“我不知道这块比特的输入进位会是什么。它可能是 0，也可能是 1。为什么要等？我有额外的帮手和空间！”于是，你建造了两台独立的加法机。一台假设输入进位为 0 来计算结果。另一台就在旁边，假设输入进位为 1 来计算结果。你让它们比赛。它们都在没有等待的情况下完成了工作。然后，当实际的进位比特到达的那一刻，你不用它来启动一个缓慢的计算。你用它作为一个简单的开关，一个交通指挥员，来选择那个已经准备好的结果。
这正是进位选择加法器的策略，一个体现了推测执行的经典硬件。它用物理空间——即制造第二个加法器所需的硅片——换取了时间。“推测”就是对两种可能的未来（ 或 ）下注。这揭示了一个关键的见解：当可能未来的数量很少时，我们可以把它们全部计算出来，然后再选择正确的那个。在某些情况下，我们甚至可能提前知道结果。例如，如果我们设计一个专用电路，使用一个常见的技巧（）来执行减法，那么初始的输入进位总是 1。在这种情况下，我们的推测设计得到了极大的简化；那个对输入进位为 0 下注的整个装置都变得多余，可以被移除，从而节省功耗和空间。这就是工程的本质：从一个通用、巧妙的想法开始，然后根据手头的具体问题进行调整。
现在，让我们从单个加法扩展到一个在数千个核心上运行的大规模计算任务。想象一下，你正试图加速一个程序，其中大部分工作理论上可以并行完成。问题在于，这些并行任务可能偶尔会互相干扰，导致结果不正确。“安全”的方法是添加复杂的锁和协调机制，这就像让所有工人不停地停下来互相请求许可。这样做很安全，但很慢。
推测计算提供了一种更乐观，且通常快得多的替代方案。它主张：“让我们就假设任务不会互相干扰。让每个人都全速前进。”这被称为“乐观并发”。 个核心中的每一个都承担问题的一部分并加以解决。只有当它们都完成后，才会汇集起来检查它们的假设是否成立。
如果推测成功——没有发生冲突——回报是巨大的。你已经实现了接近理论理想的加速比。但如果推测失败，就要付出代价。所有基于错误假设所做的工作都必须被丢弃，系统必须“回滚”到之前的一个干净状态，并且工作必须重做，也许是以一种更慢、更安全、串行的方式。
这引入了一个根本性的权衡，一场关于概率和惩罚的高风险游戏。总的加速比不仅仅取决于程序的可并行化部分 () 或你有多少处理器 ()。它是一场微妙的舞蹈，涉及到成功猜测的概率 ()、成功检查的开销 ()，以及猜测失败和回滚的昂贵惩罚 ()。推测不是免费的午餐。它是一种经过计算的风险，只有在正确的概率足够高且错误的成本足够低时才有利可图。这个原则支配着从数据库中的推测性锁定（它允许许多用户同时访问数据，假设他们不会编辑同一条记录）到现代CPU的体系结构（它乱序执行指令，赌一个程序分支会走向何方）的性能。
如果这种“对未来下注”的策略在我们的硅基创造物中如此有效，那么自然界这位最伟大的工程师是否可能首先发现了它？根据神经科学中一个引人注目的理论，答案是肯定的。这就引出了大脑作为一台“预测机器”的观点。
对感知的经典观点是一个自下而上的过程。你的眼睛接收光子，这个信号通过一系列皮层区域传播，这些区域检测边缘等简单特征，然后是形状，然后是物体，直到你最终识别出“一个咖啡杯”。在这个模型中，大脑是一个被动的特征检测器，从零开始根据感官数据构建世界的图景。
预测编码理论将这整个观点颠覆了。它提出，大脑并非被动地等待数据；它在主动、持续地生成它自己的现实。你的高级脑区总是在对你的感官在下一刻应该体验到什么做出预测，或者说推测。“根据当前情境，我期望看到一个咖啡杯。”这个预测被向下发送到皮层层级的下层。
那么，感官的目的是什么呢？在这个模型中，它们的主要工作是报告预测误差。从你的眼睛向上传到大脑的信号不是杯子的原始图像；它是你的大脑预测的图像与你的眼睛实际接收到的图像之间的差异。如果预测是完美的，几乎没有信号被发送。大脑实际上在说：“嗯，正如我所料。没什么新情况。”这非常高效！你的意识体验不是原始的感官输入，而是大脑的内部、自上而下的模型，这个模型只被感官误差信号轻微地修正。
这个框架完美地解释了“惊奇”这一现象。一个预料之中的事件几乎不会引起神经活动，而一个意料之外的事件——一个巨大的预测误差——会产生一个强大的自下而上的信号，尖叫着要求关注，迫使大脑更新其内部模型。在一个实验中，如果你能神奇地切断自上而下的预测性反馈连接，将会产生一个矛盾的结果：低级感官区域中“报告误差”的神经元不会沉寂下来。相反，它们会疯狂地放电，因为它们通常与之比较的抑制性预测消失了。它们只能将完整、原始、未经情境化的感官数据向上层大声呼喊，而上层已经失去了说“我早知道会这样”的能力。
这种将预测作为核心功能的思想，从大脑延伸到了生物体的本质。一个活细胞和一个试管中的简单化学反应之间的一个关键区别是什么？两者都必须在面对外部波动时维持稳定的内部环境——即内稳态。
一个简单的化学缓冲液是一个纯粹的反应性系统。如果加入了酸，缓冲液会发生反应来中和它，使pH值回到其设定点附近。它总是慢一步，纠正一个已经发生的错误。现在，考虑一个复杂的生物体。它所做的不仅仅是反应。它会预期。一个生活在周期性变化环境中的生物——比如说，有每日温度周期的环境——可以进化出该周期的内部模型。它可以在环境变冷之前，根据其内部时钟的预测，开始触发相应的生理变化（比如提高新陈代谢率）。
这是一种推测形式。该生物体在赌世界将继续按照其模型行事。当预测正确时，好处是巨大的。它不是遭受巨大的内环境偏差然后慢慢纠正，而是通过预期性行动在环境干扰产生重大影响之前就将其抵消，从而使内部状态更接近最佳状态。
当然，就像在我们的并行算法中一样，这种预测并非万无一失。生物系统有其固有的延迟；产生激素或蛋白质需要时间。如果环境变化的速度快于生物体的生理延迟 ()，其“纠正”行动可能会在错误的时间到达，甚至可能使情况变得更糟。对一个简单的反应性系统和一个预测性系统的比较表明，只有当预测性系统的世界模型相当准确，并且其响应时间相对于环境动态足够快时，它才是优越的。
从CPU内部对单个比特的闪电般赌博，到大脑对现实的持续幻觉，再到生物体为了领先于其世界一步而产生的基本驱动力，推测计算的原理是一条贯穿始终的线索。它是基于对未来有根据的猜测而行动的大胆而强大的策略，证明了在一个充满不确定性的世界里，有时前进的最佳方式就是迈出信仰的一跃。