哈密顿蒙特卡洛（HMC）算法

玻尔百科

核心要点

HMC 以基于物理学的轨迹取代了低效的随机游走采样，利用动量来更有效地探索复杂的高维概率分布。
该算法从目标概率分布中定义势能，并使用哈密顿方程模拟粒子的运动，从而引导探索走向高概率区域。
稳定的蛙跳积分器模拟粒子路径，而 Metropolis-Hastings 接受步骤则校正数值误差，确保采样器能准确地以目标分布为目标。
HMC 是一个用于贝叶斯推断的多功能引擎，其关键应用范围广泛，从物理学中模拟量子场到量化贝叶斯神经网络中的不确定性。

引言

在现代统计学、机器学习和计算科学的核心，存在一个艰巨的挑战：探索复杂的高维概率分布。无论是确定气候模型的参数，还是训练人工智能理解不确定性，我们从这些错综复杂的数学景观中抽取代表性样本的能力都至关重要。然而，传统方法常被比作“醉汉游走”，它们低效地蹒跚而行，并在这些广阔的空间中无可救药地迷失。

本文将介绍哈密顿蒙特卡洛（HMC）算法，这是一种革命性的方法，它用基于物理学的运动所产生的优美而高效的弧线，取代了随机的蹒跚步伐。通过构建一个由哈密顿力学定律支配的想象宇宙，HMC 提供了一个强大的发现引擎。我们将首先探究其“原理与机制”，将概率转化为势能，并用确定性轨迹取代随机步骤。然后，我们将探索其“应用与跨学科联系”，见证这个单一而优雅的思想如何在粒子物理学和人工智能等不同领域中解锁深刻的见解，展示其连接复杂理论与充满噪声的现实的力量。

原理与机制

要真正理解哈密顿蒙特卡洛（HMC），我们必须踏上一段旅程。这是一段从随机游走的蹒跚、不确定的步伐到天体力学中优美、广阔弧线的旅程。其核心思想既深刻又优美：如果为了对一个概率分布进行采样，我们可以构建一个微小的、想象中的宇宙，并观察一个粒子在其中遵循物理定律运动，会怎么样？

从醉汉游走到行星轨道

想象一下，为了绘制一幅广阔的山地景观图，你让一个蒙眼的人从直升机上跳下，然后随机走一系列步。这就是一个简单随机游走采样器的本质。探索者漫无目的地移动，常常折返或困在小沟壑里。这种“醉汉游走”效率低下，在难以想象的广阔高维问题景观中，它会无可救药地迷失。其覆盖的距离仅随步数的平方根增长，这是扩散性随机运动的一个标志。

HMC 提供了一种革命性的替代方案。想象一下，不再是一个蒙眼的漫游者，而是一颗优雅地环绕行星运行的卫星。它拥有动量。它的路径不是随机的，而是确定性的，受引力牵引。它以长而连贯的轨迹扫过广阔的空间区域。这就是 HMC 的精髓：它用一种效率远超从前、受物理学启发的探索方式，取代了扩散性随机游走。这是一种通过飞行而非蹒跚来探索空间的方法。

构建一个想象的宇宙

为了将这个物理类比变为现实，我们需要从我们希望理解的数学对象——目标概率分布（我们称之为 $\pi(q)$ ）——来构建我们的想象宇宙。在这里， $q$ 代表我们想要了解的参数，我们可以将其视为粒子在景观中的“位置”。

首先，我们将概率景观转化为一个物理景观。我们将一个势能函数 $U(q)$ 定义为概率的负对数：

U(q) = -\log \pi(q)

这个简单的定义是连接统计学和物理学的桥梁。它意味着高概率区域对应于低势能的山谷，而低概率区域则像是高耸险峻的山峰。我们的粒子会自然地被吸引到低能量的山谷中，并在其中花费更多时间，而这些山谷正是我们想要探索的高概率区域。

当然，粒子要运动，仅有景观是不够的；它还需要惯性。这就是 HMC 引入其秘密武器的地方：一个辅助动量变量 $p$ 。我们可以将其想象为给粒子一个随机的“踢一脚”，使其开始运动。这个动量只是一个数学工具；它在我们最初的统计问题中没有物理意义，但它是整个 HMC 过程的引擎。

有了动量，就有了动能 $K(p)$ 。我们可以自由地定义它，最简单和最常见的选择是类似于经典物理中 $\frac{1}{2}mv^2$ 的二次型：

K(p) = \frac{1}{2} p^{\top} M^{-1} p

在这里， $M$ 是一个我们可以选择的矩阵，代表我们粒子的“质量”。目前，我们可以将其视为单位矩阵，但正如我们将看到的，巧妙地选择 $M$ 是其强大能力的一大来源。

我们系统的总能量由哈密顿量 $H$ 给出，它就是势能和动能的总和：

H(q, p) = U(q) + K(p)

这个单一的函数，即哈密顿量，现在定义了我们整个想象的宇宙。它封装了我们想要探索的景观（ $U(q)$ ）和探索该景观的粒子的动力学（ $K(p)$ ）。

运动定律与蛙跳之舞

在这个宇宙中，粒子的轨迹不是任意的；它遵循着优美而基本的哈密顿运动方程：

\frac{dq}{dt} = \frac{\partial H}{\partial p} \quad \text{and} \quad \frac{dp}{dt} = -\frac{\partial H}{\partial q}

让我们来剖析这些优美的方程告诉了我们什么。第一个方程 $\frac{dq}{dt} = M^{-1}p$ 表明，粒子的速度（其位置 $q$ 的变化）由其动量 $p$ 和质量 $M$ 决定。这完全符合直觉。第二个方程 $\frac{dp}{dt} = -\nabla U(q)$ 是伪装的 Newton 第二定律（ $F=ma$ ）。它表明动量的变化率（即力）等于势能的负梯度。简单来说，粒子在能量景观上被推向“下坡”，朝着势能更低——也就是概率更高——的区域加速。

如果我们能精确求解这些方程，总能量 $H$ 将会完全守恒。粒子会沿着一条等能量线滑行，在景观中移动时，不断地将势能与动能相互转换。

然而，在计算机上，我们必须用一系列离散的步骤来模拟这种连续运动。这是一项精细的任务。一种朴素的模拟方法可能会累积误差，导致粒子螺旋式地进入一个能量高得离谱的区域，或者干脆停下来。HMC 采用了一种特别巧妙和优美的数值积分器，称为蛙跳法。

蛙跳积分器的工作方式就像一支精心编排的舞蹈。为了将系统向前推进一个微小的时间步长 $\epsilon$ ，它执行三个操作：

使用当前位置的力，对动量进行半步“踢”。
使用更新后的动量，对位置进行完整一步“漂移”。
使用新位置的力，对动量进行最后半步“踢”。

你可以在一个简单的二维系统中观察到这些精确步骤的实际运作。这个“踢-漂移-踢”序列并非随意的。它具有非凡的特性，使其非常适合 HMC。首先，它是时间可逆的。如果你让模拟运行 $L$ 步，然后再反向运行 $L$ 步，你会精确地回到起点，只是动量方向相反。其次，它是辛性的，这是一个深刻的几何性质，直观上讲，这意味着它能在很长一段时间内忠实地保持哈密顿流的基本结构，从而防止了困扰简单方法的那些系统性漂移和误差。

宇宙会计师：修正不完美之处

蛙跳积分器很出色，但并非完美。因为它使用有限的步长 $\epsilon$ ，总能量 $H$ 在一段 $L$ 步的轨迹上并不会精确守恒。会存在一个小的数值误差 $\Delta H = H_{final} - H_{initial}$ 。如果我们忽略这个误差，我们就会慢慢偏离我们想要采样的真实概率分布。

这正是 HMC 中“蒙特卡洛”部分发挥关键作用的地方。为了修正这个微小的不完美，我们将整个蛙跳轨迹视为一次移动的单一、大的“提议”，并使用一个Metropolis-Hastings 接受步骤来决定是否接受它。它的作用就像一个宇宙会计师，在移动结束时检查能量平衡。

接受所提议状态的概率是：

\alpha = \min\left(1, \exp(-\Delta H)\right) = \min\left(1, \frac{\exp(-H_{final})}{\exp(-H_{initial})}\right)

这个公式有一个很优美的直观解释。如果数值积分碰巧落入一个能量更低的状态（ $\Delta H 0$ ），接受概率就是 1。如果它落入一个能量更高的状态（ $\Delta H > 0$ ），我们可能仍然会接受它，但接受的概率会随着能量误差的增长而指数级下降。

因为辛蛙跳积分器在保持能量方面表现出色， $\Delta H$ 通常非常小。这意味着接受概率 $\alpha$ 常常非常接近 1，即使对于穿越参数空间很长距离的轨迹也是如此。例如，即使步长相当大，接受概率也可以接近 99.4%。这就是 HMC 的魔力所在：它允许我们做出大胆的、长距离的提议，而这些提议几乎总能被接受，从而能够快速探索整个景观。

高级操作：微调引擎

一个简单的 HMC 实现已经很强大，但当我们开始巧妙地根据手头的问题调整其组件时，它真正的威力才会显现出来。

用质量矩阵处理各向异性： 如果我们的概率景观不是一个漂亮的圆碗，而是一条狭长的峡谷，会发生什么？这被称为各向异性分布，在现实世界的问题中非常常见。一个简单的 HMC 粒子（质量 $M=I$ ）会在陡峭的峡谷壁上低效地来回反弹。解决方案是改变粒子的质量。通过选择质量矩阵 $M$ 为景观局部曲率的逆（即 $U(q)$ 的 Hessian 矩阵的逆），我们有效地对问题进行了“预处理”。这等效于一次坐标变换，将狭窄的峡谷变成一个完美的圆形碗，粒子可以在其中自由地向任何方向移动。这种选择使动能与势能的几何形状对齐，从而极大地提高了采样效率。
用重参数化处理边界： 如果一个参数必须为正，比如资产价格或分布的方差，该怎么办？势能景观现在在零点处有一堵无限高的墙，那里的梯度是未定义的。需要处处有梯度的蛙跳积分器将会崩溃。解决方案不是建造一堵更好的墙，而是转移到一个没有墙的世界。我们可以进行变量替换，例如设置我们的参数 $\theta = \exp(\phi)$ 。现在，当 $\phi$ 在整个实数线上取值时， $\theta$ 自然保持为正。我们可以在 $\phi$ 的平滑、无约束的世界中运行 HMC，完成后再简单地变换回 $\theta$ 。这个被称为重参数化的优雅技巧，使得 HMC 能够处理各种各样的约束。
自动化轨迹长度： 我们应该走多少蛙跳步， $L$ ？如果 $L$ 太小，我们就回到了局部随机游走。如果 $L$ 太大，我们的粒子可能会走得太远以至于转弯开始返回起点——这是一个浪费的“U形转弯”。为每个问题手动调整 $L$ 是乏味且困难的。像无U形转弯采样器（NUTS）这样的算法已经巧妙地解决了这个挑战。NUTS 动态地、一步步地构建轨迹，并聪明地观察轨迹开始回头转向自身的时刻。它使用一个几何条件——监测动量向量与连接当前位置和初始位置的向量之间的夹角——在 U 形转弯发生前立即停止模拟，从而为每一步自动找到一个接近最优的轨迹长度。

本质上，HMC 是物理学、几何学和统计学的美妙结合。通过利用哈密顿动力学的原理，它提供了一个强大的引擎，用以探索处于现代科学和机器学习核心的复杂高维概率景观。它的效率并非源于盲目的随机性，而是源于一个粒子在其自己创造的世界中进行有目的且优雅的运动。

应用与跨学科联系

我们已经花了一些时间来了解我们这台非凡机器——哈密顿蒙特卡洛算法——的力学原理。我们想象了一个微小的台球在一个景观上滚动，其运动由优美的哈密顿物理学定律支配。这幅画面很美好，但你可能会问，这一切究竟是为了什么？这只是一个巧妙的数学游戏吗？答案是响亮的“不”。这个算法不仅仅是一个奇物；它是一把万能钥匙，能打开通往各种惊人领域理解之门。我们想象中的粒子穿越势能景观的旅程，为我们带来了关于宇宙的真实、可触摸的知识。

HMC 的真正美妙之处在于其普适性。同一个基本思想——通过智能地跟随梯度来探索高维空间——在从量子物理的亚原子领域到人工智能的抽象世界等各个地方都被证明是强大的。现在，让我们开始一次应用之旅，并在此过程中见证科学探索中令人惊讶而深刻的统一性。

物质的核心：物理学中的起源故事

从 HMC 自身起源的地方开始似乎是恰当的：在理论粒子物理学的深奥世界里。在20世纪80年代末，物理学家们正在努力解决一个巨大的挑战：模拟量子色动力学（QCD），这是将夸克和胶子结合成原子核中质子和中子的强核力理论。

这是一个规模极其庞大的问题。要计算一个物理量，比如质子的质量，必须考虑底层的夸克和胶子场在整个时空中可能采取的所有可能的组态。这是一个无限维空间，即使在离散的计算网格上进行近似——一种被称为格点规范理论的技术——可能性的数量也是天文数字般巨大。一个简单的随机搜索，比如更基础的 Metropolis 算法，在这片荒野中会无可救药地迷失。这就好比试图通过在世界各地的海滩上随机传送来找到一粒特殊的沙子。

HMC 的创造者们灵光一闪，产生了物理直觉。如果我们把场论的“作用量”——一个告诉我们某个给定场组态在物理上有多大可能性的数字——看作一种势能 $U$ 会怎么样？然后，整个格点上的场的完整组态就可以被看作是一个虚拟粒子的“位置”。作用量的梯度变成一种“力”，将这个粒子推离不太可能的组态，推向更可能的组态。通过给予粒子动量并让它滚动，它能够比随机游走者更有效地探索广阔的组态空间区域。

但有一个复杂问题。宇宙包含两种类型的粒子：玻色子（如光子）和费米子（如电子和夸克）。费米子的数学涉及到反交换数，这是一个奇怪的概念，无法很好地融入经典哈密顿图像中。HMC 的发明者设计了一种绝妙的数学炼金术来解决这个问题。他们引入了一个辅助的“赝费米子”场，并使用一个高斯积分恒等式，将棘手的费米子行列式表示为对这个新的、行为良好的场的积分。这个巧妙的技巧就是该算法最初被称为混合蒙特卡洛（Hybrid Monte Carlo）的原因：它将经典的分子动力学演化与针对这些赝费米子的随机蒙特卡洛更新结合起来。它将一个看似棘手的量子问题转化为了一个经典力学模拟问题，一个计算机终于可以着手解决的问题。

计算机中的宇宙：作为科学工具的 HMC

物理学中取得的概念飞跃很快被认识到具有更广泛的普适性。“势能”不一定非要来自自然的某个基本理论。它可以由任何复杂模型与一组实验数据的拟合程度来定义。这一洞见将 HMC 转变为贝叶斯推断的通用引擎——一个根据新证据更新我们信念的有原则的过程。

想象一下你是一位核物理学家，试图理解质子和原子核之间的作用力。你有一个复杂的理论模型，比如 Woods-Saxon 光学势，它依赖于大约十个不同的参数——深度、半径、弥散度等等。你还有来自粒子加速器的实验数据，显示了质子在不同角度的散射情况。目标是找到这十个参数的值，以最好地解释你所观察到的现象。这是一个10维搜索问题。HMC 在这里大放异彩。通过将“势能”定义为模型对数据拟合不佳的程度（似然）和参数偏离物理上合理值的程度（先验）的组合，HMC 能够有效地在这个10维参数空间中导航，以找到后验分布——即与你的数据一致的参数值的完整谱。与简单的随机游走算法相比（它会无可救药地迷失），HMC 利用梯度信息进行长距离的智能跳跃，迅速收敛到答案。

同样的逻辑也适用于完全不同的尺度。考虑一位纳米科学家正在探测一个微观探针和表面之间的“粘性”——即粘附能。将探针拉开所需的力取决于这个能量，但也取决于拉动速度和随机的热涨落。一个结合了 JKR 接触理论和用于动态键断裂的 Bell-Evans 模型的模型可以描述这个过程。通过在不同速度下测量脱离力，科学家可以使用 HMC 从这些带噪声的数据中反向推断出基本粘附能的高精度估计。不仅如此，HMC 生成的后验分布还能让人对系统在一个新的、未尝试过的实验中的行为做出稳健的预测，并进行完整的不确定性量化。

从原子核到纳米管，故事都是一样的：HMC 使得科学家能够严谨地将复杂的理论与充满噪声的现实联系起来。

探索的艺术：驯服困难的几何

当然，我们想象中的粒子的旅程并非总是一帆风顺。有时势能景观是险恶的，充满了深邃狭窄的峡谷和蜿蜒的沟壑。在这些情况下，粒子可能会因冲下陡壁而获得过快的速度，导致数值模拟变得不稳定并“发散”。

这种危险几何的一个经典例子是“Neal 漏斗”，它经常出现在分层统计模型中——即模型中的参数本身是从由其他参数（超参数）控制的分布中抽取的。想象一个模型，其中一组参数的方差 $\tau^2$ 本身是未知的。当 $\tau$ 非常小时，所有参数都被迫接近于零，形成一个非常狭窄的漏斗“颈”。当 $\tau$ 很大时，参数可以自由漫游，形成一个宽阔的“口”。试图探索这个景观的 HMC 采样器可能会卡住，在漏斗颈的陡壁之间剧烈地来回弹射。

在这里，我们看到应用 HMC 既是一门艺术，也是一门科学。解决方案不是用更小的步长来强行模拟，而是要施展一种数学上的“柔道”。通过进行一次巧妙的变量替换——一种“非中心化参数化”——我们可以改变问题本身的几何形状。这种重参数化不会改变底层模型，但它可以将一个险恶、弯曲的漏斗变成一个 HMC 可以轻松导航的简单、平坦的景观。这是一个美妙的证明，有时解决一个难题的关键在于找到一个更好的看待它的方式。

教会机器怀疑：贝叶斯人工智能

HMC 近期最令人兴奋的应用可能是在人工智能领域。大多数现代机器学习模型，如深度神经网络，被训练来找到一组最小化损失函数的“最佳”参数（权重和偏置）。这会给你一个单一的答案。但它总是正确的吗？我们对它的预测应该有多大信心？

贝叶斯神经网络（BNN）提供了一个深刻的替代方案。其目标不是找到一组权重，而是找到一个与训练数据一致的所有可能权重集上的完整概率分布。这正是 HMC 所擅长解决的问题。这种联系是惊人地直接：网络权重 $\mathbf{w}$ 的后验概率的负对数，变成了势能 $U(\mathbf{w})$ 。而损失函数的梯度——在训练标准网络时通过反向传播算法常规计算——正是驱动 HMC 模拟的力 $-\nabla U$ 。

通过运行 HMC，我们得到的不是一个神经网络，而是从后验分布中采样的数千个合理的网络。为了进行预测，我们可以询问所有这些网络，并观察它们答案的离散程度。如果它们都同意，我们就可以非常有信心。如果它们意见分歧很大，BNN 实际上是在告诉我们：“我不确定。” 这种量化不确定性的能力是革命性的。对于自动驾驶汽车的视觉系统来说，这相当于在“盲目相信一个模糊形状不是行人的预测”和“认识到自身的不确定性并谨慎行事”之间的区别。HMC 正是那个不仅能让机器学会学习，还能让它们学会知道自己不知道什么的引擎。

下一步：弯曲时空中的台球

物理类比的力量不止于此。我们一直在思考我们的粒子在一个“平坦”的欧几里得空间中的景观上滚动。但如果空间本身的几何是弯曲的呢？这是 Einstein 广义相对论的核心思想，并且它在统计学中有着惊人的对应。

像黎曼流形 HMC（RMHMC）这样的高级算法，将概率景观不视为平坦空间中的一个表面，而是看作一个内在弯曲的流形。在这个图像中，我们粒子的“质量”不再是一个简单的常数。它变成一个位置相关的质量矩阵，或称“度量张量”，它能适应分布的局部几何形状。这种度量的一个自然选择是费雪信息矩阵，这是信息论中的一个基本对象，用于衡量一个随机变量携带的关于未知参数的信息量。

其效果是为模拟赋予了新的智能水平。在景观相对平坦的区域，粒子的行为如同它“很重”，允许它迈出大的、稳定的步伐。在曲率高的区域——比如我们讨论过的险恶漏斗——粒子变得“更轻”，使其能够以更小、更谨慎的步伐在狭窄的角落中导航。这一扩展将物理类比推向了其逻辑结论，不仅将统计采样与经典和量子力学联系起来，还与弯曲空间的微分几何联系起来。

从其解码自然基本力的起源，到其在创造更安全的人工智能方面的现代作用，哈密顿蒙特卡洛证明了一个好类比的力量。一个粒子探索景观这个简单而优雅的想法，为我们提供了一个统一且非常有效的工具，用于在复杂和不确定的世界中进行发现。