多项式混沌展开

玻尔百科

核心要点

多项式混沌展开将随机输入的函数表示为一系列正交多项式，其作用类似于“随机变量的傅里叶级数”。
该方法可以通过重构控制方程以侵入式方式实现，或通过将计算模型视为黑箱以非侵入式方式实现。
PCE 的一个关键优势是能够创建一个快速的代理模型，从中可以高效地计算统计矩（均值、方差）和敏感性指数。
正交多项式基（例如 Hermite、Legendre）的选择由随机输入的概率分布通过 Wiener-Askey 格式直接确定。

引言

在科学与工程领域，从设计飞机到模拟气候变化，我们始终面临一个根本性的挑战：不确定性。我们最复杂模型的输入——材料属性、环境条件、物理参数——几乎都无法以完美的精度获知。这种随机性不可避免地在我们的模拟中传播，使得输出本身也变得不确定。但是，我们如何才能刻画、量化并最终驾驭这种不确定性呢？答案在于一个被称为多项式混沌展开（Polynomial Chaos Expansions, PCE）的强大数学框架。本文旨在揭开 PCE 的神秘面纱，不将其呈现为一套晦涩的方程组，而是作为一个我们熟悉概念的直观而优雅的推广：傅里叶级数。

正如复杂的声音可以分解为简单的正弦波，PCE 允许我们将任何依赖于随机输入的量分解为一系列由正交多项式定义的基本不确定性“形状”。接下来的章节将引导您深入理解这一强大思想。在“原理与机制”一章中，我们将探讨 PCE 的数学基础，从随机空间中的正交性概念到计算展开式的实用方法。随后，在“应用与跨学科联系”一章中，我们将见证 PCE 的实际应用，展示它如何在广泛的科学领域中实现敏感性分析、稳健设计和模型校准。

原理与机制

要真正领会多项式混沌展开的力量与优雅，我们不应从一堆方程开始。相反，让我们从一个更熟悉的概念谈起：音乐。想象一个复杂的声音，比如小提琴演奏的音符。您的耳朵听到的是一个单一、丰富的音调，但这个声音实际上是多种更简单振动的交响乐——一个基频和一系列泛音。法国数学家 Joseph Fourier 告诉我们，任何周期信号，无论多么复杂，都可以通过将不同频率和振幅的简单正弦波和余弦波相加来完美重构。这就是傅里叶级数的精髓。

这一魔力的关键在于一种称为正交性的属性。在一个完整周期内，某个频率的正弦波与另一个不同频率的正弦波在特定的数学意义上不会“重叠”。这使我们能够将复杂的声波“投影”到每个简单的正弦波上，并提问：“我的信号中含有多少这个频率的成分？”这个问题的答案就给出了该正弦波在级数中的系数。用于此投影的数学工具是内积，对于时间信号而言，这通常是它们乘积在一个周期上的积分。

多项式混沌展开（PCE）借鉴了这一深刻思想，并将其从确定性的信号世界带入充满不确定性的随机世界。它本质上提供了一种“随机变量的傅里叶级数”。想象一下，您是一位正在设计桥梁的工程师。您使用的钢材强度不是一个固定的数值，而是存在某种统计变化。风荷载并非完全可预测，它是一个随机过程。因此，您桥梁关键节点上的最终应力不是一个单一的数值，而是一个不确定的量——这些随机输入的函数。我们如何表示这个关于不确定性的函数？我们像分解声波一样，将其分解为一系列更简单、更基本的不确定性“形状”之和。

随机性的构建模块

对于傅里叶级数，其构建模块是正弦和余弦，它们天然适用于周期性现象。那么，表示随机变量 $\xi$ 的函数的基本构建模块是什么呢？答案出人意料地取决于不确定性本身的性质——也就是 $\xi$ 的概率分布。

为了让这个概念更精确，我们需要推广内积的概念。对于依赖于随机变量 $\xi$ 的两个函数 $f(\xi)$ 和 $g(\xi)$ ，它们的内积定义为其乘积的期望值：

\langle f, g \rangle = \mathbb{E}[f(\xi)g(\xi)] = \int f(x)g(x) \rho(x) \mathrm{d}x

其中 $\rho(x)$ 是 $\xi$ 的概率密度函数（PDF）。请注意这里美妙的平行关系：傅里叶内积涉及在确定性区间上的积分，而 PCE 内积则涉及在所有可能结果的空间上由概率密度加权的积分。概率分布本身成为了我们数学机制的基础部分。

我们的构建模块必须关于这个新的内积是正交的。这一探索引导我们走向的不是正弦和余弦，而是正交多项式族。我们必须使用的具体族系由输入不确定性的分布决定，这一联系在著名的 Wiener-Askey 格式中得以形式化。这个格式就像一块不确定性领域的罗塞塔石碑，将常见的随机性类型映射到它们的“自然”多项式基：

如果一个输入遵循高斯（正态）分布（例如随机测量误差），正确的构建模块是Hermite 多项式。
如果一个输入遵循均匀分布（例如一个参数仅已知在 -1 和 1 之间），我们必须使用Legendre 多项式。
如果一个输入遵循伽马分布（常用于等待时间），其基是Laguerre 多项式。
如果一个输入遵循贝塔分布（灵活适用于有限区间上的变量），其基是Jacobi 多项式。

这揭示了不确定性数学中深层次的统一性。随机性的“形状”本身就告诉我们必须使用哪种数学语言来描述依赖于它的函数。当我们有多个独立的随机输入时，比如 $\boldsymbol{\xi} = (\xi_1, \xi_2, \dots, \xi_d)$ ，我们可以通过简单地将每个输入的相应一元多项式相乘——即张量积——来构建一个多维基。

投影与近似的艺术

一旦我们有了正交多项式基 $\{\Psi_{\boldsymbol{\alpha}}(\boldsymbol{\xi})\}$ ，我们就可以将我们感兴趣的量 $Y(\boldsymbol{\xi})$ 写成一个展开式：

Y(\boldsymbol{\xi}) = \sum_{\boldsymbol{\alpha}} c_{\boldsymbol{\alpha}} \Psi_{\boldsymbol{\alpha}}(\boldsymbol{\xi})

我们如何找到这些系数 $c_{\boldsymbol{\alpha}}$ ？我们使用与傅里叶分析中相同的投影技巧。我们“询问”我们的复杂函数 $Y$ 包含了多少每个简单的基多项式 $\Psi_{\boldsymbol{\alpha}}$ 。这种“询问”是通过内积完成的。如果我们使用的基不仅是正交的，而且还被归一化为单位“长度”——即一个标准正交基——那么计算就会变得异常简单：

c_{\boldsymbol{\alpha}} = \langle Y, \Psi_{\boldsymbol{\alpha}} \rangle = \mathbb{E}[Y(\boldsymbol{\xi}) \Psi_{\boldsymbol{\alpha}}(\boldsymbol{\xi})]

这个过程被称为伽辽金投影，它保证了我们的截断有限项近似 $Y_p(\boldsymbol{\xi}) = \sum_{|\boldsymbol{\alpha}|\le p} c_{\boldsymbol{\alpha}} \Psi_{\boldsymbol{\alpha}}(\boldsymbol{\xi})$ 是在均方意义下次 $p$ 的最佳近似。这意味着它最小化了平均平方误差 $\mathbb{E}[(Y - Y_p)^2]$ 。整个框架建立在希尔伯特空间理论的坚实基础上，其中我们的函数是向量，而正交性具有与三维空间中向量相同的几何意义。

随着我们增加多项式次数 $p$ ，这个近似改善的速度关键取决于函数 $Y(\boldsymbol{\xi})$ 的光滑度。如果 $Y$ 是其输入的无限光滑（解析）函数，误差会以指数速度快速下降——这一现象被称为谱收敛。这使得 PCE 在效率上可能远超其他方法。如果函数不那么光滑，收敛速度会变慢，但仍然是可预测的。这是科学中一个反复出现的主题：底层现实越光滑，我们就能越高效地用简单的构建模块来描述它。

从抽象数学到工程现实

这一切都非常优雅，但在实践中我们如何计算这些系数呢？我们感兴趣的量 $Y$ 通常是一个复杂的、拥有数百万行代码的计算机模拟的输出，比如用于喷气发动机的计算流体力学（CFD）代码。我们没有 $Y(\boldsymbol{\xi})$ 的显式公式来代入我们的期望积分。这个实际挑战催生了两种实现 PCE 的主流哲学。

侵入式多项式混沌： 这是纯粹主义者的方法。您需要获取物理模型的控制方程（例如，流体流动的 Navier-Stokes 方程），并用 PCE 级数替换每个不确定的量。这一英勇的行为将原始方程组转化为一个新的、大得多的、关于确定性 PCE 系数 $\{c_{\boldsymbol{\alpha}}\}$ 的耦合方程组。一次性求解这个庞大的系统就能得到所有系数。推导过程涉及计算基多项式三重[积的期望值](@entry_id:153208) $\langle \psi_i \psi_j \psi_k \rangle$ ，它将所有方程耦合在一起。这种方法在数学上很优美，并且可以非常精确。其缺点在于其“侵入性”：它需要完全重写模拟软件，对于复杂的遗留代码来说，这项任务通常不切实际或成本高昂。

非侵入式多项式混沌： 这是实用主义者的方法。它将现有的模拟代码视为一个黑箱。您无法窥视其内部，但可以运行它。因此，您就这样做。您在随机输入空间中智能地选择一组样本点 $\{\boldsymbol{\xi}^{(i)}\}$ ，为每个样本运行您未更改的代码以获得输出 $\{Y(\boldsymbol{\xi}^{(i)}) \}$ ，然后使用这些输入-输出对来确定 PCE 系数，通常通过最小二乘回归。这种方法非常实用。它不需要修改代码，而且由于每次模拟运行都是独立的，它“易于并行”，非常适合现代计算机集群。其代价是，计算出的系数的准确性现在受制于抽样误差；对于相同数量的基函数，它通常不如侵入式方法精确，但其极高的实用性往往使其成为唯一可行的选择。

回报：一个充满洞见的宇宙

我们为什么要费这么大劲？PCE 的结果不仅仅是一堆数字；它是一个代理模型——一个简单、明确的多项式公式，它能准确模仿我们复杂、运行缓慢的模拟的行为。评估这个多项式几乎是瞬时的。但真正的魔力在于这组系数 $\{c_{\boldsymbol{\alpha}}\}$ “免费”提供给我们的东西。

我们输出的统计矩是这些系数的简单代数函数。均值就是第一个系数，对应于常数多项式 $\Psi_{\boldsymbol{0}}=1$ ：

\mathbb{E}[Y] = c_{\boldsymbol{0}}

方差，衡量输出的总不确定性，是这个随机变量空间中勾股定理的直接推论。它就是所有其他系数平方的和：

\mathrm{Var}(Y) = \mathbb{E}[(Y - \mathbb{E}[Y])^2] = \sum_{\boldsymbol{\alpha} \ne \boldsymbol{0}} c_{\boldsymbol{\alpha}}^2

这是帕塞瓦尔恒等式（Parseval's identity）的一个版本，将函数的总“能量”（方差）与其基本分量的能量之和联系起来。

更强大的是，这些系数能够解锁对不确定性如何通过我们模型传播的深刻理解。我们可以进行敏感性分析来回答关键的工程问题：“哪个输入不确定性来源对我的输出不确定性贡献最大？” 著名的 Sobol' 敏感性指数可以通过对 PCE 系数的特定子集进行平方求和来直接且廉价地计算。一阶指数 $S_i$ 衡量输入 $\xi_i$ 对输出方差的直接贡献，而全效应指数 $T_i$ 衡量 $\xi_i$ 的贡献，包括其与所有其他变量的相互作用，它们都有基于系数的简单公式。这能准确地告诉工程师应该在哪里集中精力以使设计更加稳健。这不仅仅是免费的午餐；这是由正交性的优雅结构提供的一顿丰盛的美食。

如果现实世界是混乱的，输入变量不是独立的而是相关的，该怎么办？标准的基的张量积构造方法就会失效。但这个框架是稳健的。我们可以首先应用一个数学变换，比如 Rosenblatt 变换，将我们的相关输入映射到一组新的独立变量中。然后，我们只需在这个新的、更简单的空间中构建我们的 PCE，这展示了其基本原理的灵活性和强大威力。通过正交分解的视角，即使是最复杂的不确定性景观也可以被绘制、理解，并最终被驾驭。

应用与跨学科联系

在遍历了多项式混沌展开的原理之后，我们已经看到了这个非凡工具是如何工作的。我们已将其理解为一种随机变量的傅里叶级数，一种将不确定量表示为功能丰富的函数交响乐的方法，其中每个函数都扮演着特定的角色，而非一个单一的数字。但是，任何科学工具的真正价值不在于其内在的优雅，而在于它为我们打开了哪些认识世界的新窗口。这个数学机器将我们带向何方？我们能提出什么新问题，又能最终解决哪些旧难题？

事实证明，答案几乎是无处不在。从飞机机翼的设计到我们最基本物质理论的校准，不确定性不是一个需要被消除的麻烦，而是现实的一个核心特征。PCE 给了我们一种与这种不确定性对话、理解其结构并加以利用的语言。现在，让我们来探索其中的一些对话。

分解复杂性：敏感性分析的艺术

在任何具有多个不确定输入的复杂系统中，一个关键问题总是会出现：哪些不确定性最重要？如果我们在模拟气候，我们对气溶胶效应的有限知识是否比我们对云形成模型的不确定性更重要？如果我们在设计一种药物，其与靶蛋白结合亲和力的不确定性是否主导了其代谢率的不确定性？

回答这类问题是全局敏感性分析（GSA）的领域，而这或许是多项式混沌展开最强大和最直接的应用。因为该展开建立在正交多项式的基础上，模型输出的总方差——由所有不确定性共同引起的总“摆动”——可以被完美地分解。总方差就是所有展开系数（除了代表均值的第一个系数）的平方和。每个系数对这个总和的贡献代表了由输入变量的特定相互作用所解释的方差量。

这使我们能够像分离信号一样划分不确定性。我们可以问：总输出方差中有多大比例是由第一个输入变量单独引起的？我们只需收集所有对应于仅依赖该变量的基函数的系数，将它们的平方相加，瞧——我们就得到了它的一阶 Sobol' 指数。我们也可以询问一个变量的总影响，包括其与所有其他变量的微妙相互作用（其总阶 Sobol' 指数），方法是将任何包含它的基函数的系数平方相加。PCE 不仅给我们一个数字；它给了我们一个关于不确定性如何在我们模型中流动的完整、分层的说明。

当我们审视原子世界时，这种抽象的力量变得具体。在计算材料科学中，我们经常使用像 Lennard-Jones 势这样的模型来描述原子间的力。这个简单的模型依赖于几个参数，比如描述键合强度的势阱深度 $\varepsilon$ 和描述原子有效尺寸的范围参数 $\sigma$ 。如果我们对这些参数的知识存在一些不确定性，这如何影响我们对宏观属性（如分子振动频率）的预测？通过将频率表示为关于 $\varepsilon$ 、 $\sigma$ 和原子质量 $\mu$ 的 PCE，我们可以立即计算出 Sobol' 指数。例如，这告诉我们，为了减少预测振动动力学的不确定性，是进行实验来确定键合强度更重要，还是确定原子尺寸更重要。现在，同样的原理对于验证那些正在彻底改变材料发现领域的复杂的机器学习原子间势也至关重要。

塑造未来：在不确定性下进行设计

敏感性分析的洞见是无价的，但在工程领域，风险往往更高。我们必须建造能够工作并且在未知因素面前仍然安全可靠的东西。在这里，PCE 不仅是一种分析工具，更是一位设计伙伴。

考虑设计飞机机翼的挑战。航空学中最令人恐惧的现象之一是“颤振”，这是一种剧烈的气动弹性不稳定性，其中空气动力与机翼自身的结构振动相互反馈，导致灾难性的失效。工程师使用极其复杂的计算机模拟——通常被称为“黑箱”模型，因为其内部工作机制是隐藏的——来预测给定机翼设计的颤振速度。但是，当机翼的材料刚度、其质量分布或飞行的马赫数不能被精确知晓时会发生什么？为了检查每一种可能性而进行数千次昂贵的模拟，在计算上是不可能的。

这正是非侵入式 PCE 大显身手的地方。我们不是运行数千次模拟，而是精心选择几十次运行。然后，我们使用这些结果来拟合颤振速度的 PCE 代理模型的系数。这个代理模型是一个评估成本极低的多项式，它模仿了完整、复杂的模拟。有了这个代理模型，我们可以即时探索不确定性的影响，计算在给定速度下发生颤振的概率，并稳健地设计机翼，使其在整个预期条件范围内都是安全的。我们用一小堆精心构建的数学代替了山一般庞大的计算量。

PCE 的哲学也可以直接融入我们物理模型的结构中。在地质学和水文学等领域，我们常常需要理解流体在多孔介质中的流动，比如含水层中的地下水或油藏中的石油。岩石的渗透率可能在不同点之间随机且剧烈地变化。一个关键挑战是“升尺度”：从其更小、随机的组成部分的属性来确定一大块岩石的有效渗透率。当细尺度渗透率遵循某些统计规律（如对数正态分布）时，我们可以使用 PCE 来表示它。串联流动的物理学决定了有效渗透率是小尺度值的调和平均。值得注意的是，当我们将这种非线性平均应用于 PCE 表示时，展开式的数学结构有时允许我们推导出升尺度属性及其统计矩的精确解析公式。PCE 的数学形式直接反映了物理平均过程，为微观随机性如何聚合成宏观有效行为提供了深刻的洞见。

从宇宙到原子核：校准我们的自然模型

除了工程领域，PCE 也为基础科学本身提供了一个强大的框架。通常，目标不仅是通过一个已知模型来传播不确定性，而是利用实验数据来发现我们理论中的未知参数——这个过程被称为模型校准或逆问题。

想象一下试图建立一个原子核的模型。我们的理论可能会使用一个“光学势”来描述射弹与原子核之间的相互作用，该势具有像有效半径 $R$ 这样的参数。这个半径不是一个固定的常数；它可能取决于射弹的能量 $E$ 。我们可以进行散射实验来收集数据，但我们如何利用这些数据来确定函数 $R(E)$ 并量化我们对其的不确定性呢？

PCE 提供了一个优雅的解决方案。我们可以假设半径本身有一个 PCE 表示， $R(E, \xi) \approx \sum c_k(E) \psi_k(\xi)$ ，其中 $\xi$ 代表我们潜在的模型不确定性。系数 $c_k(E)$ 现在是能量的未知函数。利用实验数据，我们可以进行统计拟合——本质上是一种回归形式——来确定最佳的函数 $c_k(E)$ 。我们扭转了问题：我们不是向前传播不确定性，而是使用 PCE 构建了一个灵活的、能够感知不确定性的模型，并可以根据现实进行校准。一旦校准完成，这个 PCE 模型就成为一个强大的预测工具。我们可以用它来计算一个新能量下的预期反应截面，以及至关重要的，该预测中的方差，它代表了我们剩余的不确定性。这种方法将 PCE 从一个简单的传播器转变为一个用于科学发现的复杂引擎。

了解局限：前沿指南

没有工具是万能的，诚实的科学家，就像好奇的学生一样，必须总是问：“它在哪里会失效？” PCE 的优雅之处在于它能够将不确定性问题转化为函数及其系数的语言。当不确定性以相对简单的方式进入我们的方程时——例如，作为微分方程中的一个不确定系数——这种转换工作得非常漂亮。

但是，如果不确定性更加隐蔽呢？考虑一个其演化依赖于过去状态的系统，由延迟微分方程描述，这是生物学和控制理论中常见的模型。如果延迟 $\tau$ 本身就是不确定参数怎么办？例如，一个种群的变化率可能取决于一个随机时间前的种群大小， $y'(t) = -y(t - \tau(\xi))$ 。

当我们试图在这里应用标准的“侵入式”PCE 方法时，我们遇到了一个深刻的障碍。项 $y(t - \tau(\xi))$ 涉及在一个随机偏移的时间点上评估解的 PCE 系数。我们在更简单问题中发现的整洁的代数封闭性消失了，取而代之的是一个复杂的方程组，它耦合了所有系数，并依赖于它们的整个过去历史。此外，这类延迟系统的稳定性通常对延迟值极为敏感。如果不确定性跨越一个临界值（对于这个方程，是在 $\tau = \pi/2$ ），我们系统的某些样本路径可能会稳定并衰减，而其他路径可能会剧烈振荡并无界增长。输入参数的微小变化导致行为的这种剧烈改变，可能会破坏 PCE 所依赖的平滑收敛性。这并不意味着 PCE 在这里毫无用处，但它告诉我们问题更深层次。它推动我们去开发新的方法，并提醒我们，随机性本身的特性决定了我们必须用来理解它的工具。

我们的探索表明，多项式混沌展开远不止是一种数值上的奇技淫巧。它是一种统一的语言，使我们能够在广阔的科学和工程领域中，严谨地讨论、分解和利用不确定性进行设计。它为我们提供了一个镜头，不仅能看到单一的、确定性的答案，还能看到丰富多彩的各种可能性，并在此过程中，建立一个对我们周围世界更稳健、更深刻的理解。