玻尔百科在追求科学发现的过程中，一个重大的飞跃是从解决单一问题转变为学习支配该问题的普适定律。这一雄心推动了一类旨在理解物理学本身的新型深度学习模型的发展，其中傅里叶神经算子 (FNO) 处于前沿。传统的神经网络擅长学习函数，但在学习算子——描述物理原理的、函数与函数之间的基本映射——时却力不从心。这一关键的差距限制了它们在不同条件下泛化的能力，导致需要不断进行成本高昂的重新训练。
本文深入探讨傅里叶神经算子的世界，阐明它们如何克服这一挑战。在“原理与机制”一章中，我们将剖析其核心理论，解释 FNO 如何利用傅里叶变换的数学优雅性在频域中高效学习。随后，“应用与跨学科联系”一章将展示 FNO 在不同领域的变革性影响，从加速工程模拟、赋能自驱动实验室到革新天气预报。我们首先将探索使这些强大模型成为可能的基本概念。
所以，我们有这样一个宏伟的愿景：一台机器不仅能解决一个物理问题，而且能学习定律本身。想象一下，你有一个复杂的物理系统，比如说，热量在计算机芯片中的传播方式，或者桥梁在荷载下的变形方式。对于任何给定的热源，我们想要得到温度场。对于任何给定的荷载，我们想要得到位移。我们感兴趣的不是仅仅记住一个特定荷载下的答案；我们想要一个通用的求解器，能够处理我们给它的任何荷载。这就是学习一个函数和学习一个算子之间的区别。
让我们更精确一点，因为这个区别至关重要。当我们谈论学习一个函数时，我们指的是学习一个从点到值的映射。例如，对于一个固定的热源 ，我们可以训练一个神经网络来学习温度图 。网络的输入是坐标 ，输出是该坐标处的温度 。这很有用，但如果我们把热源换成一个新的 ，我们的网络就没用了。我们必须为这个新场景完全重新训练它。
我们真正渴望的是学习解算子，我们可以称之为 。这是一个更为宏大的对象。算子是整个函数到另一个整个函数的映射。在我们的例子中，算子 将整个热源函数 作为其输入，并返回整个温度场 作为其输出：。学习这个算子就像学习热传递的基本定律本身。一旦你学会了 ，你就可以预测任何热源的温度，而无需重新训练。这是科学机器学习的终极目标。为了实现这一点，模型不能仅在单一场景上训练，而必须在一整批输入函数及其对应的输出解上进行训练，这样它才能泛化到新的、未见过的输入。
好了，我们需要学习一个算子。为什么不直接用一个巨大的、标准的神经网络来解决呢？比如说，一个大型的多层感知机 (MLP)。毕竟，它是一个“通用逼近器”！
让我们做一个小小的思想实验，看看为什么这是一个糟糕的主意。想象一个简单的一维物理系统，由一个像 这样的方程控制。这个方程是平移不变的，意味着如果你把整个实验向左或向右移动一点，底层的物理定律不会改变。系统对在位置 处的力的响应与对在位置 处的相同力的响应是相同的，只是移动了 。这是许多物理定律的一个基本对称性。
现在，让我们训练两个网络。一个 MLP 和一个简单的卷积神经网络 (CNN)。我们将只用一个例子来训练它们：系统对在单一点（比如 ）上的一个尖锐刺激（一个“狄拉克δ函数”或脉冲）的响应。这个问题的解被称为格林函数，或脉冲响应。
结果会怎样呢？CNN 的架构本身就建立在卷积——即在输入上滑动一个小滤波器——的思想之上，它内置了平移不变性。它学习了脉冲响应。然后，当我们用一个在不同位置（比如 ）的脉冲来测试它时，它给出了正确的、平移后的响应！它从一个例子中完美地泛化了。
然而，强大的 MLP 却灾难性地失败了。它学会了将 处的输入与正确的输出关联起来。但是当输入移动到 时，MLP 就束手无策了。它没有学会物理定律；它只记住了一对特定的问答。它缺乏正确的归纳偏置。
这是一个深刻的教训。你的网络架构必须反映你试图解决的问题的对称性。对于平移不变的系统，关键操作是卷积。任何输入 的解都只是 与系统脉冲响应的卷积。CNN 隐式地学会了这一点。这就把我们带到了傅里叶神经算子的大门口。
事实证明，大自然有一种描述平移不变系统的首选语言，那就是波的语言。任何信号，无论多么复杂——海岸线的形状、小提琴的声音，或房间里的热量分布——都可以表示为不同频率和振幅的简单纯波（正弦和余弦）的总和。傅里叶变换是充当我们通用翻译器的数学工具，它将一个函数从其在物理空间中的表示转换为其在“频率空间”（也称为傅里叶空间或谱空间）中的表示。
为什么这种转换如此有用？因为在所有数学中，最神奇的定理之一——卷积定理——告诉我们，物理空间中杂乱的卷积操作，在频率空间中变成了简单的、逐点的乘法。
让我们把它写下来。如果解 是输入 与一个核 的卷积，写作 ，那么在傅里叶域，这就变成了：
此处， 是傅里叶变换， 代表频率（或波矢量）。复杂的卷积积分运算变成了简单的乘法！这就是傅里叶神经算子背后的核心思想。
傅里叶神经算子 (FNO) 没有在物理空间中费力地学习一个复杂的卷积算子，而是采取了一条更聪明的路线。其策略简单而优雅：
这不仅仅是一个计算技巧；它深深植根于物理学本身。考虑热方程 。这个方程的解算子在频域中充当一个滤波器。它将每个频率模式 乘以一个因子 。请注意，对于高频（大的 )，这个因子变得非常非常小。热方程通过阻尼高频振荡自然地使事物平滑化。
FNO 巧妙地利用了这一点。它可以将其有限的参数集中用于学习重要的低频模式的乘子 ，而对那些物理学告诉我们并不重要的高频部分则简单地截断或忽略。这使得学习过程异常高效和稳健。而且这个原理是普适的：虽然傅里叶变换非常适合周期性系统，但对于具有不同边界条件的问题，我们可以使用其他谱变换，如正弦或余弦变换，因为这些函数是在那些情况下对底层微分算子进行对角化的函数。
一个伟大物理原理的美妙之处在于它能在不同领域中回响。在傅里叶域中思考的力量就是这样一个原理。
在量子化学中，当计算材料性质时，会遇到臭名昭著的 Hartree-Fock 交换算子。这个算子处理起来极为困难，因为它是“非局域的”——空间中某一点的影响取决于系统在其他所有地方的状态。然而，就像我们偏微分方程的解算子一样，这个复杂的非局域算子可以表示为与库仑相互作用的卷积。而且，你猜对了，通过切换到傅里叶域，这个卷积变成了一个简单的乘法，将计算成本从令人望而却步的 大幅降低到可管理的 ，这得益于 FFT。FNO 的核心机制与计算物理学家用来驯服量子力学复杂性的机制是相同的。
这里有另一个或许更令人惊讶的联系。让我们回到深度神经网络。一个非常深的网络可以被看作一个动力系统，其中信息从一层传播到下一层，就像一个信号随时间演化一样。训练这些网络时的一个常见问题是“梯度爆炸”，即误差信号在通过网络反向传播时呈指数级增长，导致数值不稳定。
如果我们对一个简单的线性深层网络建模，防止这种爆炸的条件是一个稳定性问题，与数值求解偏微分方程时遇到的问题完全相同。我们可以使用冯·诺依曼方法（von Neumann method）来分析这种稳定性，这涉及到……傅里叶变换！网络的稳定性取决于层与层之间算子的特征值，对于卷积层来说，这些特征值可以在傅里叶域中找到。防止梯度爆炸的条件是，每个傅里叶模式的放大因子必须小于或等于一。这是一个惊人的一致性：确保深层网络足够稳定以便训练的数学分析，与 FNO 架构中高效求解物理方程的机制如出一辙。
所以，我们有了这个强大且有物理动机的想法。我们如何让它在工程师和科学家实际面临的问题上奏效呢？想象一下，试图模拟一个巨大 3D 发动机缸体的稳态温度，该缸体由一个庞大的 点网格表示。单个数据样本的大小可能超过 1GB！试图将整个模拟加载到 GPU 中进行训练是行不通的；你会立即耗尽内存。
这就是巧妙的工程设计在物理学指导下发挥作用的地方。我们不能使用整个域，所以我们必须在更小的区块上进行训练。但正如我们所见，这样做充满风险。像 CNN 这样的局部算子需要“看到”一个点周围的邻域才能做出正确的预测。如果一个区块太小，靠近边界的预测就会出错，因为算子的感受野被切断了。
一个有效的策略是使用重叠区块。你提取一个区块，但只在其内部计算误差，避免了被破坏的边界区域。为了在物理上保持一致，被忽略的边界大小必须至少与算子的感受野一样大。
一个更为优雅的解决方案是多分辨率课程。你首先在一个经过大幅下采样的、粗粒度的整个域（例如，）上训练一个傅里叶神经算子。在这个粗粒度级别上，FNO 非常擅长学习全局的、长程的物理学，即域中遥远部分如何相互影响。然后，在第二阶段，你在原始 网格的细粒度区块上训练一个局部 CNN。但诀窍在于：你向局部 CNN 提供一条额外信息——来自 FNO 的粗粒度全局解。这为局部模型提供了它所缺失的全局上下文，使其能够将其详细的局部预测“拼接”成一个全局一致的整体。
这种全局谱算子和局部空间算子的结合，在精心管理下既尊重物理原理又考虑硬件限制，展示了 FNO 的理论优雅如何转化为解决真实、复杂和大规模科学问题的强大工具。这是物理学、数学和计算机科学的美妙综合。
现在我们已经深入了解了傅里叶神经算子的原理和机制，你可能会想，“这确实是个巧妙的数学技巧，但它到底有何用处？” 这是对任何科学新思想都应该提出的最重要的问题。一个概念的美妙之处在于，当它离开黑板，帮助我们以一种新的方式看待世界，或者更好的是，帮助我们在这个世界上创造新事物时，才真正显现出来。
傅里叶神经算子的故事不仅仅是关于数据和神经网络的故事；它是物理学和工程学中一个悠久而辉煌的传统的顶峰。几个世纪以来，我们已经明白，许多物理现象可以从两种互补的方式来看待：作为在特定时空点发生的事件，或者作为不同频率的相互作用波的宏大交响乐。想一想音乐中的和弦。你可以将其描述为在你耳膜处快速波动的压力波（即“时域”），或者你可以将其描述为几个纯音的组合——一个 C、一个 E 和一个 G——它们具有特定的频率（即“频域”）。第二种描述通常更简单、也更有洞察力。
傅里叶变换的精妙之处在于它让我们能够在这两种语言之间进行翻译。在神经网络出现之前很久，物理学家就已经在用这种转换来解决他们一些最棘手的问题。从某种意义上说，傅里叶神经算子的架构是对这些经典方法的致敬，是一个经过时间检验的思想的数据驱动演进。
要欣赏 FNO，我们必须首先欣赏它的根源。其核心思想——在实空间做一些工作，变换到傅里叶空间，在那里做一些更简单的工作，然后再变换回来——是计算科学的基石。
考虑设计一个大型薄结构所面临的挑战，比如建筑物的楼板或飞机的机翼。工程师必须了解它在荷载下将如何弯曲。如果板放置在弹性地基上，就像一个弹簧床垫，其物理过程由一个极其复杂的偏微分方程描述。然而，如果你用波的语言提问——“板对缓慢的波状荷载与对短促的波状荷载的响应有何不同？”——傅里叶变换会给出一个异常简洁的答案。在傅里叶空间中，描述板刚度的复杂微分算子变成了一个简单的代数公式，即“谱刚度”，它告诉你对于每个空间频率，板抵抗弯曲的程度。刚度是波数 的函数。这告诉我们，地基的剪切特性对于抵抗短波长变形最为重要。这就是傅里叶分析提供的物理直觉，也正是 FNO 设计用来捕捉的直觉。
这种“谱”思维方式无处不在。在量子世界中，粒子的波函数根据薛定谔方程演化。演化由两种相互竞争的效应驱动：在实空间中局部作用的势能，以及在动量空间（这只是一个傅里叶变换的距离）中形式简单的动能。长期以来，计算物理学家一直使用一种巧妙的“算符分裂法”来模拟这一过程：他们给波函数一个来自势能的微小“推动”，将其变换到动量空间，让它在动能作用下“漂移”，然后将其变换回来进行下一次推动。这种在实空间和傅里叶空间之间的舞蹈，这种在交替域中的一系列简单操作，正是 FNO 层的结构！FNO 借鉴了这种模拟量子动力学的成熟配方，并将其转变为一个通用的学习模块。
同样的故事也发生在最宏大的尺度上。想象一下试图计算星系中每颗恒星之间的引力。直接计算将涉及与恒星数量平方成正比的相互作用次数——这是一项不可能完成的任务。但通过粒子-网格方法，物理学家找到了一个捷径。他们将恒星的质量撒在一个网格上，就像画家在画布上点染颜料一样。然后他们使用 FFT 将这个质量分布转换到傅里叶空间。在这里，由泊松方程描述的引力定律变成了一个简单的除法。一次快速傅里叶逆变换之后，他们就得到了整个星系的引力势。这不是一个近似；这是一种精确且极其高效地解决问题的方法，其核心逻辑正是驱动 FNO 的动力。
经典方法固然强大，但它们有一个共同的要求：你必须知道你正在求解的方程。你需要知道谱刚度的确切公式，或者动量空间中的动能公式。
但是，如果你不知道呢？如果物理过程是多个相互作用过程的复杂纠缠呢？或者，如果你甚至没有方程，只有来自实验或高保真模拟的数据呢？
这就是傅里叶神经算子隆重登场的地方。它借鉴了经典谱方法的架构智慧，但用一个可学习的规则取代了傅里叶空间中固定的、手工推导的物理规则。算子的“核”不再是像 这样的静态公式，而是一组参数 ，这些参数通过数据训练来捕捉潜在的物理学，无论其内容为何。
这个简单而深刻的改变，解锁了跨学科应用的广阔天地。
许多现代工程挑战，从设计涡轮叶片到创造新型复合材料，都依赖于大规模的计算机模拟。一种称为有限元分析 (FEA) 的技术是主力，但运行一次模拟可能需要数小时甚至数天。这使得设计探索和优化过程异常缓慢。
FNO 提供了一条出路。通过在一组高保真模拟上训练 FNO，我们可以创建一个“代理模型”。这个代理是一个神经网络，它学习从设计参数（如机翼形状或复合材料中的纤维布局）到性能（如应力场或空气动力升力）的映射。因为 FNO 效率极高，它可以提供近乎瞬时的预测。这是经典技术（如用于寻找复杂材料有效属性的基于 FFT 的均匀化方法）的学习版本。虽然经典方法依赖于已知的参考材料和特定的积分方程，但 FNO 可以直接从数据中学习更复杂和非线性的响应，将设计周期加速几个数量级。
也许最具有未来感的应用是在“自驱动实验室”中。例如，在材料科学领域，科学家们不断寻找具有理想特性的新材料。这通常涉及一个艰苦的合成与表征过程。
现在，想象一个实验装置——比如说，用于生长一种新型金属合金的装置——正在由一台原位 X 射线显微镜进行实时监控。显微镜产生一系列图像流，显示不同元素浓度的演变。一个在先前实验数据或模拟上训练过的 FNO，可以观察这些图像，并预测材料的微观结构在未来几分钟或几小时内会是什么样子。这个预测随后可以被输入到一个 AI 控制算法中，该算法会即时调整实验条件（如温度或压力），以引导合成过程朝着期望的结果发展。FNO 充当了 AI 的一个快速、前瞻性的“想象力”，实现了一个预测与行动的闭环，能够以前所未有的速度加速发现。
流体的运动，从我们大气中的空气到海洋中的水，都由极其困难的纳维-斯托克斯方程控制。预测天气和模拟气候变化依赖于我们准确高效地求解这些方程的能力。几十年来，这一直是世界上最大型超级计算机的领域。
最近，FNO 在该领域产生了巨大影响。在数十年历史天气数据上训练后，基于 FNO 的模型已经展示出其生成的天气预报不仅比传统的数值天气预报 (NWP) 模型快得多，而且在某些情况下更准确。它们通过在波和涡流的自然语言中——这与傅里叶域天然契合——直接学习行星大气的复杂动力学来实现这一点。这种速度上的革命为运行大规模的集合预报以更好地量化不确定性，或进行以前计算上无法实现的高分辨率气候预测开辟了可能性。
傅里叶神经算子的历程，从其在经典物理学中的根源，到其在人工智能驱动科学前沿的角色，是科学思想统一性的美丽见证。它告诉我们，自然的模式——无论是在钢板的弯曲中、量子粒子的舞蹈中、横跨星系的引力中，还是大气的涡旋中——通常都可以通过波的通用语言来理解。通过将这一永恒的物理原理与现代深度学习的自适应能力相结合，FNO 不仅提供了一个工具，更提供了一个新的镜头，让我们得以观察、理解和改造我们周围的世界。