
我们如何从不完整或含噪的数据中得出可靠的结论?这一根本性挑战是所有科学探究的核心。从解读来自外太空的微弱信号到理解临床试验中的混乱数据,我们始终面临着在不确定性下进行推理的需求。概率推断为这一过程提供了形式化框架,充当了科学发现的严谨逻辑。它提供了一套原则,用于权衡证据、更新我们的信念,并如实地量化我们所知——以及我们所不知。本文旨在揭开这个强大框架的神秘面纱。第一章“原理与机制”深入探讨了基本概念,探索了频率学派和贝叶斯学派这两大思想流派,以及将原始数据转化为知识的数学机制。随后的“应用与跨学科联系”一章将展示这些原理在现实世界中的应用,为解决生物学、神经科学等领域的问题提供一个通用视角。
想象你是一名在犯罪现场的侦探。你手头有一些线索——指纹、一个脚印、一份目击者陈述。你的工作是推断发生了什么。这本质上就是科学家所做的工作。宇宙留下线索,我们建立理论来解释它们。概率推断正是这种侦探工作的形式化语言。它是一套用数据进行推理、权衡证据以及量化不确定性的原则。它不仅仅是一系列方法的集合,更是一种关于知识本身的深刻思考方式。
在我们用概率进行推理之前,我们必须问一个看似简单的问题:概率是什么?这个问题的答案将统计学界分成了两大思想流派,理解这一分歧是理解后续一切的关键。
第一个学派是频率学派,他们将概率定义为长期频率。如果你说一枚硬币正面朝上的概率是 ,频率学派听到的是,如果你将这枚硬币抛掷一百万次或十亿次,正面朝上的比例将收敛到 。概率是物理世界的一种属性,是可重复实验的一个客观特征。在这种观点下,谈论某个自然基本常数(如电子质量)的“概率”是毫无意义的。电子只有一个真实的质量,它不会在不同的实验中变化。对于频率学派来说,概率描述的是在给定一个关于世界的固定但未知的真相的情况下,我们可能得到的数据。
第二个学派是贝叶斯学派,他们持有更为个人化的观点。概率是一种信念的程度或对不确定性的量化。当一个贝叶斯学派的人说硬币正面朝上的概率是 时,他们是在陈述自己的信念:正面和反面是同样合理的两种结果。这个定义更加灵活。贝叶斯学派的人完全乐于谈论电子质量在某一范围内的概率。这并不是说电子的质量在变化,而是我们对它的知识不完整。概率存在于我们的头脑中,是我们认知状态的一种度量。对于贝叶斯学派来说,概率可以赋予任何不确定的事物,包括我们理论中的参数本身。
这种哲学上的分歧不仅仅是学术闲谈。它导致了处理数据时截然不同的方法,我们接下来就会看到。
两种思想学派在一个核心概念上达成了一致:似然函数。它是连接我们理论模型与观测数据的桥梁。假设我们有一个带参数 的模型(这个参数可以是任何东西,从药物的有效性到新粒子的质量)。我们收集了一些数据。似然函数,通常写作 ,指的是如果真实参数值是 ,我们观测到这些特定数据的概率。
理解这个函数不是什么至关重要。它不是 是真实参数的概率。恰恰相反:它告诉我们,在特定 的假设下,我们的数据有多大的合理性。我们可以想象滑动 的值,观察我们数据的似然是上升还是下降。数据是固定的,我们改变的是假设。
这个简单的函数是现代统计推断的基石。从这一点出发,衍生出两条不同的路径。
我们如何利用似然函数进行推断?
第一条路径非常简洁,是频率学派方法的基石。这就是最大似然估计 (MLE) 原则。它主张:对于真实参数 的最佳估计,是那个使我们观测到的数据最可能出现的估计。换句话说,我们只需找到位于似然函数峰值的那个 值。对于许多问题,比如将生物系统的模型与实验测量数据进行拟合,这等同于找到能最小化模型预测与实际数据点之间差异(如误差平方和)的模型参数。这是一个直观而强大的思想:让数据自己说话,选择最能解释数据的那个解释。
第二条路径是贝叶斯的方式。一个贝叶斯学派的人看到似然函数会说:“这不是答案。这是证据。”证据必须用来更新我们已有的信念。这个更新过程就是著名的贝叶斯定理。其最简单的形式可以表述为:
或者,更正式地:
先验 是一个概率分布,代表我们在看到数据之前对 的信念。似然 是来自数据的证据。而后验 是我们更新后的信念,是一个结合了我们先验知识和证据的新的概率分布。在贝叶斯学派看来,概率推断是一个持续学习的循环:今天的后验就是明天的先验。
先验或许是贝叶斯统计中最具争议和最被误解的一个方面。批评者有时认为这是将主观偏见注入科学分析的一种方式。但这忽略了先验的美妙与力量。先验不是凭空捏造,而是要明确、诚实地陈述你的初始假设。
更重要的是,先验是把现有科学知识融入我们模型的形式化机制。想象一下,你正在研究一种名为“训练免疫”的生物过程,其中免疫细胞被一种刺激物“启动”,从而对另一种刺激物产生更强的反应。使用先进实验室技术的机理研究可能已经表明,这种训练效应几乎肯定会增强而不是减弱细胞的反应。在分析新数据时,我们应该假装不知道这一点吗?贝叶斯学派会说不。我们可以将这一知识编码到我们的先验分布中,例如将其中心置于正值。这并非指定答案,而是温和地引导推断朝向生物学上更合理的方向,这在处理生物学中常见的、数据量小且噪声大的数据集时尤其强大 [@problem-id:5266533]。
在纯粹的最大似然和完全的贝叶斯分析之间,存在一种中间地带,即最大后验 (MAP) 估计。与 MLE 类似,它为 提供一个单点估计。但它不是寻找似然函数的峰值,而是寻找后验分布的峰值。这意味着它找到的值是一个折衷:一个既能很好地解释数据(高似然),又根据我们的先验知识是合理的(高先验概率)的参数。
在这里,我们遇到了一个深刻的哲学分裂,一个精彩的思想实验揭示了这一点。想象两个临床研究团队试图确定一种新药的有效性,该药的真实(但未知)成功率为 。A 团队决定精确治疗 名患者,并观察成功的人数。B 团队决定持续治疗患者,直到观察到恰好 例失败为止。纯属巧合,两个实验都在观察到完全相同的数据后停止:12 次成功和 8 次失败。
他们关于药物有效性 的结论应该完全相同吗?
常识会大声说:“是的!”数据就是数据。证据就是证据。为什么实验者秘密的意图——他们的停止规则——会产生影响呢?这种直觉被形式化为似然原则:如果两个不同的实验产生的数据具有成比例的似然函数,那么它们包含关于 的相同证据,我们的推断也应该完全相同。
让我们看看似然函数。对于 A 团队(固定的 ),似然由二项分布给出。对于 B 团队(固定的 次失败),似然由负二项分布给出。虽然公式看起来不同,但事实证明它们对 的依赖性完全相同:两者都与 成正比。似然原则适用。
贝叶斯分析内在地尊重这一原则。后验是通过将似然核 与相同的先验相乘得到的。因此,两个团队将得到完全相同的后验分布,从而得出相同的结论。
然而,许多标准的频率学派程序违反了这一原则。例如,p值的计算依赖于观察到“与实际所见一样或更极端”的数据的概率。但“更极端”结果的集合取决于停止规则!对于 A 团队来说,这是在 20 次试验中出现 13、14、...、20 次成功的结果。对于 B 团队来说,这是在第 8 次失败前出现 13、14、... 次成功的结果。这些是不同的未观察到的、假设的数据集。因此,两个团队计算出不同的 p 值(在 的例子中,A 团队约为 ,而 B 团队约为 )。他们的结论不同,不是因为数据,而是因为他们的意图。对许多人来说,这似乎是推断系统一个奇怪且不理想的属性。
贝叶斯框架的终极力量在于其最终产出。像 MLE、MAP 或相关的期望最大化 (EM) 算法这样的方法,会给你一个单点估计——对你参数的一个“最佳猜测”。但这个猜测有多好?我们是绝对确定,还是存在着大范围的其他可能性也几乎同样好?
一个完整的贝叶斯分析不仅仅给你后验分布的峰值,它给你的是整个后验分布。这个分布就是完整的答案。它告诉你,在给定你的数据和先验模型的情况下,参数可能取的每一个值的相对合理性。
想象你是一位神经科学家,试图将大脑记录中的电脉冲(spikes)分类到不同的簇中,每个簇对应一个不同的神经元。像 EM 这样的算法会将每个脉冲分配给最可能的神经元,给你一个单一、整洁的答案。但如果两个神经元的脉冲形状非常相似,或者你的数据非常少呢?该算法可能仍然会自信地将一个脉冲分配给“神经元A”,即使“神经元B”是一个非常接近的第二选择。
相比之下,一个完整的贝叶斯分析承认这种模糊性。它计算簇参数的整个后验分布。当被要求对一个新的脉冲进行分类时,它不使用单一的最佳猜测簇集。相反,它对所有合理的簇配置进行分类平均,并按其后验概率加权。结果是对不确定性更诚实的陈述。它可能不会说“99%的概率是神经元A”,而是说“70%的概率是神经元A”,从而正确地反映了数据中的模糊性。
这种对后验分布进行平均以作出预测的原则被称为形成后验预测分布。当物理学家使用贝叶斯方法来约束核物质的性质时,他们不仅仅得到一个像核对称能这样的量的单一数值;他们得到一个均值和标准差,一个基于实验数据和他们的理论模型来量化其不确定性的完整概率预测。
这种致力于描绘不确定性全貌,而不仅仅是在其最高峰插上一面旗帜的承诺,是现代概率推断的标志。它使我们能够构建模型,从所有科学领域的数据中学习——从进化生物学 到天体物理学——并且以一种理智的诚实来做到这一点,不仅公开我们所知道的,也公开我们不知道的确切程度。这是一个从不确定的世界中学习的严谨框架,它要求谨慎的应用和验证,但回报给我们的是对现实更深刻、更细致的理解。
既然我们已经探索了概率推断的机制,你可能会想,“这一切都是为了什么?”这是一个合理的问题。欣赏贝叶斯定理优雅的逻辑是一回事,而看到它在实践中塑造我们对世界的理解则是另一回事。这个框架真正的美妙之处不仅在于其数学上的一致性,还在于它在人类探究的整个光谱中惊人的、近乎不合理的有效性。它不仅仅是统计学家的工具,更是一个透过不确定性迷雾看世界的通用镜头,一种从经验中学习的形式化语言。
让我们开始一段旅程,从分子的微观舞蹈到人类心智的宏伟构造,甚至进入历史的长廊,去见证这同一种推理模式如何为所有这些领域带来清晰。
大自然告诉我们的大部分信息都是以杂乱、含噪的信号形式出现的。一个生物学家盯着仪器读数,其处境与一个试图调到一个被静电声淹没的微弱电台的无线电操作员并无太大不同。真相就在那里,但它被掩盖了。概率推断是我们解开它的万能钥匙。
想象一下,你正试图理解两个分子,比如一种药物和它的靶蛋白,是如何相互作用的。你使用像光学式生物传感器这样的精密仪器,它测量分子结合和解离时表面发生的变化。你得到的不是一条干净、完美的曲线,而是一条摆动的线——真实的动力学信号被测量设备不可避免的噪声所破坏。它们结合得多快()?它们分离得多快()?这些是关键的数字,但它们并没有清晰地写在图上。贝叶斯方法允许我们建立一个此过程的生成模型。我们写下描述理想结合动力学的微分方程,然后我们为噪声添加一个概率模型。推断引擎接着从含噪的数据逆向工作,以找到我们关心的参数的后验概率分布。它不仅告诉我们 最可能的值,还告诉我们整个合理值的范围。当数据有限时,这一点变得更加强大;例如,有时参数无法从单个实验中唯一确定。通过结合来自多个实验(比如在不同浓度下)的数据,该框架可以进行“全局分析”,打破这些简并性,并锁定隐藏的动力学真相。
这种理清混合信号的问题无处不在。考虑一位化学家使用红外光谱学来识别样品中的分子。光谱图是光吸收率对频率的图表,每种分子键都在特征频率上振动,产生峰。但在任何实际样品中,尤其是在复杂的生物环境中,这些峰很宽且相互重叠,形成一堆令人困惑的山丘。这就像听一个合唱团,每个人都在唱着略有不同的音符。你如何识别出单个的歌唱者?这是一个经典的“不适定”问题。纯粹由数据驱动的拟合可能会找到无数种方式用不同的底层峰组合来解释数据。但我们并非一无所知!我们有来自物理和化学的先验知识。我们知道峰的数量应该很少,它们的位置落在某些范围内,并且它们的宽度必须是正的。贝叶斯推断提供了一种自然的方式,以先验的形式将这些知识注入模型。先验就像一个温和的向导,或一种正则化形式,惩罚物理上荒谬的解,并偏爱那些与我们科学理解一致的解。最终结果是对光谱的干净反卷积,并为每个峰的位置、高度和宽度恰当地量化了不确定性。
让我们更进一步,进入神经生理学的领域。每当你收缩一块肌肉,你的大脑就会沿着脊髓发送信号,以激活“运动单元”——一个神经元及其控制的肌纤维。从皮肤表面记录的肌电图 (EMG) 会同时接收到所有活动运动单元的电信号。记录到的信号是一个复杂的叠加,是成千上万个电脉冲的杂音。生物力学的一个基本目标是分解这个信号,找出每个运动神经元的放电时间。这是一个艰巨的“盲源分离”问题。人们可以尝试各种方法,比如将信号与运动单元电信号特征的已知模板进行匹配,或使用像独立成分分析 (ICA) 这样的统计技术。但最符合原理的方法是写下真实的物理模型:观察到的信号是每个神经元的脉冲序列与其动作电位形状的卷积。一个建立在此基础上的概率模型可以推断出产生所观察到的杂音的最可能的底层脉冲序列,从而优雅地将个体的声音从合唱中分离出来。
除了仅仅解释测量数据,概率推断还赋予我们构建和测试复杂生命系统本身模型的能力。生命是一场变异性与不确定性的舞蹈,而这正是必须用来描述它的语言。
当一种新药被开发出来时,一个关键问题是:它如何在体内转运?为了回答这个问题,科学家们建立了基于生理的药代动力学 (PBPK) 模型,这是一套复杂的方程系统,将器官表示为由血流连接的隔室。这些模型中的许多参数,比如药物在不同组织中的分配情况,都是未知的。在这里,贝叶斯推断大放异彩。我们可以利用来自实验室实验(体外数据)或动物研究(异速尺度放大)的知识,并将其编码为模型参数的信息先验。然后,我们从人类受试者那里收集少量数据,并使用似然来更新这些先验。结果是一个后验分布,它代表了我们先验生理知识和新临床证据的平衡结合。这使得个性化预测成为可能,并且至关重要地,能够对不确定性进行全面而诚实的核算,这对于安全性和有效性至关重要。
让我们从整个身体缩小到一群单细胞。你将一盘癌细胞暴露于一种能诱导细胞凋亡(即程序性细胞死亡)的药物中。你在显微镜下观察它们。尽管这些细胞在基因上是相同的,并且接受相同的药物剂量,但它们并不同时死亡。一些细胞死得快,一些则徘徊数小时。是什么导致了这种变异性?是由于每个细胞内部分子反应的内在随机性(内在噪声)?还是因为每个细胞,尽管“相同”,其关键蛋白的水平略有不同,使得一些细胞更容易受影响(外在变异性)?通过追踪许多单个细胞的死亡过程,并使用分层贝叶斯模型,我们实际上可以回答这个问题。每个细胞都有一套自己的动力学参数,而这些参数本身是从一个群体水平的分布中抽取的。推断过程同时估计每个细胞的参数和群体分布的参数,使我们能够解析出不同来源的随机性。这是一个深刻的见解,如果仅仅平均所有细胞的行为,这种见解将完全丧失,这个错误通常被称为“平均值谬误”。
现在让我们再放大,回到人群。一位流行病学家想要创建一张县级疾病率地图,以识别潜在的热点地区。他们计算每个普查区的比率:病例数除以人口。问题是,在人口很少的区域,这些原始比率极不稳定。一两个偶然的病例就能使比率看起来高得吓人。这是一个真正的集群还是仅仅是统计噪声?贝叶斯空间模型通过在邻近区域之间“借用力量”来解决这个问题。该模型包含一个先验信念,即邻近区域应该有相似的潜在风险(一个称为空间自相关的概念)。因此,每个区域风险的后验估计就变成了一个合理的折衷:该区域自身含噪数据与其邻居更稳定的平均值的精度加权平均。数据稀少的区域会更多地向局部平均值“收缩”,从而平滑地图,使真实模式更容易被发现。
也许概率推断最惊人的应用,不仅仅是作为科学的工具,而是作为科学本身——甚至是人类心智的模型。
科学过程本身就是一种推断练习。我们有相互竞争的假说和有限、含噪的数据。我们试图找出哪个假说得到了最好的支持。以从新病毒的基因组序列中重建其进化树的任务为例。像最大似然和贝叶斯推断这样强大的方法被使用,但有时,它们会给出相互矛盾的结果。科学家该怎么办?这就是“元推断”发挥作用的地方。我们必须批判性地审视我们的假设。贝叶斯 MCMC 模拟运行得足够长以收敛了吗?所选择的核苷酸替换模型是否足够?数据是否可能因为突变过多而“饱和”,从而变得具有误导性?符合原则的反应是进行诊断性检查和模型比较,这是一个对我们自身推理过程进行推理的形式化过程。
形式推断与人类推理之间的这种联系可以变得更加明确。在计算精神病学中,研究人员开始用异常的概率计算来描述精神障碍。例如,妄想是一种固定的、错误的信念,尽管有相反的证据,但仍坚信不疑。这是否与大脑信念更新机制的故障有关?使用简单的概率游戏(比如猜测一个彩珠是从两个罐子中的哪一个抽出的)的研究表明,有某些精神病症状的个体倾向于根据极少的证据“草率下结论”,并且在面对矛盾数据时不太可能修正自己的信念。这表明,妄想背后的确信可能根植于一个功能失调的贝叶斯更新过程,其中先验过于僵化,或者新证据的似然被不恰当地加权。
这引出了现代神经科学中最激动人心的思想之一:贝叶斯大脑假说。这一理论提出,大脑本质上是一个推断引擎。它假定知觉不是被动接收感觉输入的过程,而是一个关于该输入隐藏原因的推断过程。根据这种观点,你的大脑拥有一个世界的内部生成模型。感觉数据(撞击你视网膜的光,撞击你耳鼓的声波)作为证据来更新你大脑关于世界上是什么导致了这些感觉的信念。我们感知到的不是原始数据,而是这个推断过程的结论。像“预测性处理”这样的算法,其中高级脑区向下级感觉区发送预测,只有“预测误差”被传回上级,被认为是大脑可能实现这种近似贝叶斯推断的一种神经上可行的方式。
这个框架的普适性甚至可以扩展到自然科学之外。一位历史学家试图确定一个过去事件的确切日期,比如 René Laennec 发明听诊器,他面临的是一个不确定性下的推断问题。证据由历史文献组成——信件、论文——每一件都有其自身的模糊性和可靠性问题。历史学家对证据的判断可以用概率来形式化。关于日期的先验信念可以根据在不同假说下观察到文献证据的似然来更新。从含噪传感器中提取分子信号的完全相同的贝叶斯逻辑,可以用来从含噪的历史记录中权衡一个事实的信号。
从我们仪器中的微弱信号,到思想的本质,再到对过去的重构,概率推断为推理提供了一种单一、连贯的语言。它教我们如何学习,如何权衡证据,以及如何将不确定性视为一种邀请,邀请我们更深入、更诚实地理解我们的世界,而不是一个障碍。