try ai
科普
编辑
分享
反馈
  • 预测性分析

预测性分析

SciencePedia玻尔百科
核心要点
  • 预测性分析完全专注于根据特征预测结果,优先考虑准确性而非因果解释。
  • 好的预测不能替代好的决策;基于预测采取行动需要因果推理,以避免混杂因素。
  • 模型构建涉及管理偏见-方差权衡,其中像 AIC 和 BIC 这样的准则有助于在模型复杂性与预测能力之间取得平衡。
  • 正确的模型评估至关重要,需要避免“标签泄漏”等陷阱,并对序列数据使用时间上恰当的验证方法。

引言

预测性分析,即根据现有数据预测未来结果的科学,是众多领域中的一股变革力量。然而,其强大的能力往往伴随着深刻的误解,特别是将做出准确预测与做出明智决策混为一谈。本文旨在通过提供一个用于理解和应用预测性分析的稳健概念框架来澄清这些区别。我们将首先探讨定义预测的基本原则和机制,将其与其他形式的数据分析区分开来,并详细说明构建和评估模型的过程。随后,我们将遍览其在医学、工程学和科学发现中的多样化应用,阐明这些原则如何转化为现实世界的影响,并强调相关性与因果关系之间的关键差异。

原理与机制

预言的艺术:什么是预测?

从本质上讲,预测性分析是一种古老艺术的现代形式:预言。它是利用你所拥有的信息,对你所没有的信息做出有根据、有原则的猜测的学科。我们一直在凭直觉这样做。瞥一眼西边的乌云,我们就知道该带上雨伞。厨师品尝酱汁,凭经验就知道是否需要再加点盐。预测性分析通过数学和数据将这种直觉形式化并加以强化。

其核心任务的陈述惊人地简单。想象你有一组可观察的特征,我们称之为​​特征​​(features),并将其捆绑到一个变量 XXX 中。你想要预测一个未知的​​结果​​(outcome),我们称之为 YYY。预测模型的目的是学习一个函数,该函数能在给定特征的情况下估计结果的概率。我们将其写为估计 Pr⁡(Y∣X)\Pr(Y \mid X)Pr(Y∣X)。这个单一的表达式是预测的核心所在。它问的是:根据我能看到的(XXX),特定结果(YYY)出现的几率是多少?

要真正把握预测的本质,就必须了解它不是什么。想象一下数据分析的广阔图景。预测性分析只是这片大陆上的一个国家。它的邻国同样重要,但文化和目标却大相径庭。

  • ​​描述性分析​​(Descriptive Analytics)是历史学家。它告诉你发生了什么,总结了人群中事件的分布。去年冬天有多少人得了流感?平均年龄是多少?它处理的是比率、计数和平均值。

  • ​​分析性和因果性分析​​(Analytic and Causal Analytics)是侦探。它们试图理解某事为什么会发生。一种新疫苗是否导致了流感病例的下降?这需要解开一张相互关联的因素网络,以分离出因果关系。

  • 相比之下,​​预测性分析​​(Predictive Analytics)是预报员。它根本不关心历史或原因。其唯一使命是做出尽可能准确的预测。如果公鸡的啼鸣是一个神秘而准确的日出预测指标,预测建模师会很乐意在他们的方程中使用鸡鸣。评判他们的标准不是他们的解释,而是他们预测的准确性。这种对因果关系的不可知立场既是其巨大的优势,也是其深刻的局限,这是我们稍后将要回归的主题。

先知与国王:预测与决策

我们很少纯粹为了智力上的愉悦而进行预测。我们预测是为了行动。医生预测病人患心脏病的风险,不是出于好奇,而是为了决定是否通过治疗进行干预。在这里,我们来到了整个预测性分析中最关键、最微妙、也最常被误解的概念:一个好的预测和一个好的决策之间的鸿沟。

让我们想象你是一名医生。一位新病人来了,你建立一个预测模型来估计他未来10年内心脏病发作的风险(Y=1Y=1Y=1),这基于他的基线健康状况(X0X_0X0​)。你的模型估计了预测风险 Pr⁡(Y=1∣X0=x)\Pr(Y=1 \mid X_0=x)Pr(Y=1∣X0​=x)。现在,国王的问题来了:“我应该给这位病人服用他汀类药物吗?”

这不再是一个预测问题。这是一个​​因果​​(causal)问题。它要求你为这位病人比较两个平行宇宙:一个是他接受他汀类药物治疗的宇宙,另一个是他不接受的宇宙。用现代因果推断的语言来说,我们正在比较潜在结果 Ya=1Y^{a=1}Ya=1(如果接受治疗的结果)和 Ya=0Y^{a=0}Ya=0(如果不接受治疗的结果)。决策取决于估计的治疗效果,比如 E[Y0−Y1∣X0=x]\mathbb{E}[Y^0 - Y^1 \mid X_0=x]E[Y0−Y1∣X0​=x],这代表了对于具有特征 xxx 的患者,他汀类药物带来的风险降低程度。

为什么你不能直接使用你那个出色的预测模型呢?因为你的模型是在反映医生实际做法的历史数据上训练的。而医生们相当合理地倾向于给病情更重的患者提供治疗。这种现象,被称为​​指征混淆​​(confounding by indication),意味着在数据中接受治疗这一行为本身就是更高潜在风险的标志。你的预测模型为了追求准确性,学会了这种关联。这个简洁的量 Pr⁡(Y=1∣X0=x)\Pr(Y=1 \mid X_0=x)Pr(Y=1∣X0​=x) 是一个复杂的、混杂的混合体,它融合了患者的基线风险以及像他们这样的人通常会接受治疗这一事实,这是一盘无法分离的生物学与行为的煎蛋。

使用预测模型来指导行动可能会造成灾难性的错误。思考一个惊人的思想实验。想象一种平均而言有益的治疗方法。但对于一个特定的极高风险患者亚群,它实际上是有害的。一个预测模型,注意到高风险患者即使在接受治疗后也常常有不良结果,会正确地为他们分配一个不良结果的高风险。一个“治疗最高风险患者”的天真策略将导致你对那些最可能受损的人施用有害的治疗。这不是预测模型的失败;它完美地完成了它的工作。这是我们推理的失败——把一个好的先知错当成一个好的国王。

从预测到行动的旅程需要一套新的工具。它变成了一个​​处方性分析​​(prescriptive analytics)问题。任务是从一组可能性 A\mathcal{A}A 中选择一个行动 aaa,以最小化某个预期损失或最大化某个预期效用。这需要三个要素:一个关于世界不确定性(我们称之为 θ\thetaθ)的预测模型,一组可能的行动,以及一个损失函数 L(a,θ)L(a, \theta)L(a,θ),它告诉你如果世界的状态是 θ\thetaθ 时采取行动 aaa 的成本。最优行动是最小化预期损失的那个,即 Eθ∼P[L(a,θ)]\mathbb{E}_{\theta \sim P}[L(a, \theta)]Eθ∼P​[L(a,θ)]。预测提供了必要的 P(θ)P(\theta)P(θ),但这只是通往明智决策之旅的第一步。

行家工具:构建和选择水晶球

那么,我们如何构建这些预言模型呢?这不是一门玄学,而是一个系统的、科学的过程,一个提出、拟合和检验的循环。一个源自时间序列预测的经典框架包含三个阶段:​​识别​​(Identification,检查数据以建议模型类型)、​​估计​​(Estimation,将模型拟合到数据)和​​诊断性检查​​(Diagnostic Checking,评估模型是否足够)。这个迭代循环体现了应用于模型构建的科学方法。

在此过程中,两个最关键的选择是决定包含哪些信息以及模型应该有多复杂。

首先,我们的模型应该包含哪些特征 XXX?我们面临两种理念的选择。一方面,我们有​​手动策展​​(manual curation),由人类专家——临床医生、工程师、科学家——根据他们深厚的领域知识和对因果机制的理解来选择变量。这种方法由理论指导,可以防止模型被愚蠢的、虚假的关联所欺骗。另一方面,我们有​​自动化变量选择​​(automated variable selection)。在这里,像 LASSO(最小绝对收缩和选择算子)这样的强大算法会筛选成千上万甚至数百万个潜在预测因子,通过算法优化一个数学准则来找到最具预测性的集合。这种方法是客观的、可复现的,并且可以发现人类专家可能错过的惊人模式。然而,它也更容易陷入数据中的偶然相关性(​​过拟合​​),并且可能不稳定,从略有不同的数据集中产生截然不同的模型。最佳实践通常是两者的结合:利用领域知识创建一个合理的候选变量集,然后使用自动化方法来完善该集合。

其次,我们的模型应该多复杂?这使我们来到了根本的​​偏见-方差权衡​​(bias-variance tradeoff)。一个非常简单的模型(低方差)可能过于僵化,无法捕捉到真正的潜在模式(高偏见)。一个非常复杂、灵活的模型(低偏见)可以完美地拟合训练数据,但可能会“记住”该特定数据集中的噪声,导致在新数据上表现不佳(高方差)。模型选择就是找到“最佳点”的艺术。

统计学家已经开发了信息准则来帮助驾驭这种权衡。其中最著名的两个是​​赤池信息准则(Akaike Information Criterion, AIC)​​和​​贝叶斯信息准则(Bayesian Information Criterion, BIC)​​。两者都始于一个衡量模型与数据拟合程度的指标(似然性),然后减去一个对复杂性的惩罚(参数数量 kkk)。神奇之处在于惩罚项。

  • ​​AIC 惩罚​​: 2k2k2k
  • ​​BIC 惩罚​​: k×ln⁡(n)k \times \ln(n)k×ln(n),其中 nnn 是数据点的数量。

对于任何超过7个观测值的数据集,BIC 的惩罚都更严厉。这反映了它们不同的根本目标。BIC 是一个“真实模型”的寻求者;其一致性属性意味着,只要有足够的数据,它就能找到真正的潜在模型,前提是该模型是候选模型之一。AIC 是一个纯粹的实用主义者。其目标是预测准确性。它与交叉验证(一种直接估计预测误差的方法)在渐近上是相关的。如果额外的复杂性能换来更好的样本外预测,AIC 愿意选择一个稍微复杂一点的模型。因此,对于纯粹的预测任务,AIC 通常是哲学上更为一致的选择。

窥视的危险:如何检验你的预言

一个预言的好坏取决于它的往绩。评估一个预测模型看似简单:看看它在未用于训练的数据上的表现如何。然而,这是一条布满微妙陷阱的道路,可能导致对模型能力做出灾难性的乐观评估。

模型评估的第一个也是最根本的罪过是​​标签泄漏​​(label leakage)。当在预测时本不可用的信息被意外地包含在模型的特征中时,就会发生这种情况。想象一下,你正在建立一个模型,用于预测患者在入院时(t=0t=0t=0)两年内发生心脏事件的风险。一位数据科学家为了改进模型,纳入了一个变量,该变量指示患者是否在一个月后的随访中(t=1t=1t=1)开始了新的治疗。

瞬间,该模型在纸面上的性能飞涨!但这是一种幻觉。模型通过窥视未来在作弊。在决策时刻(t=0t=0t=0),关于 t=1t=1t=1 时治疗的信息是不可知的。模型惊人的性能是一个数学上的人为产物——以更多信息为条件总是会减少结果的方差——但它在实践中是无用的,并且具有极大的误导性。补救措施在原则上很简单,但在实践中需要极大的纪律:严格地将你的模型特征限制在决策时刻可用的那些信息片段中。

第二个更隐蔽的陷阱出现在处理具有自然顺序的数据时,比如时间序列。考虑预测患者的血糖水平。测试模型的一个常用方法是​​k折交叉验证​​(k-fold cross-validation),即你随机打乱数据并将其划分为(比如说)10个折,用9个折进行训练,1个折进行测试,然后重复这个过程。对于独立的数据点,这是一种极好且稳健的技术。

但对于时间序列来说,这是一个可怕的错误。上午10:01的血糖与上午10:00的血糖高度相关。通过随机打乱,你可能将上午10:01的数据点放入测试集,而将上午10:00的数据点放入训练集。模型的任务变得异常容易;这就像你已经看到了前一个词,然后被要求预测句子中的下一个词一样。这种通过时间相关性产生的“泄漏”导致了​​乐观偏见​​(optimistic bias):模型看起来比它在真实预测场景中要准确得多。正确的方法是始终尊重时间之箭:用过去的数据来训练,用未来的数据来测试。这正是像​​留出未来交叉验证​​(leave-future-out cross-validation)这样的方法所设计的目的。

这些原则强调,预测建模不仅仅是一项单一的任务。它是一系列挑战,从​​静态​​的一次性预测(如患者入院时的30天死亡率风险)到随着新数据到来而持续更新的​​动态​​预测(如每小时的败血症警报)。每项任务都要求仔细定义决策时可用的特征以及​​预测时域​​(prediction horizon) τ\tauτ——我们是预测未来6小时还是未来6个月内发生的事件?这个选择不是统计上的,而是临床或操作上的,它定义了我们试图解决问题的根本性质。

应用与跨学科联系

在掌握了预测性分析的原理之后,我们现在踏上征程,去看看这些思想在实践中的应用。孤立地理解一个工具是一回事;看到它在工作中塑造我们的世界,则是另一回事,而且要令人兴奋得多。我们会发现,预测并非局限于某一学科的深奥艺术,而是一种通用语言,让我们能够在科学、工程、医学甚至法律等领域与不确定性进行对话。这个领域的美妙之处不在于它有看透未来的神奇能力,而在于它为在未知面前做出明智决策所提供的严谨且往往优雅的逻辑。

人体机器:医学与健康领域的预测

让我们从自身开始,从人体这部奇妙复杂的机器开始。在这里,预测性分析正在改变我们管理健康的方式,从被动治疗转向主动关怀。

想象一下试图预测像湿疹这样的皮肤病的急性发作。它可能看起来不可预测,但预测模型可以充当一个敏感的倾听者。通过结合患者的静态遗传信息、追踪皮肤水分流失的可穿戴传感器的动态测量数据、湿度等环境数据以及瘙痒等自我报告的症状,模型可以学会识别预示着发作的微妙信号合唱。这不是魔法;这是对风险因素的仔细核算,让患者能够在风暴来临之前进行干预。构建这样一个模型是一项精细的任务,需要仔细选择真正的预测因子,同时严格排除那些会构成“作弊”的信息——比如只有在发作已经开始后才做出的临床诊断。

这种预测能力延伸到我们生物学的基础。借助 CRISPR 等革命性技术,我们可以编辑基因组本身。但我们如何知道某个特定的编辑在其目标位置是否会成功?研究人员正在构建模型,在实验进行之前就预测这种“靶向编辑效率”。通过向模型输入向导 RNA 的特征、目标 DNA 序列以及基因组的局部环境(其“染色质可及性”),模型可以估计成功的概率。这使得科学家从一开始就能设计出更有效的疗法,这是预测加速医学前沿发展的有力例证。

从个体放大到群体,考虑一下流行病的混乱。每日报告的病例数是对现实模糊而延迟的反映;当我们看到报告激增时,导致它的感染发生在几天甚至几周前。在这里,预测性分析提供了一套矫正镜片。一种称为​​现时预测​​(nowcasting)的技术,利用我们今天拥有的不完整数据,通过使用报告延迟的数学模型,估计近期发生的真实病例数。从本质上讲,这是一种“预测现在”的方法。这使得公共卫生官员能够近乎实时地对疫情的真实状况做出反应,而不是总是在看后视镜。

预测在健康经济学中也扮演着至关重要的角色。像 Medicare 这样的系统如何根据参保人的预期成本向健康计划支付费用?它使用一个巨大的预测模型。目标是根据一个人的年龄、性别,以及最重要的是,他们被记录的医疗状况来预测下一年的医疗保健成本。这些状况被归入层次性条件类别(Hierarchical Condition Categories, HCCs)。构建这样一个模型涉及一个经典的权衡。一个过于简单的模型可能会系统性地出错(高偏见),对病人和健康人处理得过于相似。一个过于复杂的模型可能会记住训练数据的怪癖而无法泛化(高方差)。目标是找到最小化总预测误差的“最佳点”。此外,这些模型在严格的政策约束下运行,只使用具有临床依据且不易被“操纵”的预测因子,确保支付与患者健康状况挂钩,而不是与巧妙的会计手段挂钩。

最后,当一个预测进入法庭时会发生什么?想象一个悲剧性的场景,父母因其信仰而拒绝为孩子进行能挽救生命的治疗。医院可能会求助于法庭,不仅带着临床判断,还带着一个预测模型,该模型估计如果不进行治疗,孩子遭受严重伤害的概率。一个模型可能会输出35%的严重神经损伤风险。这足够吗?法律并非依据简单的阈值运作。35%的灾难性后果风险是一个法官必须权衡的非常“真实和重大的风险”。当一位能够解释其开发过程、已知错误率及其局限性的专家呈现算法的输出时,它就成了一份专家证据。它不能取代法官的裁决,但它以一种清晰、量化的语言阐明了利害关系,帮助法庭为了孩子的最大利益而行动。

我们构建的世界:工程学中的预测

从无穷小到巨无霸,我们为自己设计的世界依赖于预测。它是设计中的无声伙伴,也是我们最复杂系统的警惕守护者。

窥视你电脑的硅心脏——微处理器。数十亿个晶体管以惊人的速度开关。当芯片上平行的“导线”过于靠近时,一条导线上的信号切换可能会在其邻居上引起一个小的、不必要的电压尖峰——一个干扰脉冲。这种现象,称为​​串扰噪声​​(crosstalk noise),可能导致错误并使系统崩溃。我们如何设计芯片以避免这种情况?我们可以为每种可能的导线配置运行复杂、耗时的物理模拟,但这会慢得不可思议。相反,我们可以使用预测模型。通过在一小组模拟数据上训练机器学习算法,它学会了串扰的“规则”——噪声如何取决于导线之间的距离(CcC_cCc​)、攻击信号的速度(SSS)以及受害导线的属性(Rv,CvR_v, C_vRv​,Cv​)。这使得对任何新设计的噪声进行近乎瞬时的预测成为可能,从而极大地加速了创造更强大、更可靠电子产品的过程。

现在,让我们把规模扩大到一个巨大的信息物理资产,比如风力涡轮机或喷气发动机。我们希望在不过早(浪费)也不过晚(灾难性)的时候进行维护。这是​​预测与健康管理​​(Prognostics and Health Management, PHM)的领域。一种现代方法使用“数字孪生”(Digital Twin)——物理资产的虚拟复制品,通过传感器数据持续更新。这个孪生体运行一个预测模型,它不仅仅是说“零件正在磨损”,而是为剩余使用寿命提供一个完整的概率分布。这允许一个优雅而强大的决策规则:如果预防成本低于故障成本乘以在下一个操作窗口内发生故障的概率,则执行维护。这个简单的由预测模型驱动的不等式,cpcf⋅P(failure)c_p c_f \cdot \mathbb{P}(\text{failure})cp​cf​⋅P(failure),将维护从基于日历的猜测转变为一种数据驱动、经济上合理的策略。它甚至允许我们管理备用系统中的“隐藏故障”,通过使用新的传感器使其健康状态变得可观察和可预测。

科学发现的透镜

也许预测建模最深刻的应用不仅仅是解决实际问题,而是在于它作为基础科学发现工具的用途。它可以作为一种新型的透镜,帮助我们在极其复杂的数据中找到有意义的模式。

思考一下人脑。我们可以绘制出它的“布线图”,即​​连接组​​(connectome),创建一个连接不同大脑区域的复杂图形。这会产生海量数据——每个人的一个包含数万个条目的矩阵。科学挑战是在这些布线中找到与人类行为和疾病相关的模式。例如,我们能从一个人的连接组预测其认知分数或临床症状吗?这是一个最高级别的预测建模问题。科学家们探索不同的方式来“看”数据:逐一检查每个连接,计算网络整体结构的摘要统计量,或者使用先进技术将整个复杂图形嵌入到一个简单的低维空间中。这项预测任务的成功不仅产生了一个生物标记物;它还指导我们理解大脑结构的哪些方面在功能上是重要的。

所有预测挑战中最宏伟的可能要属数值天气预报。为了预测明天的天气,我们必须首先以尽可能高的精度了解整个大气层现在的状态。这个过程,称为​​数据同化​​(data assimilation),本身就是一项巨大的预测任务。它将一个先前的预报(“背景场”)与来自卫星、气象气球和地面站的数百万个新的、稀疏的观测数据结合起来。一个关键的见解是,我们相信像压力和温度这样的大气属性在空间中应该平滑变化,这可以数学上表示为对空间梯度的惩罚。在变分法中,最小化一个包含这种惩罚的成本函数会产生一个​​二阶椭圆偏微分方程​​。这是一个令人叹为观止的科学统一时刻:一个关于空间相关性的统计假设被发现等同于物理学语言中的一个基本结构。这个方程的解为我们提供了最佳的“初始状态”,以便将预报向前推进。

一点警示:关于气压计和风暴

在我们对预测力量充满热情的同时,我们必须小心维持一个关键的区别:​​预测不是因果​​。这也许是这些工具的任何使用者都应该掌握的最重要的一条智慧。预测模型是发现相关性的大师,但它对因果关系一无所知。

一个经典的例子是气压计。下降的气压计是风暴即将来临的绝佳预测指标,但没有人会愚蠢到认为气压计导致了风暴。同样的逻辑也适用于我们最复杂的模型。在​​放射基因组学​​(radiogenomics)领域,模型可以被训练来通过分析患者的MRI扫描,高精度地预测其基因突变状态(例如,在脑肿瘤中)。这是一种革命性的诊断工具。然而,预测的箭头(MRI→GeneMRI \rightarrow \text{Gene}MRI→Gene)与因果的箭头(Gene→Tumor Appearance→MRI\text{Gene} \rightarrow \text{Tumor Appearance} \rightarrow MRIGene→Tumor Appearance→MRI)方向正好相反。基因导致肿瘤以一种在MRI上产生特定模式的方式生长;模型只是学会了识别这种模式。将这种预测关系误认为因果关系将是一个严重的错误。

这个原则是普遍的。一个模型可能会预测,靠近新建道路的土地很可能从森林转变为农业用地。这是一个对城市和环境规划有用的预测模型。然而,这个预测本身并不能告诉我们修建道路的因果效应。道路可能之所以建在那个位置,恰恰是因为那片土地已经适合农业(例如,平坦而肥沃)。为了从相关性中解开因果关系,并估计道路的真实影响,我们需要来自因果推断领域的不同工具和更强的假设。

理解这种区别并不会削弱预测模型的价值。气压计对水手来说是无价的工具。但它保护我们免于得出错误的结论,并提醒我们,知道什么可能发生,与知道为什么会发生,是不同但同样重要的科学探索。