try ai
科普
编辑
分享
反馈
  • 从数据中发现模型:揭示隐藏规则的指南

从数据中发现模型:揭示隐藏规则的指南

SciencePedia玻尔百科
核心要点
  • 真正的发现需要使用留出集将探索性分析与验证性测试分开,以避免在噪声中发现虚幻模式的“射手谬误”。
  • 模型架构的选择,从数据集成策略到生成模型中保真度与简洁性之间的平衡,从根本上决定了可以发现何种洞见。
  • 模型发现的原理广泛适用于各个学科,使科学家能够破译隐藏的规则,例如生物学中的“剪接密码”或物理学中的基本方程。
  • 模型的失败可能蕴含着深刻的信息;一个精心设计的实验可以利用模型无法预测新数据结果的现象,作为定位新颖、未被表征的机制的信标。

引言

在一个由数据定义的时代,我们提取知识的能力已分化为两种截然不同的模式。第一种是监督学习,它擅长证实我们已知的事物——将新的观测数据分配到预定义的类别中。然而,科学的真正前沿在于第二种模式:无监督学习,这是一项激动人心又充满风险的探索,旨在发现数据中隐藏的真正新颖的模型、结构和规则。这个过程充满了统计陷阱和诱人的谬误,可能导致所谓的“重大发现”最终不过是统计学上的海市蜃楼。本文旨在弥补这一关键的知识空白,为以严谨和创新的方式探索数据驱动发现这一复杂领域提供一幅路线图。

为了让您为这段旅程做好准备,接下来的章节将作为您的指南。第一章​​“原理与机制”​​奠定了关键基础,介绍了进行诚实发现所需的核心概念。它揭示了最常见的陷阱——“射手谬误”——并提供了一套程序性和架构性的策略工具箱来避免它。第二章​​“应用与跨学科联系”​​将这些原理带入真实世界。它展示了这一范式如何被用于从基因组数据中破译生命的语法,揭示自然界的基本方程,甚至设计新的生物系统,从而将我们的角色从单纯的观察者转变为创造者。

原理与机制

想象你是一位厨师。有一天,有人给你一碗汤,问你:“这里面有藏红花和茴香吗?”你尝了一口,将它的风味与你记忆中成千上万道菜肴进行比较,然后自信地回答:“是的,这是一道经典的法式海产什烩。”第二天,你又尝到一道完全不同的菜。你品尝之后,奇妙的事情发生了。你尝到了一种前所未见的风味组合,一种不符合任何已知食谱的和谐感觉。你无法命名它,但你知道它是新的,而且是真实存在的。

这两项任务代表了从数据中学习的两种基本模式。第一种是​​监督学习​​:你拥有预定义的类别(食谱、细胞类型、疾病状态),你的目标是将新的观测数据分配给它们。你在训练一个模型来识别已知的事物。第二种是​​无监督学习​​:你没有任何预定义的标签。你的目标是探索数据并发现其内在结构——去寻找新的食谱、先前未被表征的材料“家族”,或无人知晓的疾病新亚型。“从数据中发现模型”的梦想就存在于这第二种模式中,存在于对未知事物令人振奋的探寻之中。但这种探寻充满危险,为了驾驭它,我们需要一张地图和一套指导原则。

射手谬误:事后归因的叙事之险

这里潜藏着科学领域中最具诱惑力的陷阱:将预测与后测混为一谈。想象一位生物学家,基于多年的先验知识,她假设:“我相信基因G是区分细胞类型 A 和 B 的关键。”她收集了数千个基因的数据,并对基因G进行了一项预先计划好的、单一的统计检验。如果结果显著,这将是一条有意义的证据。

现在考虑另一种方法。一个计算算法被赋予相同的数据,任务是找到能够区分这两种细胞类型的20,000个已测基因的任何数学组合。该算法在数万亿种可能性中进行筛选,并得意洋洋地报告了一个复杂的特征SSS,它以近乎完美的准确度区分了这些细胞。然后,团队在完全相同的数据上对SSS运行了标准的统计检验,并获得了一个极小的ppp值,比如10−2010^{-20}10−20。他们做出了一项深刻的发现吗?

几乎可以肯定没有。这就是​​射手谬误​​:先在谷仓墙上射一箭,然后绕着箭落下的地方画一个靶心。算法的根本目的就是在这个特定数据集的随机噪声和真实信号中寻找一个模式。当你在一个巨大的可能性空间中搜索时,你几乎肯定能纯粹通过巧合找到一些看起来很显著的东西。在产生该“发现”的同一份数据上测试这个“发现”是一种循环论证。所得的ppp值并不是对显著性的真实衡量;它衡量的是算法在寻找一个模式(任何模式)方面做得有多好。这个问题,被称为​​选择后推断​​或​​“二次蘸取”​​,是如此多来自数据分析的“突破性”发现在重复验证时失败的主要原因。所报告的模式并非现实的特征,而是数据集的产物,一个统计学上的海市蜃楼。

诚实发现的工具箱

为了避免追逐幻影,我们需要一套严谨的工具和程序,旨在将真正的发现与一厢情愿的想法区分开来。其目标不是扼杀创造力,而是引导创造力,提供一个我们既能成为探索者又能成为怀疑论者的框架。

防火墙:分离探索与验证

解决射手谬误最干净、最有力的方法是在你的数据中建立一道防火墙。在开始之前,你必须将整个数据集随机划分为至少两个部分:一个​​发现(或训练)集​​和一个​​留出(或验证)集​​。

然后,你就可以在发现集上尽情发挥你的创造力和计算能力。你可以对其进行可视化探索,测试数千个假设,构建复杂的机器学习模型,并无休止地调整它们。这是你的沙盒,是你产生想法的游乐场。在这个阶段,你可能会注意到一组特定的微生物基因似乎与某种疾病相关。这现在是一个新的、由数据驱动的假设。

但这仅仅是一个假设。要证实它,你必须求助于那个被锁在保险库里、未曾触碰、未曾见过的留出集。你必须将你的假设形式化为一个精确的、不可更改的分析计划。通常,这个计划是公​​开预注册​​的,这是你与科学界签订的一份合同,承诺你将执行一次且仅一次最终测试。然后,你在留出数据上执行这个已固化的计划。如果这个假设在这些新鲜、独立的数据中得以成立,那么你就有了一项名副其实的发现。它经受住了一次真正的预测;你先画了靶子,然后才射出了箭。这种程序上的分离是可信的数据驱动发现的绝对基石。

架构师的选择:为洞见而设计模型

发现不仅仅是关于找到“什么”不同,还在于“如何”不同。你模型的结构本身就可能促成或阻碍某些类型的洞见的产生。

例如,如果你通过测量基因表达(转录组学)和蛋白质水平(蛋白质组学)来研究癌症,你有一个选择。你可以为基因建立一个模型,为蛋白质建立另一个模型,然后在最后将它们的预测结合起来(​​后期集成​​)。这是一种稳健的方法,但它永远不会告诉你某个特定基因和特定蛋白质之间的直接、协同相互作用。或者,你可以将每个患者的所有特征连接成一个长向量,并训练一个单一的、统一的模型(​​早期集成​​)。这是一项更艰巨的任务,但它给了模型一个机会去学习数据类型之间的相互作用,即复杂的关联,而这可能正是揭示潜在生物学机制的关键。

这个原则也延伸到我们如何整合现有知识。想象一下,你正试图为一个没有良好参考基因组的非模式昆虫,编制一份其所有表达基因的完整目录。你唯一的选择是​​从头组装​​:仅根据序列片段的重叠,将测序得到的短RNA片段像拼图一样拼接起来。但是,如果你有一个相关物种的高质量基因组呢?纯粹的从头组装方法将是愚蠢的,因为它忽略了这张宝贵的地图。而纯粹​​参考序列指导的​​方法也可能失败,因为它可能对该昆虫的物种特异性基因视而不见。明智的解决方案通常是一种​​混合策略​​:首先,从头组装所有你能组装的东西以捕获所有转录本,然后使用相关物种的基因组作为支架来组织它们,并迁移关于其潜在功能的知识。架构的选择不仅仅是技术性的;它是一个关于如何在发现与既定事实之间取得平衡的战略决策。

科学家的两难:平衡保真度与简洁性

在我们寻求发现的过程中,我们面临着一个深刻的矛盾。一方面,我们想要一个能够尊重数据所有杂乱、具体细节的模型。另一方面,我们想要一个简单、优雅并能捕捉普遍真理的模型。这是​​保真度​​与​​简洁性​​之间,即过拟合与过简化之间的经典斗争。

现代生成模型,如​​变分自编码器(VAE)​​,为这种权衡提供了一个绝佳的例证。VAE学习一个压缩的、低维的“潜空间”,以捕捉高维数据(如单细胞基因表达谱)的本质。模型经过训练,以优化两个相互竞争的目标,由参数β\betaβ来平衡。

  1. ​​重构损失​​:该项促使模型确保细胞原始的基因表达谱可以从其压缩的潜码中准确重构。优先考虑这一项(低β\betaβ)会产生高保真模型,能够捕捉数据的每一个细微之处,包括罕见的细胞状态,但也包括技术噪声和无关的特性。这最大化了保真度。

  2. ​​KL散度​​:该项是一个正则化器,它促使所有细胞的潜码被整齐、平滑地组织起来,通常像一个简单的高斯云。优先考虑这一项(高β\betaβ)会迫使模型忽略细胞特异性的噪声,并找到广泛的、基本的变异轴——比如细胞类型演进或细胞周期。它鼓励发现简单、可解释的生物结构。这最大化了简洁性和泛化能力。

β\betaβ的选择就像一个旋钮,让科学家能够在这种权衡中进行导航。你是想要一棵树的完美照片,还是整片森林的精美简化地图?低β\betaβ给你照片;高β\betaβ给你地图。如果推得太远,高β\betaβ可能导致“后验坍缩”,即模型发现“最简单”的做法是完全忽略数据,生成一张平淡无奇、毫无内容的平均地图——这是一个警告:以牺牲观察为代价换来的简洁性是毫无价值的。

从错误到启迪:一个统一的策略

那么,我们如何将所有这些整合在一起?我们可以从一个警示性的故事中学到很多。一项关于阿尔茨海默病生物标志物的研究可能会分析2000种蛋白质,并且在不为他们正在进行的数千次测试进行校正的情况下,宣布其中100种是“显著的”。一个快速的计算表明,在现实的假设下,这些“发现”中超过70%可能是假阳性。研究人员然后可能会使用这些受污染的特征构建一个诊断模型,并通过一个有缺陷的、泄露了测试集信息的验证程序,报告一个近乎完美的预测准确率。那个报告的准确率是一种错觉。真正严格的测试——将固化的模型应用于一个全新的、独立的患者群体——是揭露海市蜃楼并作为真理最终裁决者的唯一方法。

然而,还有一种更复杂的方法,它优雅地将监督学习和无监督学习的范式结合在一起。想象一个实验,我们想找到一种新的生物学机制。我们可以不寄希望于模型的成功,而是设计实验,使得模型的失败能提供最大的信息量。

策略如下:我们训练一个监督模型来预测已知的细胞对各种化学和遗传扰动的反应。但我们不使用一个简单的随机测试集。我们使用​​留一分组交叉验证​​策略。我们用受到A、B、C、D类扰动的细胞来训练模型,然后测试它预测对一个全新扰动类别E的反应的能力。如果这个模型在熟悉的扰动上表现出色,但在E类上突然灾难性地失败了,我们就得到了一个深刻的线索。这个失败告诉我们,我们对细胞的“已知”模型是不完整的,扰动E触发了某种新的、未被表征的机制。模型的错误不再仅仅是错误;它们是指向未知领域的一座灯塔。然后,我们可以专门针对模型出错的数据应用我们的无监督发现工具,寻找解释失败的隐藏模式——那个新颖的生物学模块。

这是从数据中发现模型的巅峰。这是一个拥抱怀疑主义、要求严谨,并创造性地结合了预测与探索的过程。这个策略将我们的失败转化为路标,将我们的错误绘成地图,引导我们从已知世界的边缘走向真正新事物的发现。

应用与跨学科联系:从隐藏的法则到工程化的生命

既然我们已经探讨了数据驱动模型发现的原理和机制,你可能会问自己:“这一切都很巧妙,但它有什么用呢?”这是一个合理的问题。一个科学思想的真正考验不是它在真空中的优雅,而是它在现实世界中开启新的理解和能力之门的力量。在本章中,我们将踏上一段穿越科学领域的旅程,亲眼见证这一思想的实际应用。我们将看到,“模型发现”并非一种小众的计算技巧;它是一个普适的透镜,通过它我们可以破译自然界隐藏的语法,从生命的指令集到支配宇宙的法则。

想象一位侦探到达一个复杂的现场。线索无处不在——指纹、脚印、散落的物品。新手可能会不知所措,或者更糟的是,根据最明显但具误导性的证据草率下结论。而一位大师级侦探,则知道如何从噪音中筛选信息,识别微妙的模式,并重构出事件的经过——即事件的模型。现代科学家也处于类似的位置。我们被来自基因测序仪、望远镜和市场行情显示器的数据所淹没。我们的任务是超越仅仅对这些数据进行编目,而是利用它来发现其背后的规则、机制和产生这些数据的方程。

破译生命语法

也许没有哪个领域比生物学更能体现这种探索的活力。中心法则给了我们信息流的基本过程——从DNA到RNA到蛋白质——但这就像了解一门语言的字母表,却不知道它的语法、句法或词汇。真正的意义被编码在一套极其复杂的规则中,即“剪接密码”、“调控密码”、“代谢密码”。数据驱动的发现就是我们的罗塞塔石碑。

让我们从最基本的层面开始:基因组调控的“词汇”。许多生物过程是由特定的蛋白质(转录因子)附着在一段特定的短DNA序列上启动的。这个结合事件是可以开启或关闭基因的开关。但是,我们如何找到这个特定的结合序列,这个分子“词汇”,比如对于在减数分裂期间协调基因重组至关重要的PRDM9蛋白?我们不能仅仅去寻找;基因组浩瀚无垠,而这个词汇很短。相反,我们可以收集关于DNA断裂确切位置的数据——这是一个由PRDM9引导的过程。然后我们面对的是一片基因组序列的汪洋大海,但我们知道“针”(结合位点)就隐藏在这些断裂的中心附近。一个谨慎的、数据驱动的流程会筛选这些区域,校正局部序列偏好和其他混杂因素,从而在计算上提炼出那个始终位于中心并显著富集的短序列基序。我们通过仔细研究它所打开的成千上万把锁上的模式,发现了这把钥匙。

然而,生物学很少只关乎单个词汇。通常,它关乎“短语”和“句子”。考虑可变剪接,即单个基因通过选择性地包含或排除某些片段(外显子)来产生多种不同蛋白质的过程。这并非由一个基序控制,而是由一个复杂的“剪接密码”控制,该密码涉及众多序列元件,这些元件根据其位置可以充当增强子或沉默子。我们如何破解这样的密码?在这里,我们可以求助于现代机器学习,例如卷积神经网络(CNN)。我们可以训练一个大型、复杂的模型,仅根据原始的DNA序列来预测一个外显子的包含程度。起初,这个模型是一个“黑箱”;它能用,但我们不知道为什么。但我们可以成为聪明的侦探!我们可以审问这个训练好的模型。我们可以进行*计算机模拟*实验,系统地突变输入序列的每一个字母,并观察模型预测的变化。通过这样做,我们描绘出模型的内部逻辑,揭示了它学到了哪些序列是重要的,以及它们在何处重要。因此,我们可以提取出模型发现的规则——即基序及其位置语法——将一个黑箱转变为生物学洞见的源泉。

进一步扩展,我们发现基因就像段落中的词语,它们以协调的群体或“模块”形式协同工作以执行功能。我们如何发现这些功能性段落?想象一下,我们拥有来自数千个肿瘤样本的基因表达数据,这些数据是多年来在不同实验室收集的。我们可以寻找那些在所有这些样本中活性水平同步升降的基因群。但这里有一个陷阱!如果我们不小心,我们可能会“发现”一个基因模块,其唯一的共同点是它们都是在“A实验室”测量的,而该实验室使用了不同的机器。这是一个“批次效应”,一个混杂因素。一个真正严谨的发现流程必须首先解释这些已知的变异来源。通过拟合一个模型来考虑批次、组织类型和患者年龄等因素,我们可以分析*残差*变异。正是在这些经过清洗的残差数据中,我们才能找到生物学共调控的真实信号,发现代表细胞真实、潜在回路的新基因集。

这引出了一个关键的哲学观点,一个类比可以很好地说明这一点。教计算机从有标签的例子中识别一个已知的生物学通路,就像教它识别贝多芬的风格一样。这是​​监督学习​​。计算机会成为识别贝多芬的专家,但它永远不会自己发现爵士乐。要发现真正新颖的东西,比如一个前所未知的通路或一类新的蛋白质折叠方式,我们必须使用​​无监督学习​​。这就像给计算机一个巨大的、未标记的音乐库,让它去组织它所发现的东西。它可能会创造出一个我们识别为新流派的声音集群。但是——这是关键点——一个集群仅仅是一个集群。它是一个数学模式,一个数据驱动的假设。当我们使用无监督聚类来寻找结构与我们数据库中任何结构都不同的蛋白质域时,我们并没有证明新折叠方式的存在。我们生成了一个候选者,一个形式优美的问题,它需要独立的实验验证来给出答案。

揭示自然方程

这种寻找隐藏规则的探索并不仅限于生物学。物理学一直以来都致力于寻找支配宇宙的数学定律。历史上,这些定律是由牛顿(Newton)或麦克斯韦(Maxwell)等杰出头脑凭借其卓越的直觉推导出来的。如今,数据驱动的方法可以辅助并系统化这一发现过程。

想象一个生物过程,其中蛋白质的浓度u(x,t)u(x,t)u(x,t)随空间和时间变化。我们可以测量它,但我们真正想要的是它的运动定律——即支配其演化的偏微分方程(PDE)。我们可能尝试从数据中发现这个偏微分方程。但如果这个过程有两种速度呢?一种是缓慢、温和的扩散,另一种是偶尔发生的、极其快速的激活尖峰。如果我们设置相机每小时拍一张快照来捕捉缓慢的扩散,我们将完全错过那些在不到一分钟内爆发并消退的尖峰。我们的数据将不包含它们存在的任何证据,任何算法,无论多么聪明,都无法为一个它从未见过的现象发现规则。这个简单的例子告诉我们一个深刻的教训:我们的数据收集策略的设计本身就可以决定发现是否可能。

在经济学等领域,模型的形式常常是激烈争论的主题。将宏观经济因素与资产回报联系起来的正确方程是什么?我们可以不从第一性原理出发争论,而是让数据说话。使用像贝叶斯符号回归这样的技术,我们可以定义一个可能的数学构件字典——比如一个因子f1f_1f1​、它的平方f12f_1^2f12​、一个交互项f1⋅f2f_1 \cdot f_2f1​⋅f2​,或者一个非线性项如sin⁡(f2)\sin(f_2)sin(f2​)。然后,我们不必去猜测正确的组合,而是可以利用贝叶斯推断的机制来计算由这些构件构建的每一种可能模型的证据。数据本身有效地“投票”选出那个能提供最可信和最简约解释的术语组合。这是一个强大的转变,从以人为中心的猜测游戏转变为对模型结构本身的系统性、计算性搜索。

从发现到设计

旅程并不会随着一个新发现的方程或一个被揭示的生物学通路而结束。理解的最终体现不仅仅是描述,而是构建。模型发现的范式现在正推动着一场新的工程革命,尤其是在生物学领域。

自然是一位工程大师,宏基因组学揭示了一个充满未被发现的生物机器的世界。我们现在可以通过整合基因组数据来寻找保守结构,整合代谢组学数据来寻找同源配体,整合转录组学数据来观察调控后果,从而发现新型的核糖开关——作为特定分子传感器的小RNA结构。这需要一个复杂的多组学方法,该方法需仔细控制如进化历史和多重统计检验等混杂因素,以便从虚假相关性的海洋中区分出真实信号。在医学上,我们可以将相同的逻辑应用于患者。通过整合肠道微生物、组织中的局部免疫反应以及血液中炎症的系统性标志物的数据,我们可以超越简单的疾病标签。我们可以发现数据驱动的“屏障功能障碍表型”,这是基于潜在的、多系统生物学机制的疾病状态新分类。这本身就是对“疾病模型”的发现。

而这导向了最激动人心的前景。一旦你发现了一种生物机器的模型,你会做什么?你会去构建它。想象一下,在一份土壤样本中,你发现了一种强效新型抗生素的DNA蓝图——生物合成基因簇。问题在于,制造它的微生物无法培养;它拒绝在实验室中生长。这不再是一个不可逾越的障碍。我们不需要那个微生物;我们只需要它被发现的“模型”。利用合成生物学的技术,我们可以读取DNA序列,在实验室从头合成这整个基因簇,并将这个遗传“工厂”插入到一个温顺、行为良好的宿主生物(如大肠杆菌(E. coli)或酵母)中。然后,我们可以将我们的驯化微生物变成生产新药的工厂。我们已经从阅读自然的蓝图过渡到利用它进行我们自己的设计。

这正是数据驱动发现承诺的最终实现。我们起初是侦探,拼凑出隐藏的规则。我们最终成为工程师,利用这些规则来建设一个更美好的世界。我们这个现代时代的数据洪流并非混乱之源;它是一个新科学发现时代的原材料,在这个时代,支配我们世界的根本模型正等待着被发现,不仅存在于天才的头脑中,也存在于数据自身的模式中。