try ai
科普
编辑
分享
反馈
  • 互补学习系统

互补学习系统

SciencePedia玻尔百科
核心要点
  • 大脑通过使用两个互补的系统来解决稳定性-可塑性困境:一个用于新情景记忆的快速学习的海马体,以及一个用于稳定、泛化知识的慢速学习的新皮层。
  • 海马体利用模式分离为相似事件创建独特的神经编码,从而实现快速学习而无干扰。
  • 在睡眠期间,海马体会重放记忆,使新皮层能通过系统性巩固将这些信息缓慢地整合到其结构化的知识库中。
  • 这种生物学架构为人工智能中的“灾难性遗忘”问题提供了直接的解决方案,启发了基于重放的持续学习模型。
  • CLS 框架可以在更深层次上被理解为一个贝叶斯过程,其中海马体和新皮层协同合作,不断完善大脑对世界的生成模型。

引言

我们如何能在学习一张新面孔的同时不忘掉一张旧面孔?这个被称为“稳定性-可塑性困境”的根本挑战,要求学习系统既要足够灵活以获取新信息,又要足够稳定以保留现有知识。尽管现代人工智能常常在这种平衡中挣扎,导致“灾难性遗忘”,但人类大脑却进化出了一种巧妙的解决方案。互补学习系统(CLS)理论提出,我们的大脑并非依赖单一的全能学习器,而是将任务分配给两个专门的、协同工作的系统。本文将探讨这一强大理论,带领读者踏上一段探索记忆架构的旅程。

第一部分“原理与机制”将解析 CLS 框架的核心。我们将检视快速学习的海马体和慢速学习的新皮层的不同角色,探索它们用不同的信息表征方式如何共存并克服干扰问题。我们还将发现这两个系统如何沟通,在睡眠中将记忆从短暂的情景转化为持久的知识。随后的“应用与跨学科联系”部分将揭示这种双系统观点的深远影响,展示它如何为跨时间记忆、衰老效应、睡眠本质提供统一的解释,甚至为构建更智能、更鲁棒的人工学习系统提供蓝图。

原理与机制

想象一下,你试图建立一个囊括你所有学识的图书馆。每天,你都会收到潮水般涌来的新书:一个新熟人的面孔、一部电影的情节、你停车的位置。你必须将这些新书加入你的收藏。但如果为了给一本新书腾出空间,你不得不丢弃一本旧书呢?如果学习新同事的名字导致你忘记了自己的名字呢?这并非异想天开的问题,而是任何学习系统面临的最深刻的挑战之一。它被称为​​稳定性-可塑性困境​​。

一个学习系统必须足够​​可塑​​,以快速吸收新的、具体的信息。同时,它也必须足够​​稳定​​,以确保新知识不会灾难性地覆盖庞大、结构化的旧知识库。人工智能系统正是在这个问题上举步维艰,常常遭受所谓的​​灾难性遗忘​​:学习一项新任务后,先前掌握的任务表现会急剧下降。然而,我们的大脑进化出了一种惊人而巧妙的解决方案。这个方案不是构建一个完美的、全能的学习器,而是构建两个专门的、互补的学习器。

两种学习器的故事:短跑选手与马拉松选手

互补学习系统(CLS)理论提出,我们的大脑将学习任务分配给两个本质上不同的系统:海马体和新皮层。可以把它们想象成一个由两名运动员组成的团队,一名短跑选手和一名马拉松选手,各自完美地适应不同类型的比赛。

​​海马体​​是短跑选手。它藏在大脑的内侧颞叶中,是一个为速度和特异性而生的系统。它的工作是以高保真度的细节捕捉我们生活中转瞬即逝的时刻——即​​情景​​——并在一瞬间完成。正是你大脑的这个部分记住了今天早上这个特定的情景:你看到靠在图书馆的那辆红色自行车,空气的清冽,以及车篮里那本书的书名。它是一个生物草稿纸,快速编码日常生活的“何事、何地、何时”。

​​新皮层​​,即大脑广阔、布满褶皱的外层,是马拉松选手。它是一个为耐力和智慧而生的系统。它的工作是缓慢学习,在数天、数周甚至数年的时间里逐渐整合信息,以建立一个稳定、结构化的世界模型。它关心的不是图书馆旁的那辆红色自行车,而是“自行车”、“红色”和“图书馆”这些一般概念。它提取我们世界的统计规律,编织出我们一般知识(或称​​语义记忆​​)的丰富织锦。

这种分工是大脑在解决稳定性-可塑性困境时的神来之笔。海马体为新情景提供可塑性,新皮层为长期知识提供稳定性。但为什么这种分工是必要的?为什么一个单一系统不能既快又慢?答案在于大脑的语言本身:它表征信息的方式。

它们成功的秘诀:不同的思维方式

让我们回到两次看到自行车的场景:一次是早上在图书馆,另一次是晚上在咖啡馆。这是相似的事件,但却是不同的情景。为了避免灾难性干扰,学习系统必须能够在不损坏第一个记忆的情况下存储第二个记忆。海马体和新皮层通过使用截然不同的编码策略来实现这一点。

海马体的魔力在于一个称为​​模式分离​​的过程。它接收两个相似的输入(比如两个自行车情景),并用截然不同、不重叠的神经活动模式来表征它们。可以把它想象成一个图书管理员为两本非常相似的书分配了完全独特的序列号。因为这两个记忆的神经编码几乎是正交的(不相关的),所以它们不会相互干扰。这一点的影响是深远的。一个简单的数学模型表明,一个记忆对另一个记忆造成的干扰量与系统的​​学习率​​(α\alphaα)和其神经编码的​​重叠度​​(sss)的乘积成正比。

∣Interference∣∝αs|\text{Interference}| \propto \alpha s∣Interference∣∝αs

由于海马体的重叠度(sss)接近于零,它得以使用极大的学习率(αH\alpha_{\mathrm{H}}αH​)一次性形成强烈的记忆,而不必担心覆盖相邻的记忆。

新皮层则遵循相反的原则。它使用​​分布式、重叠的编码​​。它用相似的活动模式来表征两个自行车情景,突出了它们的共同特征:“红色”、“自行车”、“在外面”。这种重叠正是泛化和抽象的基础——也是我们形成概念的方式。但这种能力带来了一个关键的约束。因为皮层的重叠度(ρ\rhoρ)很大,干扰方程告诉我们,为了保持低干扰,皮层学习率(αC\alpha_{\mathrm{C}}αC​)必须极小。如果皮层试图以高学习率学习咖啡馆-自行车这个新情景,其重叠的表征将灾难性地损坏它对图书馆-自行车的记忆以及所有其他相关知识。

在这里,我们看到了设计的精妙与统一。大脑通过拒绝做出权衡,解决了一个看似不可能的难题。它不是一个系统,而是两个,每个系统都在不同的模式下运行:海马体以其稀疏编码和快速学习,新皮层以其重叠编码和缓慢、耐心的学习。

夜间的对话:从情景到知识

那么,我们有了一个位于海马体的快速但临时的记事本,以及一个位于新皮层的缓慢但永久的图书馆。白天的笔记是如何被转移到宏伟的知识图书馆中的呢?这个过程就是​​系统性巩固​​,而且它确实就发生在我们做梦的时候。

在深度慢波睡眠阶段,大脑的化学环境发生变化。海马体的可塑性被抑制,而新皮层则变得易于学习。此时,海马体开始“重放”它在白天记录的记忆。它像一位耐心的老师,向作为学生的新皮层广播白天的经历。

这不仅仅是简单的回放。重放是​​交错进行​​的:新记忆与旧记忆混合在一起,为新皮层呈现一个平衡、混合的课程。这一点至关重要。正如学生通过混合练习不同类型的题目比连续数小时练习一种题型能更好地学习数学一样,皮层通过在旧知识的背景下看待新信息来学习世界的潜在结构。这可以防止它被最近的经历所偏倚,并实现真正的整合。

随着每一次记忆的重放,皮层在其微小学习率的指导下,对其连接进行微小的调整。单次更新微不足道,但夜复一夜,成千上万次的重复,这些微小的变化会累积起来。曾经完全依赖于海马体的记忆,逐渐被编织进新皮层的结构中。它被巩固了。这解释了为什么记忆稳定存在不同的时间尺度:​​突触巩固​​在数小时内加强新记忆的连接,但​​系统性巩固​​,这个宏大的知识重组过程,可能需要数周、数月甚至数年。

构建图书馆:良好图式的力量

新皮层不是一个被动的学生。它是一个积极的图书管理员,不断试图组织其知识。它构建心智模型,即​​图式​​——关于世界如何运作的结构化知识框架。例如,你有一个关于“去餐馆”的图式,包括就座、点餐、吃饭和付账。

当一个新体验是​​与图式一致的​​——也就是说,它能很好地融入现有图式(比如一次典型的餐馆就餐)——巩固过程会非常快。皮层已经为这些信息预留了位置。用学习模型的语言来说,皮层网络所需的改变很小,所以可以毫不费力地被整合。

然而,当一个体验是​​与图式不一致的​​——出人意料且新奇(想象一下一家先付钱后吃饭的餐馆)——巩固过程就会缓慢而困难。新皮层必须进行重大更新,甚至可能需要创建一个新的图式。这个过程会受到系统固有的稳定性驱动的积极抵制。

随着时间的推移,这种巩固过程不仅仅是转移记忆,它还会转化记忆。当海马体中细节丰富的 episodic trace(情景痕迹)褪去时,新皮层中一个更抽象、​​要点式​​的语义表征会变得更强。我们可能会忘记去年遇到的十只不同狗的具体细节,但我们皮层中关于“狗”的概念却变得愈发稳固。通过系统性巩固,记忆是一段从特殊到普遍的旅程。

这个优雅的两部分系统,是敏捷的短跑选手和智慧的马拉松选手之间的一场舞蹈,让我们能够活在当下,从过去学习,并为未来做准备。它证明了生物计算的美妙与统一原则,用一个惊人简洁的方案解决了一个极其复杂的问题。

应用与跨学科联系

在回顾了互补学习系统(CLS)理论的基础原理之后,我们已经了解了大脑如何巧妙地将学习任务分配给两个专家:一个敏捷但短暂的海马体和一个有条不紊但持久的新皮层。现在,我们处在一个绝佳的位置来提出一系列不同的问题:这又如何? 这个优雅的理论在哪些地方留下了印记?它如何帮助我们理解我们自己丰富的精神生活、衰老的挑战、睡眠的本质,甚至构建智能机器的探索?

让我们踏上旅程的下一段,从抽象的原则走向具体的应用,去发现这个双系统架构如何在科学和技术领域产生共鸣。

记忆的管弦乐:时间尺度的交响曲

想象一个记忆的诞生。一次新的体验——一个新熟人的面孔,一种奇异水果的味道——被海马体瞬间捕捉。这个初始表征生动而详细,但也很脆弱,就像湿黏土上的素描。CLS 框架表明,这个海马体痕迹,我们称其强度为 H(t)H(t)H(t),几乎立即开始衰退,随时间呈指数级衰减。如果故事到此为止,我们的头脑就会像漏水的桶,无法长久地留住过去。

但正是在这里,第二个角色——新皮层——登上了交响乐的舞台。在休息和睡眠期间,海马体“重放”记忆,将原始体验的回声发送给新皮层。每一次重放都会引导新皮层逐渐加强其自身的记忆表征 C(t)C(t)C(t)。这个皮层痕迹建立缓慢,但要稳定得多。我们可以把它想象成一位雕塑大师,小心翼翼地将黏土素描的短暂形态凿刻成永久的大理石雕像。

这种转移并非瞬时完成,而是一场与时间的动态赛跑。皮层记忆痕迹的强度是重放驱动的学习这一建设性过程与自然遗忘这一破坏性过程之间竞争的结果。对此过程的数学模型显示,皮层痕迹 C(t)C(t)C(t) 通常随着信息从海马体转移而增强,达到一个峰值,然后在非常长的时间尺度上缓慢衰减。整个过程的效率取决于一系列参数的精妙平衡:海马体衰减率(δH\delta_HδH​)、皮层衰减率(δC\delta_CδC​)以及转移过程的效能,后者又取决于重放率(λ\lambdaλ)和皮层学习率(αC\alpha_CαC​)。

我们在任何时刻能有意识回忆起的内容 R(t)R(t)R(t),是两个系统共同演奏的二重奏。一个简单而有力的描绘方式是将其视为海马体和新皮层贡献的加权和,也许类似于 R(t)=wHH(t)+wCC(t)R(t) = w_H H(t) + w_C C(t)R(t)=wH​H(t)+wC​C(t)。在事件发生后的最初几天和几周内,我们的回忆在很大程度上依赖于生动的海马体痕迹。随着时间的推移,接力棒被传递给新皮层。这个简单的想法完美地解释了一个经典的神经学发现,即里博定律:在海马体受损的患者中,近期记忆遭到毁灭性破坏,而遥远的、更古老的记忆则基本完好无损。旧记忆之所以安全,是因为它们已经完成了进入皮层大理石的漫长旅程。这也使我们能够模拟“虚拟损伤”的效果,并比较关于皮层究竟存储了什么的竞争理论——它是一个忠实的海马体记忆副本,还是一个经过转换的、更具图式化的版本?。

心灵的建筑师:在已知的基础上构建

我们很少在真空中学习事物。我们的头脑中包含了庞大的、预先存在的知识结构——心智框架,或称“图式”。新信息如何与这个现有架构互动?这正是 CLS 框架大放异彩之处。

想象一下你正在了解一个新城市。如果你得知一家新面包店开在了熟悉的邮局旁边,这个事实就能整洁地“融入”你已有的心智地图。这就是我们所说的“与图式一致”的信息。根据 CLS 理论,因为新皮层中已经存在了该信息的支架,所以它可以相对较快地被整合,减少了对海马体及其耗时的重放周期的依赖。

现在,想象一下你被告知一个完全任意、怪异的事实,比如“公园里的雕像会在黎明时唱咏叹调”。这种“与图式不一致”的信息在你的知识库中没有现成的插槽。它是真正新颖的。对于这类记忆,完整的 CLS 流程至关重要。海马体必须抓住这个奇怪的新情景,并煞费苦心地重放它,也许需要经过许多个夜晚的睡眠,才能在新皮层中为其开辟一个新的位置。

这种区别为睡眠在记忆中的作用提供了深刻的解释。当科学家干扰睡眠中关键的记忆巩固阶段时,他们发现对任意的、与图式不一致信息的记忆会受到严重损害。由重放驱动的构建工程被迫中止。然而,对与图式一致信息的记忆通常更具弹性。大脑的建筑师可以将新部件嵌入现有蓝图,而无需通宵的施工队。因此,睡眠不仅仅是被动的休息,它是一个心智整理和架构修订的活跃时期。

两种学习器的故事:陈述性记忆 vs. 程序性记忆

人们很容易认为 CLS 框架解释了所有学习,但大脑比这更聪明。它是一个拥有多种工具以应对多种工作的工具箱。海马体-新皮层组合擅长学习事实和事件——科学家称之为陈述性记忆。但学习一项技能,比如骑自行车或弹奏钢琴奏鸣曲,又是怎么回事呢?

这是另一个平行的学习系统的领域,其中心是被称为基底核的大脑区域,特别是纹状体。这是大脑的“学徒”,通过实践来学习。当陈述性系统学习“什么”时,这个程序性系统学习“如何”。

学习规则有根本的不同。纹状体并非基于一次性编码和重放的原则运作。相反,它通过试错逐步学习,由一种被称为“奖励预测误差”的强大信号引导,该信号由神经递质多巴胺传递。当一个行动导致比预期更好的结果时,多巴胺的爆发会强化导致该行动的神经通路。这就是强化学习的本质。

这揭示了我们的大脑至少有两种主要的学习策略在并行运行。这就是为什么一个因海马体损伤而患有严重失忆症的病人,虽然不记得早餐吃了什么,却仍然能随着时间的推移学会新的运动技能。 “图书管理员”(海马体)停止了工作,但“学徒”(纹状体)仍在岗位上。一个熟练的习惯,刻印在皮层-纹状体回路中,即使在学习它的陈述性记忆消失后,仍能长久存在。

机器中的回响:受大脑启发的人工智能

CLS 框架最激动人心的应用之一是在人工智能领域。训练人工智能模型的一个主要挑战是所谓的“灾难性遗忘”。如果你训练一个神经网络来区分猫和狗,然后用区分汽车和卡车的新任务来训练它,它通常会完全忘记最初关于猫和狗的知识。新学习覆盖了旧知识,而生物大脑凭借其 CLS 架构,已经巧妙地解决了这个问题。

直接受大脑启发,人工智能研究人员实现了“基于重放的持续学习”算法。他们创建了一个人工的“海马体”,形式是一个*情景记忆缓冲区*,用于存储一小部分来自过去任务的样本。当主网络(“新皮层”)学习新任务时,该算法将新数据的训练与从缓冲区中“重放”随机选择的旧样本交错进行。

这个简单的技巧效果非常好。通过混合新旧知识,网络学会在不灾难性地干扰现有知识的情况下容纳新信息。这是一个绝佳的范例,展示了神经科学的深层原理如何为重大的工程问题提供直接而有力的解决方案。大脑解决稳定性-可塑性困境的古老方法,现在正在帮助我们构建更鲁棒、更智能的机器。

老化的大脑:变化的平衡

CLS 框架也为我们观察伴随衰老的认知变化提供了一个有力的视角。随着年龄增长,我们形成新的、持久记忆的能力会下降,这是一种普遍的体验。CLS 不仅描述这一现象,还让我们能够模拟其潜在的底层机制。

我们可以通过调整我们巩固模型的关键参数来形式化衰老的影响。神经生物学证据表明,随着年龄增长,可能会发生几种变化:海马体编码新信息的效率可能略有下降(其学习增益降低,ρ1\rho 1ρ1),它形成的记忆痕迹可能衰退得更快(衰减率增加,γ>1\gamma > 1γ>1),并且由于睡眠更加碎片化,基于睡眠的重放过程可能效果不佳(重放效能降低,η1\eta 1η1)。

当我们将这些看似微小的变化代入巩固的数学模型时,它们预测了随着时间推移成功转移到新皮层的信息量将显著减少。该模型定量地展示了从快速学习器到慢速学习器的信息管道的节流如何导致许多人经历的记忆困难。这为认知老化提供了一个有原则的、机械性的解释,为理解并可能缓解这些变化开辟了新途径。

更深层的统一:贝叶斯大脑

到目前为止,我们已经从机制——脑区、学习率和重放——的角度讨论了 CLS。但是否存在一个更深层、更根本的原则在起作用?一个优美而有力的观点,处于理论神经科学的前沿,即通过贝叶斯推断的视角来看待 CLS。

也许大脑的最终目标是建立一个世界的*生成模型*——一个能够解释其接收到的感官数据并预测接下来可能发生什么的统计模型。在这种观点下,新皮层是系统的一部分,它缓慢地学习这个世界模型的稳定、潜在的参数:语法规则、物理定律、物体的一般结构。这些是“语义”参数 θC\theta_CθC​。

但要解释任何特定的感官体验(一个“情景”),就需要推断出产生它的具体的、短暂的潜在变量(zzz)。这被认为是海马体的工作。它执行快速推断,以弄清当前情况的“何人、何事、何地”。

那么,系统性巩固是什么呢?它可以被看作是一种强大的统计学习算法(类似于期望最大化算法,EM)的绝妙神经实现。在睡眠等离线状态下,系统致力于改进其世界模型。海马体通过生成能够最好地解释近期经验的潜在变量(zzz)的样本来进行“重放”(​​E-步​​)。然后,新皮层观察这些内部生成的样本,并调整其参数(θC\theta_CθC​),以使这些样本出现的可能性更大(​​M-步​​)。

这将系统性巩固从简单的数据传输重新定义为一个复杂的模型优化过程。这两个系统不只是来回传递一个记忆;它们在一个有原则的、统计学的舞蹈中合作,不断改进大脑对现实的内部模型。这一深刻的见解揭示了大脑功能中潜在的深层统一性,将记忆的生物学与信息处理和推断的基本原则联系起来。它证明了一个理念:在大脑复杂的机制中,我们可以找到最优雅、最强大的数学定律的回响。