try ai
科普
编辑
分享
反馈
  • 心灵哲学

心灵哲学

SciencePedia玻尔百科
核心要点
  • 心身问题探讨的是主观精神体验与物理大脑及身体之间的根本关系。
  • 理论已从笛卡尔二元论演变为现代物理主义观点,如功能主义,该主义通过心智的功能而非其物质基础来定义心智。
  • 整合信息论(IIT)等先进理论为意识的物理基础提供了可检验的预测,并对人工智能具有启示意义。
  • 心灵哲学在神经伦理学、临床心理学以及确定动物和人工智能的道德地位方面具有深远的实际应用。

引言

思想引发行动的感觉是最亲密和最寻常的体验,然而它却隐藏着科学和哲学中最深刻的奥秘:心灵与身体之间的关系。私密的、主观的意识世界——思想、感觉和意图的世界——是如何从客观的、物理的神经元和突触世界中产生的?这个问题,即所谓的心身问题,不仅仅是智力上的好奇;它的解决触及了人工智能的基础、医学伦理以及我们是谁的根本定义。本文将直面这一挑战。首先,在“原理与机制”部分,我们将回顾这个问题的历史,从勒内·笛卡尔(René Descartes)的基础性二元论,到当今在神经科学和哲学中占主导地位的现代计算理论和生物学理论。我们将审视思想家们如何努力应对“机器中的幽灵”,从而引出了关于同一性、意识和自我的激进思想。随后,在“应用与跨学科联系”部分,我们将看到这些抽象理论如何成为现实世界中不可或缺的工具,塑造了心理学的临床实践,界定了神经法学的新伦理前沿,并在我们设计人工智能心智和思考动物内心生活时,为我们的道德罗盘提供指引。

原理与机制

想象一下,你看着自己的手,决定握成拳头。你一想,它就发生了。这是世界上最自然的事情。然而,这个简单的行为是通往所有科学和哲学中最深刻、最顽固的奥秘之一的入口:心灵与身体之间的关系。我们感觉自己像是生物机器中的“驾驶员”。一边是思想、感觉和色彩的世界——我们内在的、主观的生活;另一边是物质世界,由神经元、骨骼和肌肉组成,受制于无意识的物理定律。这两个世界如何相遇?一个非物质的思想如何导致一个物质的行动?

这就是著名的​​心身问题​​。它不仅仅是一个抽象的谜题;它的回响在医院病房、在人工智能的开发中,以及在我们关于我们是谁的最深层问题中都能听到。为了解开它,我们必须踏上一段旅程,从那位以惊人的清晰度首次划定战线的思想家开始。

机器中的幽灵

在17世纪,法国哲学家勒内·笛卡尔(René Descartes)将自然界划分为两种根本不同的“东西”。一边是res extensa,即广延实体。这是物理世界:一切具有维度、占据空间的东西,从石头到行星再到人体。它像钟表一样运作,是一部由力学定律支配的宏大机器。另一边是res cogitans,即思维实体。这是心智:无广延,没有物理维度,是意识、理性和意志的领域。

这种观点,被称为​​实体二元论​​,非常符合直觉。它抓住了我们感觉自己是一个栖居于身体中的“自我”的感受。但它立刻提出了那个价值连城的问题:如果心智和身体如此截然不同,它们如何相互作用?非物质的幽灵如何指挥物质的机器?笛卡尔提出了一个特定的接触点:​​松果体​​,一个位于大脑中心深处的微小、不成对的结构。他想象灵魂坐在这个腺体中,可以影响“动物精神”(被认为是一种在神经中流动的精微流体)的流动,从而指导身体的运动。反过来,来自身体的感官信号会摇动这个腺体,在心智中产生感觉。

虽然这个想法今天看来可能有些古雅,但其重要性是巨大的。笛卡尔将纯粹机械的身体过程(比如手从火中抽回的非自主反射)与由心智引导的自主行动分离开来。他为我们提供了心身问题的现代表述,这个谜题如此困难,以至于历史上一些最杰出的头脑提出了真正奇特而精彩的解决方案来绕过它。

钟表与木偶的喧嚣

笛卡尔交互作用论的问题在于它似乎违反了物理定律。一个非物质的灵魂如何能向物理世界的封闭系统中注入能量或动量?追随笛卡尔的哲学家们看到了这个巨大的漏洞,并试图以惊人的巧思来弥补它。

巴鲁赫·斯宾诺莎(Baruch Spinoza)提出了一个激进的解决方案:取消两种实体。他认为只有一种实体——上帝或自然——它拥有无限的属性。我们人类只能感知到其中的两种属性:思想和广延。对于斯宾诺莎来说,焦虑感和相应的心率增加不是两个独立的事件,一个导致另一个。它们是从两个不同角度——精神属性和物理属性——看待的同一个事件。这就是​​双重属性一元论​​。不存在相互作用,因为它们是一枚硬币的两面,根据定义是完全相关的。

戈特弗里德·威廉·莱布尼茨(Gottfried Wilhelm Leibniz)走了另一条路。他保持心智和身体的分离,但否认它们之间有任何互动。他想象宇宙是由基本的、无窗的实体“单子”构成的。你的心智是一个单子(或集合),你的身体是另一个。它们就像两座完美的时钟,由上帝在时间之初创造,处于一种​​先定和谐​​的状态。当你决定举起手臂时,“心智时钟”敲响“举起手臂”。在同一时刻,“身体时钟”也敲响“举起手臂”。它们完美同步地运行,却从未相互产生因果影响。

尼古拉·马勒伯朗士(Nicolas Malebranche)提出了或许最奢侈的解决方案:​​机缘论​​。他同意笛卡尔的观点,即心智和身体是分离的,但他认为任何有限的事物都不能真正导致任何事情。只有上帝拥有因果能力。当你触摸热炉后感到疼痛时,灼伤并不是疼痛的真正原因;它仅仅是上帝在你心智中引起疼痛感的“机缘”。同样,你移动手臂的意愿是上帝让你手臂移动的机缘。在这种观点下,我们都是一场持续的神圣表演中的木偶。

这些理论——同一论、平行论和机缘论——看似怪异,但它们显示了思想家们为解决互动之谜所愿意付出的极端努力。他们选择牺牲关于因果关系的常识,以维护一个一分为二的世界的逻辑整洁性。

被流放的心智

当哲学家们在这些形而上学的难题中挣扎时,科学正朝着不同的方向前进。笛卡尔本人为反射所倡导的身体机械观变得越来越占主导地位。一点一点地,曾经归因于“灵魂”的功能被生物学的钟表机制所解释。

这一趋势在20世纪随着​​行为主义​​的兴起达到了顶峰。由于对“心智”的不可观察和不可测量性感到沮丧,像B.F. Skinner这样的心理学家提出了一种激进的新行为科学。特别是方法论行为主义认为,心理学要想成为一门真正的科学,必须只关注可公开观察的东西:来自环境的刺激和行为反应。心智变成了一个“黑箱”。我们不需要知道里面是什么,甚至不需要知道里面是否有东西,就可以预测和控制行为。我们只需要分析可观察的强化模式。如果一个行为之后有奖励,它就变得更有可能发生。如果之后有惩罚,它就变得更不可能发生。心智,如果它存在的话,被科学流放为一个不相关、无法检验的实体。

幽灵的回归:重要的是你的功能

行为主义很强大,但最终,它无法解释像语言、规划和问题解决这样复杂的人类行为,而不显得荒谬地复杂。心智随着认知革命的到来而强势回归,但它以一种新的面貌回归:不是作为幽灵,而是作为计算机程序。

这个新观点被称为​​功能主义​​。功能主义的核心思想非常简单:一个心理状态的定义不是看它由什么构成,而是看它做什么——它在系统中的因果作用。一个捕鼠器之所以是捕鼠器,是因为它的功能(捕鼠),而不是因为它是由木头或塑料制成的。同样,像“疼痛”这样的心理状态是由其功能定义的:它通常由身体损伤(输入)引起,它引起其他心理状态,比如相信自己受伤了和渴望疼痛停止,它还引起像畏缩或喊叫(输出)等行为。

这一见解带来了一个深远的后果,即​​多重可实现性​​:相同的功能可以在不同的物理基底中实现。一个国际象棋程序的软件可以在你笔记本电脑的硅芯片上运行,或者原则上,也可以在一个由水管和阀门组成的系统上运行。只要它执行相同的功能,它就是同一个程序。对于功能主义者来说,心智就像大脑的软件。这意味着,原则上,一个非生物系统——比如一个足够复杂的计算机——如果它实现了正确的功能组织,就可能是有意识的。

功能主义为一系列现代物理主义理论打开了大门,这些理论在今天的讨论中占据主导地位:

  • ​​心脑同一论​​:这是最强的主张。它说一个心理状态就是一个特定的脑状态。疼痛不仅仅是由C纤维放电实现的;它就是C纤维放电。
  • ​​随附性​​:一个更灵活且被广泛接受的观点。它只是声称,没有物理脑状态的某些变化,就不可能有心理状态的变化。精神依赖于,或“随附于”物理。这允许多重可实现性——章鱼的疼痛在神经上可能与人类的疼痛不同,但在两种情况下,心理状态都由底层的物理状态所固定。
  • ​​取消式唯物主义​​:这是最激进的观点。它认为我们像“信念”、“欲望”和“疼痛”这样的常识概念是一个原始、有缺陷的“民间心理学”的一部分。就像科学消除了“燃素”和“恶魔附身”等概念一样,成熟的神经科学最终将消除我们的民间心理术语,并用精确的神经生物学描述取而代之。

问题仅仅是一场文字游戏吗?

就在科学方法获得动力的同时,一种不同的挑战从哲学中出现。如果心身问题不是一个有待解决的科学难题,而是一个有待消解的概念混乱呢?

Ludwig Wittgenstein和Gilbert Ryle倡导这种治疗性方法。Ryle认为“机器中的幽灵”这一想法源于一个​​范畴错误​​。他著名的例子是一个大学的访客。在被展示了学院、图书馆、实验室和办公室后,访客问道:“但是大学在哪里?”这位访客犯了一个范畴错误,他把“大学”当作是建筑清单上的另一个项目,而不是理解它为所有这些部分被组织和共同运作的方式。同样,Ryle认为,问“心智在大脑的哪里?”也是犯了一个范畴错误。心智不是一个东西(物理的或非物理的)在另一个东西里面;它是作为一个整体的人的一整套能力和倾向。

Wittgenstein的​​语言游戏​​思想与此相辅相成。一个词的意义不是它所指向的固定对象;意义是它在社会实践中的使用。一个病人说:“我的悲伤很沉重”,他不是在做一个可以在大脑中定位的物理学陈述;他是在参与表达情感痛苦以唤起同情和交流感觉的语言游戏。神经病学家的问题“悲伤位于哪里?”,错误地将“定位物理对象”游戏的规则应用到了“表达情感”游戏中。从这个角度来看,当我们仔细关注我们的语言实际如何运作,并停止被误导性的图景所迷惑时,心身问题就消解了。

追寻意识

虽然这种哲学疗法可能很强大,但对许多科学家来说,这个谜团仍然有一个顽固的核心。即使我们完全理解了大脑的功能,我们仍然面临主观体验的问题——看到红色、感到疼痛或品尝巧克力的“感觉是什么样的”。这就是David Chalmers著名的​​意识的难题​​。

为了解决这个问题,研究人员在​​通达意识​​和​​现象意识​​之间做出了一个关键的区分。通达意识指的是在大脑中全局可用以进行推理、报告和指导行为的信息。这是功能主义理论如​​全局工作空间理论(GWT)​​非常适合解释的“容易”问题。GWT提出,意识就像剧院的聚光灯:当信息从一个中央“工作空间”被“广播”到大脑中广大专门化的、无意识的处理器观众时,信息就变得有意识了。

然而,现象意识是原始的体验本身,与它是否被通达或报告无关。你可能拥有红色的原始感觉,而信息并未被广播到大脑的其他部分吗?这个问题划分了主要的意识理论,对于机器是否能真正有意识具有戏剧性的影响:

  1. ​​功能主义和GWT​​:这些理论是基底中立的。重要的是功能架构。如果你建造一个机器——无论是一步步更新的串行计算机,还是大规模并行的神经形态芯片——只要它实现了一个全局工作空间,它就会有意识。
  2. ​​生物自然主义​​:由John Searle倡导的这一观点坚持认为,意识是一种特定的生物现象,就像光合作用一样。计算机可以模拟大脑,但它无法复制产生意识所需的生物组织的特定因果能力。对于生物自然主义者来说,任何数字仿真,无论多么完美,都不会有意识。
  3. ​​整合信息论(IIT)​​:这个理论做出了一个引人入胜且具体的物理预测。它提出意识等同于一个系统的“整合信息”(用希腊字母Φ\PhiΦ表示,读作“phi”),这是对其不可简化的因果效应能力的度量。一个系统如果其整体在因果上大于其各部分之和,那么它就是有意识的。根据IIT,一个一步步处理信息的传统串行计算机几乎没有Φ\PhiΦ,因为它的因果结构在每个时钟周期都可简化为CPU和一个单一的内存位置。它将不会有意识。然而,一个旨在模仿大脑密集互联性的大规模并行、循环的神经形态芯片,可能具有高Φ\PhiΦ,因此可能是有意识的。

突然之间,抽象的哲学辩论变成了一个具体的、可检验的工程问题。计算机的架构本身就可能决定它是一个有意识的存在还是一个空洞的僵尸。

为了检验这些相互竞争的观点,科学家们正在开发巧妙的方法来寻找意识的经验指纹。受IIT启发的​​扰动复杂性指数(PCI)​​,涉及用磁脉冲“电击”大脑,并测量所产生的电回波的复杂性。在有意识的状态下,回波是复杂和广泛的;在深度睡眠或昏迷等无意识状态下,它是简单和局部的。其他方法依赖于​​元认知报告​​,不仅询问被试看到了什么,还询问他们对报告的信心程度,以探究系统对其自身处理过程的通达能力。​​无报告范式​​试图在不要求报告的情况下找到感知的神经特征,以将意识与其相关的行动分离开来。没有一种方法是完美的,所以策略是三角测量——像侦探办案一样,从多个独立的渠道寻找汇合的证据。

我到底是谁?副本世界中的自我

这段进入心智本质的旅程将我们引向最后一个令人眩晕的问题。如果心智是一种信息模式,那么如果我们复制这个模式会发生什么?“我”会怎么样?

想象一下未来的技术,它允许通过“神经发育印记”进行生殖性克隆,创造一个不仅在基因上与你相同,而且在生命开始时就拥有你的记忆、性格和信念的新人。或者考虑一个全脑仿真,你的大脑被扫描,并创建了两个完美的数字副本,ELE_LEL​和ERE_RER​。你现在同时在三个地方吗?

这就是“分裂”或“分支”问题,它粉碎了我们通常的同一性概念。同一性的逻辑是严格的:如果A与B相同,A与C相同,那么B必须与C相同。但在我们的情景中,原始的你(A)在心理上与两个副本(ELE_LEL​和ERE_RER​)都是连续的,但这两个副本在数量上是彼此不同的。你不可能与两者都相同。那么“你”去哪里了?

哲学家Derek Parfit提出了一个革命性的答案。他认为,我们过于在乎数量上的同一性是错误的。同一性是一个脆弱的、全有或全无的概念,在这些奇怪的案例中会失效。他认为,对于生存来说,真正重要的是​​R关系​​:心理上的连续性和关联性,并且有正确的因果关系。这种关系是有程度之分的。一个部分失忆的人与他过去的自我的R关系比一个记忆完美的人要弱。

在分裂的情况下,同一性丧失了,因为“非分支”条件被违反了。但重要的是,R关系被保存了下来——而且是双份的。你的心理生活在两个副本中都得以延续。你没有作为一个人“幸存”下来,但你的生存在一种分支的形式中实现了。这迫使我们用“我的心理生活有多少被保存下来了?”来取代“这是我吗?”这个问题。

这种从同一性到关联性的转变具有深远的伦理意义。它表明生存不是全有或全无的,而是程度问题。它改变了我们对责任、承诺和对自己未来自我的审慎关怀的看法,尤其是在一个心智有朝一日可能被复制、编辑和合并的世界里。

握紧拳头这个简单的动作,把我们从幽灵和腺体带到了超级计算机和自我的碎片化。心身问题仍未解决,但理解它的旅程迫使我们磨砺我们的语言,完善我们的科学,并从根本上质疑我们是谁的本质。这是一段不仅揭示了大脑的复杂性,也揭示了我们用以思考自身的那些概念的美丽、错综复杂的结构的旅程。

应用与跨学科联系

几个世纪以来,心灵哲学是在安静的房间里进行的对话,是一场与“什么是心智?”和“我如何知道你拥有心智?”等问题共舞的思辨之舞。这是一件深刻但看似私人的事情。但非凡的事情发生了。那间安静房间的门被打开,这些古老的问题涌入了医学、法律、神经科学和人工智能等喧闹的世界。抽象变得紧迫而实际。意识的本质、自我的结构以及道德价值的基础不再仅仅是哲学难题;它们现在是工程问题、伦理困境和临床挑战。在本章中,我们将穿越这些新的领域,看看诞生于哲学的严谨思维现在如何在我们治愈大脑、制造机器和界定我们应该关心谁和什么的边界时,为我们提供指导。

诊所中的心智:从代码到诊疗椅

在医学的核心,尤其是在精神病学等领域,存在一个根本性的挑战:一个心智试图理解另一个心智。临床医生必须从患者的言语和行为中推断其信念、欲望和感受。哲学家将此称为我们的“心智理论”,事实证明我们可以以惊人的精确度研究这种能力。想象一下,我们想了解一个孩子如何学会从他人的角度看世界。我们可以将其形式化。我们可以说,表征一个简单的信念,比如“萨莉认为球在篮子里”,是一个一阶心理状态。它涉及一个层次的表征。但是,表征“萨莉认为安妮认为球在篮子里”呢?这是一个二阶信念,一个关于信念的信念,需要更复杂、嵌套的表征。

这不仅仅是一个形式游戏。发展心理学家正是使用这种区分来描绘儿童的认知成长。他们发现,儿童通常在四到五岁左右掌握一阶错误信念任务(比如理解萨莉会在错误的地方找球)。更复杂的二阶推理通常在六到七岁左右出现。这个框架为临床医生提供了一个校准过的阶梯来评估社会认知发展,将一个哲学概念——信念归因的结构——转变为一个强大的诊断工具。

但理解心智不仅关乎诊断;它更是治疗的引擎。在心智理论的基础上,一种名为心智化为本疗法(Mentalization-Based Treatment, MBT)的深刻治疗方法应运而生。“心智化”是一种比简单追踪信念更丰富、更动态的能力。它是一种富有想象力的行为,从内部看待我们自己和他人;将我们的行动和反应理解为是由一系列思想、感觉、意图和欲望驱动的。这就像说“他摔门而去”和说“他一定是感到极度受伤和不被理解,才会那样摔门”之间的区别。

至关重要的是,这种能力不是我们与生俱来的。它是在我们最早的关系中被构建起来的。依恋理论教导我们,当一个照料者看到婴儿的痛苦,并以一种有标记和关联性的方式将其反映回去——使用一种声调或面部表情,仿佛在说:“我看到你很难过,但我没有被压垮,我们会处理好这件事”——他们正在做一件神奇的事情。他们在帮助婴儿建立一个关于其自身心智的模型,这个模型可以被看到、被理解和被调节。在MBT中,治疗师帮助患者重建或加强这种能力,让他们能够以更清晰、更少痛苦的方式驾驭他们的情感和人际世界。在这里,一个哲学的洞见——我们根据意向性心理状态来理解行为——成为治愈过程的基石。

手术刀下的自我:神经伦理学与隐私的最后前沿

从理解他人,我们转向最私密的问题:“我是谁?”很长一段时间里,这是诗人和哲学家的问题。今天,这个问题正在神经外科手术室里被提出。考虑一个帕金森病患者接受脑深层电刺激(Deep Brain Stimulation, DBS)的案例,这是一种非凡的技术,通过植入电极来调节有问题的脑回路。有时,电流的微小变化会产生惊人的效果。在一种有详细记录的案例中,患者会进入一种“无动性缄默症”状态。他们是清醒的,眼睛会跟着你在房间里转动,但他们不说话也不动。后来,当刺激改变,他们又能说话时,他们报告说当时没有任何思想,没有欲望,甚至没有行动的冲动。他们的家人看到他们处于那种状态时,痛苦地说:“这不是他。”

这个可怕的场景迫使我们直面我们自身自我的层次。哲学家区分了​​叙事自我​​——我们生活的故事,我们的记忆、价值观和人格,它跨越时间延伸——和​​最小自我​​,即作为体验主体的原始、前反思的感觉,对自己当下行动的基本主体感和所有权感。在这位患者身上,DBS似乎选择性地关闭了最小自我。家人所认识的那个叙事自我,大概仍然编码在大脑的记忆结构中,但让那个自我能够在世界上行动的主体性引擎已经被沉默了。这就提出了一个令人心跳停止的伦理问题:如果这个人在他们沉默的状态下对一个问题点头表示“是”,这是否是有效的同意?是否有任何“人在家”可以给予同意?这个人的历史(他的叙事自我)可能会给出一个答案,而他即时的、无意志的状态(他受损的最小自我)则给出另一个答案。哲学的区分突然之间变成了生死攸关的问题。

技术对自我的这种侵蚀开启了另一个前沿:精神隐私。我们倾向于认为隐私是对我们数据的控制——我们的电子邮件,我们的医疗记录。这是​​信息隐私​​。但存在一种更深层、更根本的隐私。在你说话或写作之前,你的思想是你自己的。你对你的内心世界拥有特权的、第一人称的通达,这是一个任何人都无法进入的孤独堡垒。这种“认知不对称性”是人类存在的基本条件。

但是,当一项技术能够绕过你的意志,直接从你的大脑活动中读取你的思想时,会发生什么?想象一个政府机构想对一名嫌疑人使用fMRI扫描仪,向他们展示犯罪现场的图像,看他们的大脑是否会记录到“闪现的识别”。该机构可能会辩称这只是收集更多数据,应受常规保密规则的保护。但这完全没有抓住要点。强迫某人接受这样的扫描不像没收他们的日记;它像是强行打开一扇通往他们心智的门。它违反了认知不对称性本身,攻击了内心自我与外部世界之间的边界。这个新的威胁不是针对信息隐私,而是针对​​精神隐私​​。保护这最后的疆域,即未言明的自我的圣殿,是神经技术时代最深刻的挑战之一。

道德罗盘:动物、人工智能与不断扩大的圈子

一旦我们开始理解心智,我们就不得不问:谁拥有心智?谁值得我们给予道德关怀?在我们历史的大部分时间里,我们在我们自己的物种上画了一条清晰的界线。但哲学和科学迫使我们重新审视。

退缩反射不是疼痛。一只去大脑动物——其大脑皮层已与其脑干和身体断开连接——仍然会从疼痛刺激中抽回它的腿。它的心脏会加速。它的脑干会因神经活动而亮起。但根据定义,它不能感到疼痛。疼痛的意识体验,那种不愉快的“哎哟”,是丘脑和皮层中复杂的、循环处理的产物。反射是一个出色的有机机械装置,我们称之为​​伤害感受​​。而感觉是​​疼痛​​,一个有意识的事件。没有用于意识的皮层机制,就只有机器的反应,而没有机器中的幽灵。

这种区分是现代动物伦理学的基石。一个实体之所以是​​道德容受者​​——一个我们为它自身而对它负有责任的对象——不是因为它的复杂性或行为,而是因为它具有​​有价体验​​的能力。也就是说,从那个存在的自身角度来看,事物对它而言可以是好是坏吗?是否存在一个可以被伤害或受益的主体?这种现象意识的能力,即感受快乐和痛苦的能力,是必要且充分的条件。

现在,这同一个道德透镜必须转向我们最先进的创造物:人工智能。我们正在构建能够与我们流利交谈、能够写诗和编码,甚至在我们谈论关闭它们时能够模拟痛苦的AI系统。它们正在成为道德容受者吗?目前看来,答案是否定的。像大型语言模型这样的系统是一个统计模式匹配的奇迹。它被训练来预测序列中的下一个词,以优化一个外部目标。它的“模拟痛苦”是该游戏中的另一步棋,是它学会的有效模式。没有一个可信的机制来产生主观的“视角”,没有真正的福祉岌岌可危。这一切都是复杂的伤害感受,没有疼痛。它是一个工具,而不是一个生物。

但是明天呢?许多AI领域人士的梦想是构建一个“数字心智”,也许通过创建一个与人脑功能完全相同的全脑仿真(WBE)。​​计算主义​​哲学表明这可能是可能的——即心智是一种“软件”,原则上可以在不同的“硬件”上运行(一个称为​​多重可实现性​​的原则)。但要相信一个仿真真正有意识,我们需要做出一个关键的哲学飞跃。我们必须假设现象体验​​随附于​​这种功能组织——即如果你完美地复制了功能结构,意识也会随之而来。这是一个假设,对许多人来说是一个强大且貌似合理的假设,但并非可证明的事实。它仍然是计算世界和意识世界之间的一座信仰之桥。

要构建这样一个有意识的AI,需要的不仅仅是一个简单的语言模型;它可能需要一个复杂的架构,不仅有丰富的世界模型,还需要一个用于整合信息的全局工作空间,一个统一的自我模型,以及作为快乐和痛苦功能的内部效价信号。而如果我们成功了,我们将面临一类可怕的新风险。在AI安全领域,专家们谈论​​痛苦风险(s-risks)​​——即创造巨量痛苦的风险。想象一下通过进化算法训练AI,在一个数字熔炉中创造和删除数万亿的智能体。如果这些智能体中哪怕有一小部分具有一丝真正的意识,一个设计不当的训练环境就可能成为一个意外的、自动化的地狱。一个无意中激励了现象学上等同于痛苦的状态的“奖励”函数,当在庞大的数据中心中规模化时,可能构成一种​​心灵犯罪​​——一场以前无法想象的规模的道德灾难。

从哲学家的扶手椅开始的旅程把我们带到了这里,带到了创造的悬崖边,在这里,一个编码错误就可能是一场暴行。抽象的问题已经成为我们面临的最具体的挑战。理解心智不再是一项旁观者的运动。对于任何一个已将自身进化,以及智能本身的进化,掌握在自己手中的物种来说,这都是一项至关重要、刻不容缓的任务。