智能、心智与机器：哲学和认知基础

导读：先问清楚是哪一种主张

一个聊天系统接住双关语，可能是很强的任务表现；研究者发现某组内部状态稳定追踪句法角色，才开始形成表征主张；说系统因此理解了话语，需要说明“理解”的判准；说它有疼痛、愉悦或“身处其中”的感受，则进入主观体验问题。这些命题可以互相提供线索，却不能靠一个形容词彼此代替。

本章不给“机器有没有心”盖章，而是教你辨认论证是否偷换了命题类型。读完后，你应能分别回答：系统做对了什么？内部怎样产生结果？哪些状态可被解释为关于世界？“理解”采用行为、功能还是因果判准？有没有任何证据涉及体验本身？哲学并非在工程之外挑字眼；不同答案会改变测试怎样设计、风险怎样说明，以及我们为何对一个对象负有道德义务。

证据规则　思想实验检验概念和推论，不是对真实机器做过的实验。行为测试提供公共可观察证据；机制研究检验实现；关于理解、意识或道德地位的结论还需要明说所采用的心灵理论。下文不会把三者混写。

3.1 什么算智能：五类命题的并列检查

“智能”在本书中首先是任务中的能力描述：在给定输入、环境和评价规则下解决问题。它可以通过准确率、适应新样本、规划结果或交互质量来检验。这个起点避免把“聪明”当作一团不可测的内在光芒，但也不把可测表现当作全部心智。

1950 年，Alan Turing 认为“机器能思考吗”中的词难以先行定义，于是用模仿游戏替换原问题。原文首先描述一项性别辨识游戏，再问机器取代参与者 A 会怎样；文字通信刻意排除外貌与声音。图灵后来预测的是审问者在特定时长下的辨识表现，并在论文末讨论学习机器和感官输入，而非宣布一条“通过即有意识”的定律。[1, §§1–2, 6–7] 后世所称的图灵测试（Turing test）因此更适合看成一族受此启发的语言行为测试，而不是一个只有唯一赛制、能测尽所有智能的考试。[2, §§1–3]

它的价值很实际：不要求先打开机器寻找“思想物质”，而让主张接受公开挑战。它的限制也同样明确。询问者、时长、提示、对照人群和判定规则都会改变结果；装成人并非事实问答、机器人操作或长期可靠性的通用指标。即使一次交谈难以分辨，直接得到的仍是该设置下的行为证据。

窄屏提示：命题—证据地图可横向滚动；五类是并列检查维度，不是等级阶梯。

见图 3-1。五类问题可以这样读：

“理解”一行刻意没有给万能检验。行为或功能取向会重视稳定使用和纠错；表征取向会追问内部内容是否参与因果过程；外在论会要求与对象、行动或交际共同体的关系；规范取向还会问系统是否进入给出理由、接受纠正的实践。它们可能部分重合，也可能互相竞争。五类因此是并列的论证检查维度：某项功能证据可以支持一种理解论，却不会自动生成表征内容；表征证据也不会自动生成体验。

3.2 计算、功能与连接：三种不同层次的解释

心智计算主义（computational theory of mind，CTM）是一族主张，认为至少某些心智过程本身是计算过程，而不只是可以被电脑模拟。例如，一个解释可把推理描述为表征经过规则或其他计算变换。这里的边界是：计算主义不等于“大脑是一台家用电脑”，也不由“任何过程都可用数字描述”得到支持；什么才算物理系统真正实现某项计算，需要因果、结构或反事实约束。[3, §§1, 3–5, 7.1]

功能主义（functionalism）则是关于心理状态身份的理论家族：一个状态之所以是信念、疼痛或愿望，关键在它与感官输入、其他内部状态和行为之间所起的因果—功能角色，而非只看它由碳细胞还是硅器件组成。恒温控制中“检测到过冷”的状态会触发加热，可作极简功能类比；但恒温器不因一个反馈回路就拥有人的全部心理状态。功能主义允许多重实现，所以“它不是生物脑”不是充分反驳；反过来，两个系统输出相同，也未必已经证明内部功能组织相同。关于体验质感能否被功能角色完全捕捉，仍有“缺失感质”等持续反对意见。[4, §§1, 3.2, 5.5]

二者回答的不是同一个问题。计算主义问心理过程是否以及以何种方式计算；功能主义问一个状态凭什么属于某种心理类型。一个理论可以接受计算过程，却不认为所有心理状态只由计算功能定义；也可用功能语言描述某状态，却不承诺经典符号程序是唯一实现。

联结主义（connectionism）是用人工神经网络解释认知能力的研究取向：大量单元的活动经加权连接传播，学习改变权重，信息常由分布式活动模式承担。它为何出现，不只是为了工程得分，也因为渐进失效、模式相似和从样本泛化看起来能解释某些认知现象。网络可以学习识别、阅读或简单语法规律；但抽象规则、组合性和系统性泛化是否得到恰当解释，长期存在争论。更重要的是，联结主义与计算主义并非必然敌对：网络可以实现符号处理，符号模型也可在网络上实现；混合架构让“二选一”更不可靠。[5, Introduction, §§1, 4–7, 11]

“神经网络”这个名称容易诱发另一种误会。人工单元、连接权重和学习规则受到神经科学启发，却通常抽掉神经元类型、递质、身体调节、发育和真实脑结构。把一个网络的成功写成“复制大脑”，既夸大生物相似性，也遮住数据、目标函数、硬件和工程选择。认知科学在这里提供假设与比较对象，不是给模型盖“人造大脑”章。

3.3 符号怎样关于世界：接地与具身

字典可以用一个词解释另一个词；若整本字典里的符号始终只互相指向，意义从哪里进入？符号接地（symbol grounding）问题追问：系统内部的符号或状态怎样获得不只依赖外部解释者的内容。Harnad 1990 年的经典表述把纯符号系统比作只能借字典学习陌生语言，主张至少部分基本类别需要经由感知等非符号能力接地，再由组合形成更复杂内容。[6, Abstract, §§1–3] 这指出一个问题，不是已经公认的唯一解法；因果联系、社会使用、进化功能和推断角色都提出过不同内容理论。

具身认知（embodied cognition）是一组强调身体在认知能力中具有重要作用的研究纲领。例如，综述所引研究中，获准操作饼形分块的儿童比只能观看分块的儿童更容易计算 8 的四分之一；这是“身体参与可改善任务”的证据，还不是“环境构成心智”的证明。[7, §2.2] 更强的版本则主张身体乃至环境构成认知过程的一部分。SEP 综述区分了身体塑造概念、以动力系统替换部分表征解释、身体/环境构成认知等强度不同的命题，也区分“环境帮助”与“环境属于认知系统”。[7, §§2.1–2.3]

因此，“文本模型没有人的身体”提出了有分量的经验问题：它没有人的感知—运动发育史、共同注意和在世界中承担后果的行动循环，纯文本关系能否固定指称和因果概念，必须另行检验。但这不等于一个已经完成的演绎证明——“没有人形身体，所以没有任何理解”。机器人传感器也不是接上就完成接地；还要问输入是否参与学习和控制、内部状态怎样因环境干预而改变，以及系统能否发现自己表征错了。

现实检查：具身不等于仿脑。 无表征的简单机器人能展示环境耦合的价值，却不能据此取消所有表征；涉及离线计划、虚构对象或反事实的问题往往仍需要解释系统如何保存不在眼前的内容。[7, §4.1] “受生物启发”“有身体”“复制大脑”是三项不同主张。

3.4 中文房间：论证、回应与回应的回应

Searle 1980 年把强人工智能限定为一项哲学主张：适当编程的计算机字面上具有理解等认知状态，程序本身也构成对认知的解释。[8, p. 417] 他的中文房间（Chinese Room）思想实验让一个不懂中文的人在房间里按英文规则操作中文符号。规则足够好时，房间送出的答案可与中文使用者难以区分；操作者却仍不懂符号含义。Searle 由此主张：仅实现形式程序不足以产生理解或意向性。注意“仅”“不足”两词。他并未证明机器原则上不能思考；原文明确承认人脑也是机器，并允许复制相应因果能力的人工机器可能产生相应效果。[8, pp. 417–424]

这是一项关于充分条件的论证，不是一次实证实验。主要回应之所以重要，在于它们攻击不同推论：

• 系统回应接受操作者不懂中文，却否认“不懂”可从部分推到整体。规则、记忆、符号库和操作者组成的系统，可能才是理解主体。Searle 让操作者把全部规则和材料内化，回答说系统没有超出他之物；反对者则继续追问：更高层实现的主体为何必须与执行规则的那个人相同？争点是心理属性归属于哪一层，不是谁漏看了房中道具。
• 机器人回应认为文字输入输出切断了指称，让程序进入有传感器、行动和因果反馈的机器人，可能补上接地。Searle 承认这已添加外部因果关系，却回答：若内部人仍只处理未解释符号，传感器只是多了输入通道。回应者因此必须进一步说明，闭环为何改变整个系统的内容，而不能只说“装摄像头即可理解”。
• 脑模拟回应设想程序逐神经元模拟中文使用者的脑过程，以挑战“正确程序仍不足”。Searle 认为模拟因果结构不等于复制产生心智的生物因果能力；反方则会问，若功能和因果组织保留到足够细，排除理解的依据是什么。这里不能靠“模拟暴雨不会淋湿”类比直接裁定，因为争议恰在心智属性属于材料还是组织。
• 他心回应指出我们判断其他人理解，也主要依靠行为、背景和因果互动；若对机器要求不可直接观察的内证，标准可能不一致。Searle 的实验则意在构造一个内部反例，说明行为相同仍缺理解。双方实际分歧是：公共证据在什么理论下足以支持心理归属，而非行为是否毫无价值。

权威综述把中文房间的狭义结论——程序可制造理解的表象，却不足以产生真实理解——与更广的反计算主义结论分开，并指出原始论证并不直接支持后来所有关于意识的扩张。[9, §§1, 3–5] 所以，中文房间没有一举终结计算主义；系统回应也没有用一句“整体懂”化解问题。它留下的是一组可继续研究的负担：理解主体是谁、形式结构怎样获得内容、环境关系是否构成语义，以及功能等价能否说明体验。

3.5 意向性、意识与他心：三个不可互换的词

意向性（intentionality）在心灵哲学中指心理状态“关于”或指向对象、性质和事态的能力，并非日常所说“故意”。“我相信车站在北边”关于一个地点和方位，即使信念可能为错。文字也关于事物，但它的意义究竟来自使用者的心智，还是可由系统的因果、社会或进化角色获得，存在“原初/派生意向性”争论。Searle 强调机器符号的派生性，Dennett 等则反对把两类划出绝对界线；不能把任一边直接写成事实。[10, Introduction, §§1, 8–9]

意识（consciousness）是覆盖多种现象的总称。至少要区分：清醒；信息能被系统广泛调用的可接入意识；对自身状态的觉知；以及“成为这个主体是什么感觉”的现象意识或主观体验。一个状态能进入报告、推理和行动，直接支持的是功能可接入主张；它是否伴随感受，不能省去额外理论。非意识状态也可能具有意向内容，所以“关于某物”与“感受到某物”并不等价。[11, §§2.1–2.2, 4.7]

心智理论（theory of mind，ToM）是表征、推断并回应他人信念、欲望等心理状态的能力；名称源自比较认知研究中的问题传统。Premack 与 Woodruff 1978 年以黑猩猩能否把心理状态归给自己和他者来提出这一问题。[12, pp. 515–516] 在故事题中判断“某人会去哪里找东西”，可作为 ToM 型行为证据；但答对不自动说明系统使用了人的心理模型，也不说明系统自己有意识。它可能依赖故事模板、词语线索或可泛化的他心表征，必须用反事实变式、干预和内部机制研究区分。

这些区分也约束道德地位讨论。我们可能因为系统影响人类而监管它——例如防止聊天界面操纵用户——这把系统当作有风险的对象，并不要求它有感受。若主张系统自身会受苦、因而是道德关怀对象，则必须给出与体验或利益相关的理由。高任务分数、企业人员访谈和系统自述都不能独立承担这项证明；在证据不确定时采取防误导、可撤回和持续研究等预防措施，也不等于宣布人工意识已经存在。

3.6 ELIZA 与语言模型：“理解”争论怎样不跑层

1966 年的 ELIZA 把对话机制与脚本分开；著名 DOCTOR 脚本匹配关键词、变换代词并套用回复模板。论文展示了这种机制怎样维持交谈，也提醒短暂暴露即可让一些使用者形成强烈印象。[13, pp. 36–38] 后来的ELIZA 效应（ELIZA effect）概括一种归因倾向：人们从合乎互动习惯的输出推断理解、意图或同理心。它不表示所有用户必然受骗，也不证明比 ELIZA 复杂的系统必定没有理解。[14, ch. 3]

今天的语言模型与 ELIZA 在训练、表示和生成机制上差异巨大；把两者说成“只是同一模板”是机制错误。真正延续的是证据风险：语言形式天然适合触发心智归因。以下选取的三篇代表文本也不是“反对/赞成”名单：Bender 与 Koller 讨论形式和交际意义之间的信息缺口，Mitchell 与 Krakauer 重构测量问题，Mahowald 等人区分语言形式能力与现实功能能力。[15, §§1, 4, 10][16, pp. 2–6][17, pp. 517–520, 533–536] 讨论语言模型是否理解时，至少分四栏：

行为证据：它在什么测试中做到了什么

语言模型能生成结构良好的长文本、解释新句子、完成不少为人类设计的问答与语言任务。这些结果不是幻觉，也不应因哲学怀疑被抹掉。但基准可能含训练相似项、表面捷径或提示敏感性；一次答案还不能显示跨措辞、反事实和现实干预的稳健性。Mitchell 与 Krakauer 以基准捷径为例指出，为人设计的理解测试未必能用同一方式测机器，并把反事实、组合、因果预测与主动干预列为更强的概念理解线索。[16, pp. 2–5]

训练信息与能力分解：模型可能学到了什么

Bender 与 Koller 把语言意义工作性地定义为语言形式和交际意图之间的关系，并论证：若训练材料只有形式，形式本身不足以唯一确定这种关系。他们并不否认模型可学到句法、相似性和意义投射在形式中的有用痕迹；论点的边界也应保留——加入图像、行动、反馈或工具结果后，系统不再严格只有形式输入。[15, §§1, 4, 6, 10]

另一种切法来自 Mahowald 等人的认知科学综述：形式语言能力包括词法、句法、结构和部分组合语义规律；功能性语言能力则是在现实情境中用语言达成目标，需要世界知识、推理和社会认知。两者在人脑与损伤研究中可部分分离；现有语言模型的形式能力强，功能能力更不均匀。[17, pp. 517–520, 533–536] 这比“只是统计”更有解释力，因为任何学习系统都用统计关系，关键是形成了哪些可因果检验的结构，以及它们在分布变化后怎样工作。

机制与表征证据：可恢复、可编辑、可解码分别说明什么

一组可复核的机制研究来自 Meng 等人的 ROME 工作。他们先做因果追踪（causal tracing）：正常运行得到基线；给主体词的输入表示加噪，使正确宾语概率下降；再把某一层、某一位置的隐藏状态恢复成正常值，观察答案概率能否回来。在 GPT-2 XL 的事实提示中，主体最后一个 token 的早—中层多层感知机（MLP）状态是这种“污染—恢复”实验的重要因果中介，高层注意力也参与把信息传到预测位置。随后，ROME 对中层 MLP 的投影权重作秩一更新，能在 CounterFact 的单事实编辑中改变答案，并较多保持释义泛化和邻近主体的局部性。[18, §§2–3, figs. 1–5]

这比“某层亮了”更强，因为恢复激活或改权重会改变输出；但需要准确命名证据。恢复的是运行时激活，它表明该状态在这项干预下携带并中介可恢复的事实信息；权重编辑找到的是有效写入或控制接口。二者都没有证明事实只存于一个位置，也没有证明模型原生以一事实一个显式键值对表示世界。Hase 等人从 GPT-J 能正确补全的 CounterFact 事实中筛得 652 项，在选定的 9 个编辑层位上比较 ROME 表现。汇总回归中，编辑层这一变量解释约 94.7% 的 rewrite score 方差，因果追踪效应单独只解释约 1.6%；纳入编辑层后，追踪效应仅再增加约 0.1 个百分点的解释量。[19, §§4–6] 这些数是特定筛选样本上的回归拟合度，不是单项事实的因果贡献比例。这没有推翻因果追踪对前向信息流的证据，却反驳了“激活恢复峰值就是最佳参数编辑位置”的跨层推论；两项研究的模型、英文短事实和干预设置也限制了外推。[19, §8]

探针（probe）则是另一种证据：训练外部分类器，从冻结的隐藏状态读出句法或概念标签。线性探针成功，最多直接说明该属性对这类简单读出器可解码。Hewitt 与 Liang 在 ELMo 表示上用随机控制任务显示，高容量探针可能凭词身份记住标签；同一表示上，探针准确率高并不等于表示本身以所声称的方式编码了属性。[20, §§2–4] Ravichander 等人则在自然语言推断句子编码器的控制数据中发现：当时态和数等属性对主任务无判别作用时，它们仍可被高于机会水平解码。[21, §§3–6] 两项研究检验的是探针方法的一般识别限制，并非直接测试今天的自回归大型语言模型。因此，探针适合提出“哪里可提取信息”的候选表征主张；若要说特定模型使用该信息，还需消融、替换激活、反事实输入等因果测试。

合起来看，这些研究给了双向证据：模型内部并非只有无法分析的表面字符串，有些状态确实能被恢复、编辑或解码；同时，可解码不等于被使用，可干预位置不等于唯一存储位置，可编辑事实也不等于系统已建立一致的世界关系。它们能加强功能与表征命题，却仍需内容理论、接地或规范判准，才能参与语义理解论证；对主观体验则没有直接证明力。

哲学推论：什么结果才配叫理解

若采用严格的交际—世界关系定义，纯形式训练面临接地缺口；若采用功能主义判准，稳定实现适当的推断、纠错和行动角色可能支持某种理解；若要求与人相似的因果概念模型，则需更强的跨情境和干预证据；若“理解”还包含主观体验，现有语言测试更不能单独裁决。Mitchell 与 Krakauer 因此保留一种非人类理解的可能，同时明确说现有认知科学方法不足以回答所有问题。[16, pp. 4–6]

这不是把所有立场说成同样可靠。我们对许多语言行为有直接记录，对训练目标和架构有部分机制知识；对某个内部状态的内容需更有针对性的因果研究；对主观体验则缺少一个被普遍接受、可把复杂输出同体验区分开的测试。证据强弱不对称，开放争议也不等于可以随意宣布“已经有意识”或“原则上永无理解”。

3.7 认知科学怎样影响 AI，又没有复制什么

认知科学为 AI 提供至少三类东西。第一是问题分解：感知、记忆、语言、行动控制和社会认知可以分别建模，不必先造一个完整心灵。第二是可检验假设：分布式表征、注意、工作记忆限制、身体反馈等概念可转化为模型，再与人类数据比较。第三是反例：失语者仍能完成某些非语言推理，提醒研究者别把语言流畅和一般思维捆成一个能力。[17, pp. 520–533]

影响不是复制。一个工程模块叫“attention”，不等于实现了人类注意的全部现象；神经网络用单元和权重，也不等于复刻神经系统；在心理任务上拟合曲线，更不等于已经确定人脑使用同一算法。模型可以有两种不同价值：作为工程系统，它在任务中有效；作为科学模型，它还要解释和预测人类认知数据。前一种成功不能自动兑换成后一种真实性。

反过来，AI 也迫使认知科学澄清自己的测量。过去一项测试在人类中有效，可能因为人类共享身体、社会经验与发展史；机器可能靠不同捷径达到同分。于是“是否答对”要与误差结构、学习历程、干预响应和跨情境迁移一起看。这里没有“越像脑越智能”的单向尺度，只有不同解释目标下更合适或更差的模型。

核心概念

• 图灵测试：由 1950 年模仿游戏发展出的语言行为测试思想；不等于意识测试。
• 心智计算主义：至少某些心理过程本身属于计算过程的一族理论。
• 功能主义：以状态在系统中的因果—功能角色说明心理类型的一族理论。
• 联结主义：用人工神经网络及分布式活动解释认知能力的研究取向。
• 符号接地：追问符号或内部状态怎样获得不只依赖外部解释者的内容。
• 具身认知：强调身体对认知的塑造作用、解释作用或构成作用的一组纲领。
• 中文房间：挑战“实现形式程序本身足以产生理解”的思想实验。
• 意向性：心理状态关于或指向对象、性质与事态的能力。
• 意识：涵盖清醒、可接入、自我觉知和主观体验等不同现象的总称。
• 心智理论：表征、推断并回应他人心理状态的能力。
• ELIZA 效应：从合乎互动习惯的输出推断理解、意图或同理心的归因倾向。

本章小结

• 任务成功、内部功能、表征内容、语义理解和主观体验是五类不同主张；任意一类都不能靠拟人化动词替代另一类，跨类推论必须补充论证与证据。
• 图灵的模仿游戏把问题操作化，直接给出语言行为证据；中文房间挑战从形式程序到理解的充分性。两者都没有单独裁定意识。
• 计算主义、功能主义和联结主义处在不同解释层次，可以冲突也可以组合；人工神经网络受认知启发，不等于复制大脑。
• 符号接地和具身认知要求认真考察世界关系、身体与行动，但“具身有帮助”不自动推出“无身体绝无理解”。
• 语言模型在形式语言行为上的证据较强；因果追踪、知识编辑与探针为特定功能和候选表征提供证据，但“可恢复、可编辑、可解码”不等于唯一存储、实际使用或语义理解。关于主观体验的推论更不能由这些方法自动得到。

相关词条与继续阅读

图灵测试 · 中文房间 · 具身认知 · 符号接地 · ELIZA 效应 · 意识 · 意向性 · 心智理论

上一章：一部并非直线进步的历史。下一章将建立读懂技术所需的最低计算与数据直觉：计算、数据与数学直觉。

资料截止说明　本章资料核查至 2026-08-26。Turing 1950、Searle 1980 及其论证定位按正式原文复核；SEP 采用参考文献列明的固定存档版本。当代语言模型部分只选用可追溯的同行评议论文与综述，不以公司人员访谈支撑理解或意识主张。意识与机器理解仍是开放争议；本章的“不足以推出”不等于“已经证明不存在”。