对话韩芃睿：拆开AI大脑，看见了和人脑相似的功能分工

人脑并非均匀的对话I大的功整体。在漫长的韩芃演化长河中，它进化出了一套分工明确的睿拆人脑组织架构：语言、逻辑、脑看能分物理直觉与社会推理，见和各自占据皮层中相对固定的对话I大的功区域，既各司其职又紧密协作。韩芃长期以来，睿拆人脑研究人员面临一个核心谜题：这种功能分区，脑看能分是见和任何智能系统都必须遵循的必然规律，还是对话I大的功人类演化路径上的偶然产物？

近期，麻省理工学院（MIT）团队发表的韩芃研究《Modular Cognitive Architecture Emerges in Large Language Models》（大语言模型中涌现模块化认知架构）给出了倾向性答案：前者。尽管大语言模型（LLM）的睿拆人脑起源截然不同——没有实体，未经历生物演化，脑看能分仅通过海量文本上的见和“下一个词元预测”（next-token prediction）进行训练——但当这样一个构造迥异的系统也展现出类似的分工时，这更可能指向智能本身的深层规律，而非碳基大脑的特例。当然，作者也保持谨慎，强调这仅是“证据指向”，尚非最终定论。

该研究由两位资深学者领衔：一位是MIT脑与认知科学系教授Evelina Fedorenko，因界定出人脑专门负责语言的“语言网络”而闻名，并于2025年荣获美国国家科学院颁发的Troland研究奖；另一位是MIT计算机科学与人工智能实验室（CSAIL）教授Jacob Andreas，AI与自然语言处理领域的知名专家。研究的第一作者是韩芃睿，伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机科学硕士，师从尤佳轩教授。其学术成果曾发表于ICML、EMNLP等AI与NLP顶级会议，并获NeurIPS Workshop最佳论文荣誉提名。

（来源：Github）

在这项研究中，团队分析了六个参数量在24B至123B之间的主流开源模型，覆盖语言、逻辑、物理、社会四大认知领域的46个任务。通过电路级方法，他们精准定位了每个任务真正依赖的神经元。研究发现，同一认知域的任务共享神经元，而跨域任务几乎互不重叠（同域重叠度是跨域的四倍以上）。团队还进行了严谨的验证实验：关闭负责语言的神经元，模型的物理推理依然正确，但语言表达变得不通顺；关闭负责物理的神经元，句子依然流畅，但物理结论完全错误。这种分工并非统计巧合，而是具备实实在在的因果效力。

围绕这项研究及其“用AI理解智能本质”的理念，DeepTech对韩芃睿进行了深度对话。

以另一种智能，解答“单一样本”难题

DeepTech：你们是如何想到利用LLM来切入大脑功能分区是“智能系统的必然”还是“生物演化的偶然”这一问题的？

韩芃睿：仅靠研究人脑本身很难回答这个问题。因为我们只有一个样本，且生物组织受到许多与任务无关的约束，例如能量代谢效率。

在生物学中，“趋同演化”是一个强有力的证据逻辑：如果一个性状在亲缘关系极远的物种中独立出现（例如蝙蝠和鲸鱼各自演化出回声定位），我们就有理由相信，这是被问题本身逼出来的必然结果，而非偶然。

LLM为我们提供了全新的机会。它属于另一类智能系统，遵循完全不同的优化路径——本质上是在预测下一个词元上做梯度下降，这与生物演化截然不同。同时，它又具备许多人类独有的高级认知能力，如理解自然语言、解决复杂数学问题。因此，如果模块化在LLM中也独立出现，那么它更可能是任何朝着智能优化的系统都会收敛到的解，而不是碳基大脑的偶然产物。这就是我们利用LLM切入研究的核心动机。

DeepTech：团队中既有认知科学家Evelina Fedorenko，也有AI研究者Jacob Andreas。这两类学者看问题的方式差异巨大，你们如何协调这些视角？

韩芃睿：实际上，两边的摩擦比想象中要小得多。因为Jacob和Ev都深耕语言与AI领域，拥有大量共同的兴趣和判断标准，只是侧重点不同。Jacob更聚焦于算法层面。例如，我们最初采用的方法偏向神经科学，直接使用最小对照对（minimal pair）比较激活值，观察哪些神经元在统计上显著。但后来发现，这样识别出的单元缺乏良好的因果影响。Jacob建议我们改用patching这类更严格的方法，这一建议直接决定了后续整套流程的设计。

Ev则更关注科学层面的洞见，例如如何使任务与脑网络的对应更加扎实，以及我们究竟能检验哪些真正有价值的假设。一方关注方法是否站得住脚，另一方关注科学问题是否值得追问，这两个视角互补，最终拼凑出完整的研究图景。

模块化：是“同时解决多问题”的压力所致

DeepTech：如果用一句话概括你们的研究发现，你会怎么说？

韩芃睿：一个仅靠预测下一个词元、通过反向传播训练的语言模型，会自发形成与人脑相似的模块化分工：语言、逻辑、物理、社会推理分别由一批基本不重叠的神经元支撑。且这种分工具有因果效力：关闭特定领域的神经元，仅会破坏该领域的能力。

DeepTech：你们有一个直观结果：同类任务使用重叠神经元，不同类任务使用几乎不相干的神经元，同域重叠度是跨域的四倍多。LLM为何会形成这种分工？

韩芃睿：我们提出的一个解释是：LLM需要在海量、异质的语料上进行预测，而这种预测往往需要多种推理机制同时介入。例如，预测一本侦探小说结尾的下一个词，可能需要同时运用演绎推理缩小嫌疑人范围、社会推理推断动机、物理推理判断作案可行性，这些过程还需与解析句子结构的语言处理交织在一起。

当多种计算需在同一个输入上同时运行时，系统面临巨大压力：防止它们互相干扰。这种压力分为两层：
1. 处理层面：多种信息需同时表示，编码必须彼此可分，否则会相互碰撞、污染。
2. 学习层面：若不同计算的神经元混在一起，优化一个域的更新就会扰动另一个域，即分布式系统中的“灾难性干扰”问题。

将不同计算分配给不同的神经元，恰好同时解决了这两种干扰。因此，模块化很可能并非被刻意设计，而是源于同时解决多种问题的压力。

DeepTech：损伤实验中出现了一个现象：关闭语言神经元，模型推理正确但语法出错；关闭物理神经元，语法流畅但物理结论错误。这种形式与内容的分离，你如何理解？

韩芃睿：这正是我们在损伤实验中观察到的“双分离”（double dissociation），且结果非常干净。以同一物理问题为例：一根橡皮筋热老化后的弹性。关闭语言神经元，模型的物理推理依然正确（如更弱的回弹力、回弹不完全、耗散更多能量），但语法和词法开始出错。反之，关闭物理神经元，句子依然通顺流畅，但物理结论被说反。

这说明模型内部确实将“把话说通顺”和“把道理说对”交给了两套不同的系统。它们在同一个输出上协作，但可被独立破坏。这种可分离性本身就是模块化最直接的行为证据。这也与Ev此前在人类身上的发现相呼应：例如严重失语症患者几乎无法理解语言，却依然能完成复杂的推理、数学和逻辑任务。

DeepTech：Transformer没有神经科学的能量代价，损失函数也不在乎具体使用了多少神经元，它却照样出现了模块化。你认为是什么在驱动它？

韩芃睿：神经科学中的解释是代谢约束：大脑每次只激活一小部分神经元比广泛激活更节能，而为每类任务分配专属神经元正好能实现这种稀疏性。但这种压力在我们研究的LLM中完全不适用。Transformer的前向计算在任何生物意义上都没有代谢成本差异，损失函数中也没有任何项去惩罚某个输入激活了多少神经元。即便如此，明显可辨认的、类人的模块化组织依然出现了。

这说明，代谢压力无论在人脑皮层塑造中起多大作用，都不是功能特化出现的必要条件。真正驱动的是什么？我们认为可能是前述的“干扰压力”，它无需任何能量代价即可成立。

DeepTech：对照实验中，小模型GPT-2无法完成这些推理任务，它只能分出“语言VS其他”，无法区分更细的模块。你们提到“模块化只在模型真正能解决任务时才出现”。能否具体解释？

韩芃睿：首先需明确我们方法的一个性质：归因修补（attribution patching）本质上是寻找那些对正确完成任务有因果贡献的神经元。换言之，如果模型根本做不对、或理解不了某个任务，其内部就不存在正确的计算逻辑，修补出来的结果自然无意义。GPT-2的对照正好佐证了这一点。我们将完全相同的流程和数据应用于GPT-2，由于它无法完成大部分推理任务，结果仅能分出“语言 vs 其他”。这说明我们的框架测量的是底层计算，而非数据本身的假象。

当然，我们也承认，若换一套方法或更简单的任务，GPT-2可能显现某种模块化。因此，我们的发现强调两点：
1. 该框架测量的是计算，而非数据假象。我们专门设计了语义对照实验，证明仅靠prompt的语义相似度无法还原此结构。
2. 与其说精细分工是“涌现的副产品”或与规模相关，我们更愿意认为：模型真正能解题，是模块化出现的前提。只有能理解、能做对，才谈得上计算，才谈得上电路。

将LLM视为“第二种智能系统”进行研究

DeepTech：你们在文章中提到，LLM可作为“第二种智能系统”来检验关于人类认知的理论。这对研究大脑有什么具体启示？

韩芃睿：LLM作为一个科学研究对象，在拥有复杂行为和能力的同时，比人脑具有更高的可控性和交互性。我们可以随意探测、干预它，甚至关闭某部分观察后果，这些在人身上要么不可行，要么代价极高。因此，它非常适合用于高效检验关于智能和认知的假设。

对神经科学而言，我们有两个具体方向：
1. 预测：我们的方法可从LLM出发，预测新任务会调用哪个人脑网络，生成假设后再用fMRI验证，为脑科学提供新的假设来源。
2. 研究信息流：不同脑网络间如何传递信息，在人脑中极难研究，因为需要同时具备高空间和时间分辨率，这在人类神经成像中基本无法实现。但在LLM中，我们能同时访问所有神经元及其连接，从而构建和检验机制层面的假设，例如语言系统如何将解析好的输入传递给推理系统。

DeepTech：反过来，这项发现对AI从业者有何用处？知道模型内部是模块化的，能帮我们把模型造得更好或更可控吗？

韩芃睿：最直接的应用与当前热门的混合专家模型（Mixture-of-Experts, MoE）有关。MoE主要出于效率考虑，将每个token路由给部分专家以减少激活参数量。但我们的发现提示，模块化组织本身可能带来额外的计算优势，而不仅仅是节省算力。

已有工作朝此方向探索，例如让专家之间形成类脑的特化，既保持推理性能，又提升模型的可解释性和可引导性。因此，了解模型内部的模块化结构，未来可能真正指导我们设计出更好、更可控的模型。这一领域仍很开放，值得深挖：模块化和性能之间究竟存在何种关系。

AI像大脑，切忌过度解读

DeepTech：“AI像大脑”的说法易被过度解读。作为研究者，你最希望大众不要从这项研究中武断得出什么错误结论？

韩芃睿：这是一个很好的问题。做此类研究的重要注意事项是：不要过度将LLM拟人化。随着研究深入，许多实验室确实发现了越来越多AI与大脑的相似之处，从行为到机理，这令人兴奋。但不可否认，LLM与大脑存在根本性差异，且LLM仅由语言单一模态驱动。

因此，我的态度是：LLM是一个极佳的工具，可用于检验假设、交互和探测，作为科学研究对象比研究人脑更具可控性和效率。但不能盲目。每一个实验我们都应尽力厘清，这种相似背后的真正来源是什么。它可能源于真正的原理，也可能只是人类数据的假象或其他因素。厘清这些，才能让研究更经得起推敲。

DeepTech：抛开这项具体研究，在“用AI理解智能本身”的方向上，你觉得最大的挑战是什么？

韩芃睿：我认为最大的挑战，恰恰是上一个问题的延伸：如何系统性地将真正的原理与假象区分开来。

目前我们缺乏一套公认的标准，去判断AI与大脑的相似性是否成立。它是两类智能系统面对同一问题各自收敛出的深层原理，还是仅由训练数据、任务设计或度量方式带来的表面巧合？每一个这样的相似，都需要单独设计对照实验，排除浅层解释，才能宣称其有意义。

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成

(责任编辑：热点)