对话韩芃睿：拆开AI大脑，看见了和人脑相似的功能分工

人脑的结构并非均匀分布。经过漫长的演化，它形成了一套分工精细的组织：语言、逻辑、物理直觉、社会推理，各自盘踞在皮层相对固定的区域，既分工又协作。一个困扰研究人员许久的问题是：大脑的这种功能分区，究竟是任何智能系统都躲不开的必然，还是人类演化路上的偶然？

最近，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”表明，答案更倾向于前者。毕竟，大语言模型的出身完全不同——它没有身体，没经历过演化，只是靠着在海量文本上做基于下一词元预测（next-token prediction）的训练。当这样一个构造截然不同的系统也展现出类似的分工时，它更像是智能本身的深层规律，而非碳基大脑的偶然。不过，作者也谨慎地强调，这仅仅是“证据的指向”，远谈不上定论。

这项研究的带队者包括两位资深学者：一位是 MIT 脑与认知科学系教授 Evelina Fedorenko，她因界定出人脑中专门负责语言的“语言网络”而闻名，2025 年刚获美国国家科学院颁发的 Troland 研究奖；另一位是 MIT 计算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas，他是 AI 与自然语言处理领域的知名学者。研究的第一作者是韩芃睿，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机科学硕士，师从尤佳轩教授；他的工作发表于 ICML、EMNLP 等顶级会议，曾获 NeurIPS Workshop 最佳论文荣誉提名。

（来源：Github）

在这项研究中，团队分析了六个 24B 到 123B 的主流开源模型，覆盖语言、逻辑、物理、社会四大认知域共 46 个任务，用电路级方法定位每个任务真正依赖的神经元。他们发现，同域任务共享神经元，跨域却几乎互不相干——同域重叠是跨域的四倍多。更关键的是，他们做了一个干净利落的验证：关掉负责语言的神经元，模型照样能进行物理推理，只是表达不通顺；关掉负责物理的神经元，句子流畅，结论却说反了。这套分工，不是统计上的巧合，而是有实实在在的因果效力。

围绕这项研究，以及它用 AI 理解智能本身的理念，DeepTech 和韩芃睿进行了一次对话。

用另一种智能，回答一个只有一个样本的问题

DeepTech：你们是怎么想到用 LLM 来切入大脑的功能分区是“智能系统的必然”，还是“生物演化的偶然”？

韩芃睿：这个问题光靠研究大脑本身很难回答。因为我们只有一个样本，而且生物组织还背着很多和任务无关的约束，比如能量代谢。

趋同演化在生物学里是一种很强的证据逻辑：如果一个性状在亲缘很远的物种里各自独立出现——比如蝙蝠和鲸鱼各自演化出回声定位——那就有理由相信，它是被问题本身逼出来的，而不是偶然。

LLM 给了我们一个全新的机会。它是另一类智能系统，走的是完全不同的优化路径，本质上是在预测下一个词元（next-token prediction）上做梯度下降，和生物演化截然不同。同时，它又具备很多人类独有的高级认知能力，比如理解人类语言、解决复杂的数学问题。所以，如果模块化在 LLM 里也独立出现了，那它更可能是任何朝着智能优化的系统都会收敛到的解，而不是碳基大脑的偶然。这就是我们用 LLM 切进来的核心动机。

DeepTech：团队里既有认知科学家 Evelina Fedorenko，也有 AI 研究者 Jacob Andreas。这两边看问题的方式很不一样，你们怎么协调这些视角？

韩芃睿：其实两边的摩擦比想象中小很多。因为 Jacob 和 Ev 都研究语言和 AI，共享了非常多的兴趣和判断，只是侧重不一样。Jacob 会更聚焦在算法这一层。举个例子：我们最开始用的方法更偏神经科学，直接拿最小对照对（minimal pair）去比激活值，看哪些神经元在统计上是显著的。但后来发现，这样识别出来的单元没有很好的因果影响，Jacob 就建议我们换成 patching 这类更严格的方法，这直接决定了后面整套流程。

Ev 这边更在意科学层面的洞见，比如怎么让任务和脑网络的对应更扎实，以及我们到底能检验哪些真正有意思的假设。一个偏重方法站不站得住，一个偏重科学值不值得问，两个视角其实是互补的，最后拼在一起，研究才完整。

模块化，是“同时解决很多问题”逼出来的

DeepTech：如果用最简单的一句话概括你们的研究发现，你会怎么说？

韩芃睿：一个只靠预测下一个词元、靠反向传播训练出来的语言模型，会自发长出和人脑相似的模块化分工：语言、逻辑、物理、社会推理各自由一批基本不重叠的神经元支撑。而且这种分工是有因果效力的：关掉某个域的神经元，只会破坏那个域的能力。

DeepTech：你们有一个很直观的结果，同一类任务用的是重叠的神经元，不同类任务用的是几乎不相干的神经元，同域重叠是跨域的四倍多。LLM 为什么会形成这种分工？

韩芃睿：我们提出的一个可能解释是：LLM 要在海量、异质的语料上实施预测，而这种预测常常需要多种推理同时上场。想象一下，你要预测一本侦探小说结尾的下一个词：可能同时需要演绎推理去缩小嫌疑人范围，社会推理去推断动机，物理推理去判断作案在物理上是否可能，而这些还都得和解析句子结构的语言处理交织在一起。

当多种计算要在同一个输入上同时运行，系统就面临一个压力：别让它们互相干扰。这个压力有两层。一层是处理层面，几种信息要同时表示，编码就必须彼此可分，否则会撞在一起、互相污染。另一层是学习层面，如果不同计算的神经元混在一起，改进一个域的更新就会扰动另一个域，这是分布式系统里灾难性干扰的老问题。

把不同计算分给不同的神经元，正好同时解决了这两种干扰。所以，模块化很可能不是被谁设计的，而是来自于同时解决很多种问题的压力。

DeepTech：损伤实验里出现了一个现象：关掉负责语言的神经元，模型推理是对的，但语法开始出错；关掉负责物理的神经元，语法流畅，却把物理结论说反了。这种形式与内容的分离，你会怎么理解？

韩芃睿：对，这正是我们在损伤实验里看到的双分离（double dissociation），而且它非常干净。用同一个物理问题——一根橡皮筋热老化之后的弹性来测试。关掉语言神经元，模型的物理推理还是对的：更弱的回弹力、回弹不完全、耗散更多能量，但语法和词法开始出错。反过来关掉物理神经元，句子依然通顺流畅，但物理结论说反了。

这说明模型内部确实把“把话说通顺”和“把道理说对”交给了两套不同的系统。它们在同一个输出上协作，但可以被独立地破坏。这种可分离性本身就是模块化最直接的行为证据。这其实也和 Ev 之前在人身上的发现很呼应——语言能力严重受损的失语症患者，几乎无法理解语言，却依然能完成很复杂的推理、数学和逻辑任务。

DeepTech：Transformer 没有神经科学的能量代价，损失函数也不在乎具体用了多少神经元，它却照样出现了模块化。你觉得是什么在驱动它？

韩芃睿：神经科学里的解释是代谢约束：大脑每次只激活一小部分神经元，比广泛激活省能量，而给每类任务分一套专属神经元，正好能实现这种稀疏。但这个压力对我们研究的 LLM 完全不适用。Transformer 的前向计算在任何生物意义上都没有代谢成本的差异，损失函数里也没有任何一项去惩罚某个输入激活了多少神经元。可即便如此，一个明显可辨认的、类人的模块化组织照样出现了。

这说明，代谢压力不管在塑造人类皮层时起了多大作用，它都不是功能特化出现的必要条件。那真正在驱动的是什么？我们认为一种可能，就是前面说的那种干扰压力，它不需要任何能量代价就能成立。

DeepTech：对照实验里，小模型 GPT-2 做不对这些推理任务，它只能分出“语言 VS 其他”，分不出更细的模块。你们也提到“模块化只在模型真能解决任务时才出现”。你可以具体解释一下吗？

韩芃睿：先讲清楚我们这套方法的一个性质：归因修补（attribution patching）本质上是在找那些对做对任务有因果贡献的神经元。换句话说，如果模型根本做不对、或者理解不了某个任务，它内部就没有一套对的计算可言，修补出来的东西自然也没有意义。GPT-2 的对照正好佐证了这一点。我们把完全一样的流程、完全一样的数据放到 GPT-2 上，它做不了大部分推理任务，结果就只能分出“语言 vs 其他”。这说明我们的框架测的是底层计算，而不是数据本身的假象。

当然，我们也承认，换一套别的办法或者换更简单的任务，GPT-2 有可能也显现出某种模块化。所以，我们的发现想强调两点：第一，我们这个框架测到的是计算，而不是数据的假象。我们还专门做了一个关于语义的对照实验来佐证，光靠 prompt 的语义相似度是还原不出这个结构的；第二，也正因为这样，与其说这种精细分工是“涌现的副产品”、或者去谈它和规模的关系，我们更愿意说：模型真正能解题，是它出现的前提。只有能理解、能做对，才谈得上计算、才谈得上电路。

把 LLM 当作“第二种智能系统”来研究

DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以当作“第二种智能系统”去检验我们关于人类认知的理论。这对研究大脑有什么具体的启示？

韩芃睿：LLM 作为一个科学研究对象，在拥有很多复杂行为和能力的同时，比人脑有更多可控性，也更容易交互。我们可以随意探测它、干预它、把某部分关掉再看会发生什么，这些在人身上要么做不到，要么代价极高。所以它本身就是一个很适合拿来做科学研究的对象，能帮我们更高效地检验关于智能和认知的假设。

对神经科学，我们有两个挺具体的方向。一是预测：我们的方法可以从 LLM 出发，对一个全新的任务会调用人脑哪个网络生成假设，再拿去用 fMRI 验证，等于给脑科学多了一个产生假设的来源。二是研究信息流：不同脑网络之间怎么把信息传给彼此，这在人脑里极难研究，因为你需要同时具备很高的空间和时间分辨率，而这个组合在人类神经成像里基本做不到。但在 LLM 里，我们能同时访问全部神经元和它们的连接，所以可以去构建和检验一些机制层面的假设，比如语言系统到底是怎么把解析好的输入喂给某个推理系统的。

DeepTech：反过来，你认为这项发现对做 AI 的人有什么用？知道模型内部是模块化的，能帮我们把模型造得更好或者更可控吗？

韩芃睿：最直接的一条，和现在很火的混合专家模型（mixture-of-experts，MoE）有关。MoE 被采用主要是出于效率考虑，把每个 token 路由给一部分专家，能减少激活的参数量。但我们的发现提示，模块化组织本身可能还带来额外的计算优势，而不只是省算力。

已经有工作往这个方向走了，比如让专家之间形成类脑的特化，既保住了推理的性能，又让模型更可解释、更可引导。所以知道模型内部是模块化的，未来可能真的能反过来指导我们把模型设计得更好、更可控。这块还很开放，值得深挖：模块化和性能之间，到底是什么关系。

AI 像大脑，最怕被过度解读

DeepTech：AI 像大脑这种说法很容易被过度解读。作为研究者，你最希望大众不要从这项研究里武断得出的错误结论是什么？

韩芃睿：这是个很好的问题。做这类研究一个很重要的注意事项，就是不要过度地把 LLM 当人。随着研究深入，很多实验室确实发现了越来越多 AI 和大脑相似的地方，从行为到机理，这非常令人兴奋。但不可否认，LLM 和大脑有着根本性的不同，而且它只由语言这一个模态驱动。

所以我的态度是：LLM 是一个很好的东西，可以拿来检验假设、去交互、去探测，把它当成一个科学研究对象来研究，这比研究人有更多可控性、也更高效。但不能盲目。每一个实验我们都要尽力去分清，这个相似背后真正的来源是什么。它可能来自一个真正的原理，也可能只是某些人类数据的假象，或者其他各种因素。把这些分清，才能让研究更经得起推敲。

DeepTech：抛开这项具体的研究，在“用 AI 理解智能本身”这个方向上，你觉得最大的挑战是什么？

韩芃睿：我觉得最大的挑战，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区分开。

现在我们缺一套公认的标准，去判断某个 AI 和大脑相似到底算不算数。它是两类智能系统面对同一个问题各自收敛出的深层原理，还是只是训练数据、任务设计或者度量方式带来的表面巧合。每一个这样的相似，都需要单独去设计对照、去排除掉浅层的解释，才敢说它有意义。