谁来控制网络，知识以什么形状存在，谁有权改写记忆

序章：AI 缺的可能不是更多 representation

欢迎来到系统边界。这是 NeuroAI 架构系列的新一期。

先说一个观察。过去几年，我们讨论 AI 进步的时候，大部分时间都在讨论"表示"这件事：模型能不能把更多信息装进参数里，能不能把更长的上下文装进注意力窗口里，能不能把图像、语音、动作都编码进同一个 embedding 空间。这些问题当然重要。但从系统的角度看，它们几乎都在回答同一类问题：怎么表示更多。这一期我想追问的是另外三类问题。

第一，谁来控制整个网络。一个由上百个模块组成的分布式系统，总得有什么东西决定此刻哪些模块该活跃、哪些该安静、大家的节拍是否对齐。在标准的稠密 Transformer 里，这类控制大多隐含在注意力权重和残差流中。路由器、门控和外部控制器已经提供了一些分离机制，但如何把全局状态调度组织成独立通路，仍然值得讨论。

第二，知识以什么形式留下来。我们习惯说"存储一段记忆"，好像记忆是一条被写进某个地址的记录。但如果学习的效果不是新增一条记录，而是把整个表征空间的几何形状重新雕刻了一遍，让相关的东西更容易被分开、被读出，那"存储"这个词可能一开始就用错了。

第三，谁有权修改自己。神经网络的学习是权重更新，但在标准的端到端梯度训练里，"哪些权重发生变化"和"具体如何变化"，通常由同一次反向传播共同决定；参数冻结、模块隔离和外部记忆写入，则已经探索了不同程度的分离。生物系统似乎不是这样，它可能有一条独立的通路，专门负责决定"这次的经验写到哪里去"。

这三个问题，对应本周三篇正式发表在 Nature 和 Nature Neuroscience 上的工作，再加上一篇 bioRxiv 上的建模预印本。还有一篇 Nature Communications 的论文，会让我们退一步问：计算是不是一定要先数字化。最后我们会花一章时间，讨论如果要验证这些架构假说，需要怎样的测量平台。

先把这一系列节目的方法论底色说清楚。我们不是在寻找一张可以照抄的大脑蓝图。大脑不是一个更大的 Transformer，也不是一份可以直接翻译成代码的设计文档。我们把神经科学当作一个"可证伪架构假说的生成器"：一项实验证明了什么，是第一层；把具体的脑区、动物和任务抽掉之后，它可能对应什么计算原理，是第二层；如果今天重新设计 AI、脑机接口或者芯片，会怎么实现和验证，是第三层。三层之间的边界，每一章我都会标清楚。

那就从第一个问题开始：谁来控制网络。

第一章：一条几乎不传"内容"的全局控制总线

9 月 9 日，Nature 上发表了一篇关于小鼠新皮层的论文，来自 Renata Batista-Brito 的实验室。它研究的对象是一类非常特殊的神经元，叫 Sst-Chodl 神经元。这个名字来自它们表达的两个分子标记：Sst 是生长抑素，Chodl 是软骨凝集素。名字不重要，重要的是这类细胞的三个特征。

第一个特征是稀疏。它们在皮层的抑制性神经元里占比不到百分之一，如果按全部皮层神经元算，大约是千分之二。在整个小鼠皮层里，这是一小撮细胞。

第二个特征是它们的投射范围。这里需要先解释一个术语：抑制性长程投射，英文是 inhibitory long-range projection。皮层里的神经元大致分两类：兴奋性神经元，激活下游；抑制性神经元，压制下游。教科书上的抑制性神经元几乎都是"局部"的，轴突只在几百微米的范围内活动，管好自己所在的这一小片皮层。但 Sst-Chodl 细胞不一样。这篇论文用单细胞形态重建和全脑透明化成像发现，它们的轴突可以延伸数毫米，跨越同侧新皮层的多个区域，从视觉皮层一路到压后皮层、听觉皮层、体感皮层和运动皮层。作者还在脑片上验证：在距离注射点大约两毫米的地方，仍然能记录到由这些细胞直接产生的单突触抑制性电流。一个细胞可以同时对多个远处的脑区施加抑制。

第三个特征是它们的活动状态。用双光子钙成像记录，浅层的这类细胞里有大约百分之八十六在慢波睡眠和安静清醒时非常活跃，而在快速眼动睡眠和运动时基本沉默。它们的活动和低频脑电功率正相关，和运动、瞳孔直径负相关。这是一群在低唤醒状态下工作的细胞。

然后是因果实验。研究者用光遗传学选择性激活视觉皮层里的 Sst-Chodl 细胞。结果是：一到四赫兹的低频功率在所有皮层层次上升，神经元之间的放电相关性上升，放电对低频节律的锁相增强。皮层进入 DOWN 态的次数和时长也增加了，DOWN 态就是神经元集体短暂沉默的时段，是慢波睡眠的标志之一。这个效应在一毫米范围内最强，随距离衰减，在两到六毫米处仍然可以测到。在安静清醒状态下做刺激，皮层的同步程度会被推到接近慢波睡眠的水平。更进一步，用化学遗传学在整个皮层的二十二个位点同时激活这类细胞，动物的慢波睡眠和快速眼动睡眠时长都增加，入睡延迟缩短，清醒时间减少。一小撮皮层内部的抑制性细胞，被激活之后足以促进睡眠。

现在到了这一章最关键的技术点：同步和放电率的区别。

放电率，firing rate，衡量的是一个神经元在单位时间里发出多少个动作电位。如果你把它类比成网络流量，放电率就是每秒多少个包。而同步，synchrony，衡量的是不同神经元、不同区域的放电在时间上有多对齐，它更像是时钟相位是否一致。两者是独立的维度：你可以让一群神经元发得更少但更整齐，也可以让它们发得一样多但各自为政。

这篇论文的一个要害证据正是把这两个维度拆开了。激活 Sst-Chodl 细胞时，整体放电率确实有轻微下降，但放电的结构和爆发特性基本保留。而作为对照，激活另一类更常见的、同样表达生长抑素的局部抑制性细胞，也就是 Martinotti 细胞，整体放电率同样下降，却完全没有改变低频功率和放电同步。所以结论不是"这些细胞让皮层安静下来"，而是"这些细胞让皮层的时间组织方式改变了"。压低放电率本身，不足以产生同步。

到这里，我们把它标记为已被实验支持的结果：小鼠皮层内存在一类稀疏的长程抑制性神经元，它们在低唤醒状态活跃，选择性激活它们足以促进跨区域的低频同步并促进睡眠，而这个效应不能用单纯的放电率压制来解释。

接下来是边界。这篇论文证明的是一个睡眠与唤醒状态的同步回路。它没有直接测试注意力、工作记忆、知觉或决策，因此不能由此认定这些认知功能也由同一回路控制。它没有人类数据，与人类的联系只是这类细胞在进化上保守。效应随距离衰减，不是均匀覆盖全脑。作者还明确指出，这些细胞的活动反映的是当下的状态，并不能预测接下来的状态转换，所以也不能说"是它们决定了什么时候睡觉"。远距离效应中有多少是经过中间环节传递的，也还不能完全排除。

那么，如果把它抽象成一个工程问题，它在说什么？

我用一个芯片设计的类比，并且请记住这只是类比。在一个片上系统里，绝大多数走线都在传数据，我们叫它数据平面，data plane。但还有一小部分走线不传任何业务数据，它们是时钟树、复位信号、电源状态控制。这些线的带宽极低，扇出却极大，一根线可以同时改变几十个模块的工作状态。它们不告诉模块"该算什么"，只告诉模块"现在是什么时候、以什么节拍、该不该动"。这就是控制平面，control plane。

Sst-Chodl 细胞在结构上很像一个控制平面的候选实现：数量极少，扇出极广。这里观察到的作用主要是调整网络的时序和同步程度；实验没有判断它们是否也携带其他信息。这是这一系列节目里反复出现的母题的具体化，我们之前讨论过顶端树突的门控、多巴胺之类的神经调质控制平面、以及皮层行波作为一种场控制。这一篇给出的是一个在解剖上可以指认、在因果上可以操作的候选例子。

现在跳到第三层，架构推演。

标准的稠密 Transformer 并不自带这样一条独立的全局状态总线。注意力权重既承担内容传递，又隐含地承担"谁该被关注"的调度。当然，混合专家路由、条件调制和外部控制器已经体现了部分分离思想。这里值得检验的是：能否用一条明确的、低带宽、高扇出的控制信号，更有效地协调许多模块的工作状态。

一种可能的实现是：在网络旁边放一小组"调制单元"，它们不参与主干的内容计算，输入是全局状态的某种摘要，输出是作用在多个模块上的乘性增益、路由掩码或者时间常数。它们的参数量可以非常小，因为它们不需要表达内容，只需要表达"状态"，用来在探索与利用、快速响应与慢速整合这样的模式之间切换整个网络的工作方式。超网络和门控机制是零星的先例，但它们通常没有被当作一个独立的架构层来对待。

我要强调，这是架构假说，不是实验结论。把一个睡眠同步回路推广成通用的 AI 控制总线，中间隔着好几步没有被验证的推理。但它给出了一个可以被检验的具体问题：一个分布式网络，是否需要一条专门负责"同步"而不负责"内容"的通路，才能在不同的全局状态之间高效切换？

如果说这一章讲的是"谁来控制网络"，那下一章我们要问的是：网络学到的东西，究竟以什么形状存在。

第二章：记忆也许不是一个地址，而是一块被重新雕刻的空间

9 月 10 日，Nature Neuroscience 发表了 Rainer Friedrich 实验室的一篇论文，合作者里有做流形容量理论的 SueYeon Chung。研究对象是斑马鱼。这篇论文的价值恰恰在于它用一个足够小、足够可测的系统，把"记忆是什么"这个老问题问得很干净。

先讲实验。研究者训练幼年和成年斑马鱼做气味辨别：一种氨基酸气味之后会有食物出现，另一种没有。训练之后，他们记录一个简称 pDp 的脑区，它被认为是哺乳动物梨状皮层、也就是嗅觉皮层的同源结构。记录方法是双光子钙成像，每条鱼可以同时看到上千个神经元。幼鱼训练组一共记录了二十五条鱼，累计三万四千多个神经元。要说明一点，成像是在离体的脑标本上完成的，嗅觉通路保持完整，气味从鼻子端给入，但它记录的是训练之后的表征快照，不是学习过程本身。

现在要解释这一章最核心的术语：神经流形，neural manifold。

想象你同时记录了一千个神经元。每一个时刻，这一千个神经元的活动可以写成一个一千维的向量，也就是一千维空间里的一个点。同一种气味，多次呈现，加上时间上的变化，会在这个空间里形成一团点云。这团点云就是这个气味的"流形"。不同气味对应不同的点云。学习和记忆的问题，于是可以被翻译成一个几何问题：这些点云的形状、大小、位置，在学习前后有什么变化。

这篇论文先检验了一个经典假设在这个具体回路中是否成立。教科书上关于嗅觉皮层的主流想法是"吸引子记忆"：网络里有一些稳定的状态，就像地形里的盆地，输入一个气味，网络活动会滚进对应的盆地并且停在那里，这个盆地就是记忆。如果是这样，你应该能看到活动在输入停止后持续一段时间，试次之间的变异很小。研究者做了一个直接的测试，用光遗传学在气味反应过程中切断嗅球的输出，也就是切断 pDp 的输入。结果是 pDp 的活动迅速衰减，时间常数大约六十五毫秒，和神经元自身大约五十毫秒的膜时间常数在同一量级。在这个实验条件下，没有观察到由网络自行维持的持续活动；网络没有表现出明显的"停在盆地里"，试次之间的变异也很大。作者的结论是，没有看到明显的吸引子动力学特征。

那学习改变了什么？改变的是几何。

训练之后，被训练的两种氨基酸气味对应的点云，中心之间的距离变大了，而且这个分离是有选择性的：氨基酸和作为对照的胆汁酸之间的距离也拉开了，但胆汁酸彼此之间的距离没有变。网络不是把所有东西都推开，而是专门把和任务相关的表征推开。

要量化"推开"意味着什么，需要第二个术语：流形容量，manifold capacity。它来自 Chung 和 Sompolinsky 的理论，衡量的是：一个线性读出，也就是最简单的一层分类器，平均每个神经元能够正确分开多少个这样的点云。容量越高，表征越容易被下游读出。理论把容量拆解成几个几何因素：流形的半径，衡量点云有多分散；有效维度，衡量点云在多少个方向上分散；以及中心对齐程度，衡量不同点云的中心是否挤在相似的方向上。半径越小、维度越低、中心越不对齐，容量就越高。

在这篇论文里，训练之后，幼鱼 pDp 的流形容量从大约零点零九八上升到零点一零八，相对提升约百分之十，而随机打乱后的基线只有零点零一四左右。半径、有效维度和中心对齐三个因素全部下降了。用线性判别和支持向量机做分类，训练组的准确率也一致更高。

最有说服力的一点，是这个几何量能预测个体行为。在二十五条幼鱼里，流形容量和每条鱼的行为辨别得分之间的相关系数大约是零点五六。而如果只用点云中心之间的欧氏距离，这个相关就不显著了。也就是说，真正预测行为的不是"两个表征离得多远"，而是"这两个表征有多容易被一个简单的读出层分开"。

最后是模型。研究者构建了一个脉冲神经网络，一千个兴奋性神经元加两百五十个抑制性神经元，工作在精确的兴奋抑制平衡区间。学习被建模成在共同激活的兴奋性和抑制性神经元之间增加连接概率，形成"集合"。这个平衡的模型重现了选择性的流形分离和对相关气味的泛化。而一个只在兴奋性神经元之间形成集合、用全局抑制来压制的对照模型，产生的是离散的吸引子，并且无法泛化到结构相关的气味。这个对照说明"几何式记忆"和"吸引子式记忆"在模型上是可以区分的，而实验数据支持前者。

我们把它标记为已被实验支持的结果：在这项斑马鱼嗅觉皮层实验中，研究者没有观察到明显的吸引子动力学特征；联想学习选择性地重塑了任务相关气味的表征几何，流形容量与个体的辨别行为相关。

边界也说清楚。这是斑马鱼的嗅觉皮层，是离体标本上的表征快照。容量理论假设线性读出。作者自己也说，要理解是什么生物机制决定了流形的几何，最终需要突触分辨率的网络重建。所以，不要把它直接推广到人类的语义记忆或者情景记忆。

现在抽象。如果把它抽象成一个工程问题，它挑战的是我们对"存储"的默认理解。

经典的记忆直觉是地址式的：一段经验，被写到某个位置，之后通过某种检索机制被取回。吸引子模型是这个直觉的动力学版本。而这篇论文描述的更像是另一种东西：经验没有以一条可定位的记录被写入，它表现为整个隐空间的度量被改变，让相关的东西在这个空间里彼此更容易被区分。用一个数据库的类比，这不是新增一行记录，而是重建了索引，甚至重新定义了距离函数。我把这个候选原语叫做几何塑形学习，Geometry-Shaping Learning。

这对 AI 有三个具体的含义。

第一个关于训练目标。今天的对比学习和度量学习已经在做"把相关的拉近、不相关的推开"，但它们优化的通常是成对的距离，而不是流形层面的几何量。半径、有效维度、中心对齐这三个量，理论上都可以变成正则项或者诊断指标。特别是"选择性"这一点：一个好的表征学习过程，应该只重塑任务相关的子空间，而不是把整个空间搅乱。这可能是持续学习里减少灾难性遗忘的一个切入点。

第二个关于评估。现在比较大脑和模型的表征，常用的是比较两边的距离矩阵是否相关。但这篇论文提示，距离矩阵可以很像，而流形的可读出性可以很不一样。脑与模型的比较，也许应该加入流形层面的指标。

第三个关于"概念在哪里"。这篇论文的分析对象自始至终是群体活动的几何，而不是单个神经元的选择性。如果这个图景成立，那么"概念"更可能存在于方向、子空间和分布式编码里，而不是单个"概念神经元"。对可解释性研究的一个提示是，去找子空间，而不是去找单个单元。这是我的推断，不是论文的结论。

这些都是合理的计算抽象，不是被实验直接证明的结论。它还引出一个新问题：如果表征是一块可以被雕刻的连续空间，这块空间会不会在不该重叠的地方重叠？下一章我们就看一个大脑表征"互相干扰"的例子。

第三章：脑的缺陷同样可以告诉我们怎么设计 AI

同样是 9 月 10 日，Nature Neuroscience 上还有一篇来自 Marlene Cohen 实验室的论文。它有一个很少见的组合：人类心理物理学、猕猴电生理记录、循环神经网络建模，再加上因果扰动。而它讲的不是大脑多聪明，而是大脑的一个代价。

先讲任务。被试每次看到两个先后出现的光栅图案，需要判断它们在某一个特征上是否发生了变化。图案有两个特征，比如位置和空间频率，两个特征在每一次试次里都会变，但只有其中一个是"当前任务"关心的。关键的设计在这里：哪个特征是当前任务，不会被明确告知，而且它会在没有任何提示的情况下以很低的概率切换，猕猴实验里是每次试次百分之二点五，人类实验里是百分之十。被试只能通过奖励历史来推断当前任务是什么。

这样就自然产生了两种状态。刚刚做对并且得到奖励之后，被试对当前任务是什么很有把握，这是"任务确定"。刚刚做错、没有奖励之后，被试不知道是自己判断错了，还是任务已经切换了，这是"任务不确定"，英文叫 task uncertainty。它不是一个外部给的提示，而是被试内部推断出来的置信度。

行为上的代价很清楚：在任务不确定的试次里，知觉判断的准确率大约下降五个百分点，基线准确率是百分之八十左右。反应时间也变慢。猕猴和人类都有这个效应。

那么大脑里发生了什么？研究者在猕猴的初级视觉皮层 V1 和顶叶 7a 区植入了电极阵列。7a 区的群体活动可以解码出动物对当前任务的置信度。V1 里的发现是这一章的核心。在任务不确定的时候，"当前不相关的那个特征"在 V1 里被编码得更强了，用线性解码器能更好地读出来。而且两个特征的表征变得更"纠缠"：把群体活动分别投影到两个特征各自的轴上，任务确定时两组投影值的相关性较低，任务不确定时上升，中位数从零点一六升到零点一八。这个数字看起来变化很小，但它在统计上稳定，而且它衡量的是两个本来应该独立的信息通道之间的串扰。这就是论文标题里的特征干扰，feature interference。

接下来是这一章在方法论上最有意思的部分：建模。

研究者训练了两种结构完全一样的模块化循环神经网络，都有一个读取最近九个试次历史的"任务模块"和一个接收刺激的"知觉模块"，区别只在训练目标。第一种叫"正确选择网络"，目标是尽量做对。第二种叫"猴子选择网络"，目标是复现猴子实际的选择，包括错误。

结果是：正确选择网络里，任务不确定性和知觉表现之间没有任何联系，两个特征在隐状态里沿着正交方向变化。而猴子选择网络重现了那百分之五的代价，两个特征的方向互相干扰。值得注意的是，两种网络在任务不确定时都会更强地编码不相关特征，但只有拟合了真实行为的那个网络，才出现了表征的非正交。

最后是因果实验。研究者根据循环网络的预测，在 V1 做了微电刺激。网络预测：在任务确定时，扰动对两个任务的影响应该互不相关；在任务不确定时，两者会变得相关。猴子实验的结果与这个预测一致，微刺激的效应在任务不确定时更纠缠，并且在空间频率任务里按预测的方向偏置了动物的选择。

我们把它标记为已被实验支持的结果：任务不确定性会让不相关特征的表征增强、让不同特征的表征更纠缠，并伴随行为准确率下降；单纯以准确率为目标训练的网络不会出现这个代价，拟合真实行为的网络才会。

边界。表征数据只有 V1，没有前额叶或更高级视觉区，作者自己认为在更高级的区域里这个限制可能更强。纠缠的来源，是不是来自顶叶或其他自上而下的反馈，还不清楚。微刺激只在一只猴子上做了六个会话。人类和猕猴用的特征对也不完全一样。

现在抽象。如果把它抽象成一个工程问题，这一章的教训是：脑启发不等于脑复制。Brain-inspired 不等于 brain-copying。

大脑这里暴露的是一个缺陷，而模型比较提示，它可能是一个被"优化目标"决定的缺陷：一个只追求准确率的网络不会有它。那大脑为什么有？一个合理的猜测是，这是灵活性的副产品：在任务可能随时切换的世界里，把"当前不相关"的特征也保持活跃，是一种对冲。代价是这个对冲会渗入当前的判断。你可以把它理解成一个系统在"随时准备切换"和"当前任务的信噪比"之间的权衡。

我们要学的不是这个缺陷本身，而是它暴露出的需求。一个需要在多个任务之间灵活切换的系统，至少需要以下几种东西中的一种或几种：任务状态门控，也就是根据当前任务的置信度调整各通道的增益；选择性抑制，主动压低不相关通道；正交的任务子空间，让不同任务的信息沿着彼此独立的方向存放；动态路由；以及模块化。注意，这几个需求和第一章讲的控制平面是同一个问题的两面：门控和抑制就是控制平面在数据平面上的作用方式。而"正交子空间"又和第二章的几何直接相关：可以把干扰理解成几何上的失败，两个表征的轴不正交。

这里可以提出一个具体的、可执行的基准测试。构造一个任务结构会不提示地切换的环境，比较几种架构：共享隐空间、任务嵌入拼接、乘性门控、调制性反馈、以及显式正交的任务子空间。主动注入任务不确定性，测量不相关特征对决策的入侵程度和切换后的恢复速度。这个基准不是为了让模型"更像猴子"，而是为了知道哪种架构在灵活性和干扰之间给出更好的权衡。这是架构推演，但它可以在几周内做出来。

下一章要讲的是第三种权力：谁来决定网络的哪一部分应该被改写。

第四章：谁来决定哪一部分网络应该学习？

这一章的主角是一篇 9 月 11 日发布在 bioRxiv 上的预印本，作者是 Guanchun Li、Sandro Romani 和 Jeffrey Magee。先说清楚它的性质：这是一篇建模和理论工作，尚未经过同行评审，也没有新的活体实验数据。它建立在 Magee 实验室过去十年积累的一组已经被反复验证的生理学结果之上。所以我们分两段讲：先讲那部分已经确立的生理学，再讲这篇预印本在它之上提出的架构想法。

先讲生理学。海马体 CA1 区的锥体神经元，是研究"位置细胞"的经典对象。一个位置细胞在动物经过环境中某个特定位置时放电。问题是：一个原本对位置没有偏好的神经元，是怎么变成位置细胞的？

2017 年 Magee 实验室在 Science 上给出的答案叫做行为时间尺度的突触可塑性，英文是 behavioral timescale synaptic plasticity，简称 BTSP。它的触发事件是树突平台电位，dendritic plateau。这是发生在锥体神经元顶端树突上的一次很长的去极化，持续大约一百到三百毫秒，由钙离子介导。来自内嗅皮层的远端树突输入与 CA3 的近端输入，可以共同影响平台电位的产生；这里用两条输入通路来理解它，但不把它简化成只有一种固定触发条件。

平台电位一旦发生，一件很不寻常的事情就会出现：在它之前一两秒、之后不到一秒之内活跃过的那些 CA3 突触，会被强烈增强。注意这个时间窗口是秒的量级，而且不对称，向前看得更远。这与以毫秒级放电时序为核心的经典突触时序依赖可塑性形成了鲜明对比。赫布学习本身是一大类规则，不能一概限定为毫秒窗口或者必须重复很多次。BTSP 只需要一次平台电位，就能在一圈跑动里把一个沉默的神经元变成位置细胞。后续工作进一步表明，这个可塑性是双向的，弱的突触被增强、强的突触被减弱；而来自内嗅皮层第三层的输入，正是那个"指导信号"，它告诉神经元现在该学了。这些是已被实验支持的结果。

现在讲这篇预印本。它把 BTSP 的一个成分单独拿出来建模，就是"平台电位触发的一次性可塑性"。模型里的每一个记忆单元有两条输入通路。一条是近端的、可塑的通路，对应 CA3 的输入，这条通路的权重会被改写，它存储的是经验本身。另一条是远端的、稳定的、不可塑的指导通路，对应内嗅皮层的输入。是否发生平台电位，也就是这个单元这一次要不要被写入，由两条通路的驱动共同决定。

作者用这个模型做了一个持续识别记忆的任务。一串刺激依次到来，每个刺激只出现一次的时候被"一次性写入"某个被选中的记忆单元；之后如果某个刺激再次出现，网络需要判断它是否见过。衡量指标叫做重复间隔，也就是一个刺激两次出现之间隔了多少个别的刺激；网络在多长的间隔上仍然能认出来，就是它的"间隔容量"。作为对照，他们用一个赫布式的网络，它用同一组可塑权重同时承担"选哪个单元"和"存什么内容"这两件事。两种网络在每一个间隔上都独立调优，保证比较公平。

结果是，BTSP 式的网络在更长的重复间隔上仍然保持准确，而且这个优势随着网络规模增大而扩大。即使把赫布对照的可塑性速率和更新深度都匹配上，赫布网络的记忆痕迹仍然衰减得更快，信用分配的效率也更低。

还有一个细节很有工程意味：两条通路的耦合强度存在一个最优的中间值。如果可塑通路对"选谁写"的影响太大，网络会倾向于反复写入已经被选中过的单元，旧的记忆被保护了，但新的东西写不进去，系统停滞。如果指导通路的影响太大，熟悉的刺激反应被强化，但新的刺激也容易被误判成熟悉的，出现"假熟悉"。作者用的词是"部分分离"：分配和存储不是完全解耦，而是部分解耦，而恰恰是这个部分解耦让持续学习中的干扰变小。

再次强调边界：这是预印本，是模型和理论，没有新的活体因果证据，也不该被说成"海马体就是这样工作的"。

现在换成工程语言。它让一个值得在 AI 里进一步研究的分离变得具体：谁有权学习，和具体学什么，可以是两个不同的计算。外部记忆和参数隔离已经提供了先例，这个模型增加的是稳定指导通路与可塑通路部分解耦的机制。

想一想今天的神经网络是怎么学的。反向传播算出一个梯度，梯度既决定了哪些权重会变，也决定了它们变多少、朝哪个方向变。"分配"和"存储"是同一次计算的两个投影。赫布学习也是如此，前后神经元的共同活动既是选择信号，也是内容信号。

而 BTSP 式的结构更像是一台计算机里的内存管理。数据总线上传的是内容，但决定内容写到哪个地址的是一个独立的分配器，它有自己的输入，有自己的策略，并且它本身相对稳定，不会被每一次写入改变。写使能信号和数据是两根不同的线。这个类比要谨慎使用，因为在预印本的模型里，分配并不完全由指导通路决定，可塑权重的当前状态也参与投票，但"存在一条相对稳定的、专门负责分配的通路"这一点是成立的。

我把这个候选原语叫做门控可塑记忆，Gated Plastic Memory：一条稳定的分配或指导通路，加一条可塑的存储通路。

对 AI 架构，一种可能的实现是：在一个带外部记忆的网络里，把"写到哪个槽位"这个决定交给一个单独的、慢变的、甚至可以是固定的分配网络，它读取当前输入和记忆的整体状态，输出一个稀疏的写使能信号；内容的写入由另一条通路完成。这个分配网络不通过存储内容的损失来更新，或者只以很低的学习率更新。持续学习里的参数隔离和稀疏回放可以看作这个思路的手工版本，但它们大多没有一个"学到的分配器"。

还有一个更根本的问题值得抛出来：分配器应该由什么来训练？在海马体里，指导信号来自内嗅皮层，它携带的信息和 CA3 的内容不同。在 AI 里，这个信号也许应该来自和任务损失不同的目标，比如新颖性、预测误差、或者上一章讲的任务不确定性。这就把第三种权力和第一种权力连起来了：决定谁该学习的信号，本身可能就是控制平面的一部分。

这是架构推演。它可以被实现，也可以被推翻。

到目前为止，我们讨论的都是数字系统里的"通路"。下一章我们暂时离开大脑，问一个更底层的问题：计算是不是一定要先数字化。

第五章：计算是否一定要先数字化？

9 月 10 日，Nature Communications 发表了牛津大学 Safeer 研究组的一篇论文，题目大意是：用基于波的神经形态硬件来控制一台自主机器人。如果只看新闻标题，你会以为这是一个"用水波做人工智能"的猎奇故事。我想把它讲成一个更严肃的问题。

先讲装置。一个直径二十五厘米、深五厘米的圆形金属容器，装着水。六个舵机，每个带一根末端直径四毫米的探针，可以按指定的时间点入水面，激起一圈表面波。一个 LED 光源以四十五度角照亮水面，水面的反射光在屏幕上形成明暗交错的焦散图案，一台最高每秒十五帧的摄像头拍下这个图案，然后把图像压缩成五十乘五十的网格，也就是两千五百个数值。这两千五百个数值，就是这台"计算机"的状态。

现在解释这一章的第一个术语：储备池计算，reservoir computing。一个储备池是一个固定的、不需要训练的非线性动力系统。你把输入送进去，它内部的动力学会把输入"搅拌"成一个高维的状态，然后你只训练最后一层，一个线性读出，从这个高维状态里读出你想要的答案。它的核心思想是：非线性变换由系统本身提供，训练只负责线性部分。在数字实现里，储备池通常是一个随机连接的循环网络；而这里，储备池就是那一盆水。

任务是这样的。一台小车前方有六个方向的距离传感器，每个方向的距离被离散成一到七这七个等级，所以一共有七的六次方、大约十一万七千种可能的"场景"。编码方式很巧妙：每个方向的距离值，被转换成对应那根探针入水的时刻。距离不同，探针入水的先后不同，六圈波在水面上传播、相遇、干涉，形成的图案就不同。研究者扫描了相邻距离等级之间的时间步长，发现两百毫秒最好：太短，波来不及分开；太长，波之间没有足够的相互作用。然后在输入之后大约一百五十毫秒时抓取一帧图像，这时候波的混合程度最高。

分类任务有三个难度：两类，前方有没有障碍；三类，没有、左边有、右边有；五类，再加上远近。结果是，训练样本足够多时，三个任务的识别率都可以达到百分之百。而作为对照，如果直接把六个传感器数值送进一个线性分类器，不经过水，效果明显更差，五类任务尤其差。这个对照支持物理储备池及其光学读出提供了更有用的特征变换。要注意，线性波的叠加本身并不自动等于非线性计算；水面动力学、输入编码和光学成像要放在一起评价。

然后是闭环。研究者先在虚拟环境里跑，再用一辆真实的 Arduino 小车，超声波传感器装在舵机上扫六个角度，通过蓝牙把距离发给驱动水槽的电脑，水槽给出分类结果，再把动作指令发回小车。在一个三米乘两米的障碍场地里，小车能走出无碰撞的轨迹。要说明的是，每个决策周期大约五秒，主要时间花在等水面恢复平静上，所以这里的"实时"是五秒一次的实时，不是毫秒级控制。场地测试的报告是定性的，没有试次数和成功率统计。

最后一步是这篇论文真正指向未来的部分。研究者用微磁学仿真，把同样的原理映射到一个纳米尺度的自旋波器件上：一个直径一微米、厚一点五纳米的钴铁硼圆盘，六个直径五十纳米的输入区域通过电压控制磁各向异性来激发自旋波，频率在千兆赫兹量级，动力学在纳秒尺度上展开。同样的三个任务，仿真里准确率同样可以达到百分之百，而且需要的训练样本更少。但请注意，这一部分完全是仿真，作者自己说，多个纳米尺度自旋波的干涉和读出仍然是活跃的实验挑战。

我们把它标记为已被实验支持的结果：一个水波系统可以作为物理储备池完成非线性分类，并闭环控制一台机器人避障；纳米自旋波版本目前只有仿真。

现在到了这一章要说的真正的工程问题。这里的第二个术语叫物理基底动力学，physical substrate dynamics。它指的是，计算发生在物理系统自身的演化过程里，比如这里，水面动力学与光学读出共同提供特征变换，而不是完全依靠数字神经元去逐步模拟这段物理演化。

神经形态硬件已有数字、模拟和混合信号等多条路线。这里真正值得讨论的是，哪些变换必须在数字电路里完成，哪些可以交给物理系统自身的动力学。水波系统展示的是另一条路：输入被编码成时间，物理传播、相互作用与光学读出共同形成新的特征，摄像头再把这些状态数字化。诚实地说，这篇论文里的边界也很清楚：摄像头、图像压缩、线性分类器都在电脑上跑，所以它是"物理做非线性混合，数字做线性读出"的混合系统。但它证明了一件事：从波动力学到有用的计算再到机器人控制，这条链路是通的。

这和大脑有什么关系？这里我要特别小心。这一系列节目之前讨论过皮层行波假说，也就是大脑里在空间上传播的活动波可能承担某种计算功能。但这篇论文不是那个假说的证据。它没有做任何关于大脑的实验，作者也没有做这样的宣称。大脑的行波是否执行模拟计算，目前仍然缺乏直接证据。这篇论文能说的只是：在工程上，波动力学可以做计算。两件事之间的桥，需要神经科学自己去搭。

那么把它放回架构层面看，它的启发是什么？

我认为是"局部物理回路"这个候选原语的一个具体实例。一个复杂的智能系统，不一定要把所有计算都集中到一个数字核心里。传感器附近的低层反应，比如避障，可以尝试交给局部物理回路，数字核心再承担更复杂的规划和长期记忆。但实际收益必须把激励、传感、读出、复位与控制的能耗和延迟全部算进去，这篇水槽实验没有证明端到端几乎不耗能。储备池计算给了这个思路一个统一的数学框架：在动力学稳定性、记忆长度和可观测性满足任务要求时，丰富的非线性动力系统加上可训练读出，可以承担特定的计算任务。

它的边界也清楚。储备池擅长对输入的瞬态做模式识别，不擅长长期规划。纳秒尺度的自旋波器件如果实现，有望缩短核心计算时间；端到端延迟与能耗优势仍要经过实测，读出精度和噪声也是硬问题。这是架构推演，而且有明确的物理约束可以去验证。

到这里，本期的几个候选原语都讲完了。但所有这些假说都有一个共同的前提：我们得能测到相应的东西。下一章，我们来谈测量。

第六章：如果要验证这些假说，我们需要怎样的 Observatory？

这一章先说一个原则：测量架构会决定你能得出什么样的科学结论。这不是一句抽象的话，本期前面几章每一章都是例子。

第二章能够说"没有看到吸引子的特征，看到的是几何变化"，前提是每条鱼都能同时记录上千个神经元，因为流形是群体层面的对象，逐个神经元顺序记录很难保留同一次试次中的相关结构，不能直接替代同步群体记录。第一章能够区分"同步"和"放电率"，前提是能在相距几毫米的多个位点同时记录，否则你只会看到局部放电减少，得出相反的解读。第三章能把"任务置信度"和"特征干扰"联系起来，前提是同时记录 V1 和 7a 两个区域。测量平台不是科学的背景板，它直接决定了假说空间里哪些假说是可以被检验的。

所以我们把测量平台也当作一个架构问题来看。这一周恰好有几项平台层面的进展，各自填补了不同的位置。

第一项是 SORDINO，9 月 9 日以技术报告的形式发表在 Nature Neuroscience 上，来自北卡罗来纳大学 Shih 实验室。它要解决的问题是：功能磁共振成像，fMRI，在小鼠身上通常要在麻醉下做，清醒成像非常困难，因为扫描仪太吵、震动太强，清醒的动物会应激、会动，运动伪影和磁化率伪影会毁掉数据。

SORDINO 从序列设计上消除噪声的源头。传统快速成像序列要反复快速切换梯度磁场，切换的速率叫做压摆率，slew rate，它衡量的是梯度场每秒变化多少，这个变化率正是扫描仪里敲击声和震动的来源。SORDINO 是一种基于零回波时间的序列，它让梯度的总幅度几乎保持恒定，只是连续地旋转方向，并且只在方向改变的过程中采集数据。结果是它的平均压摆率是零点二一特斯拉每米每秒，而常规的回波平面成像超过一千二百，相差大约四个数量级。它的声压谱几乎和扫描仪空转时一样，比回波平面成像最多安静二十分贝。电磁干扰也小，所以可以和电生理、电化学记录甚至头戴式显微镜同时做。在 9.4 特斯拉的场强下，小鼠数据的空间分辨率是四百微米各向同性，时间分辨率两秒。研究者在二十五只清醒小鼠上恢复出了静息态网络，记录了伸手抓取任务中的全脑活动，还做了十一对小鼠在社交互动时的双脑同时扫描。

但有一个细节必须讲清楚。SORDINO 的对比度机制不是传统的血氧水平依赖信号，也就是 BOLD。它的信号来自 T1 弛豫的变化，贡献者包括流入增强的脑血容量、组织氧含量和脑血流。论文里有一个决定性的实验：去氧血红蛋白在 SORDINO 里产生的信号比氧合血红蛋白更强，正好和 BOLD 相反。所以它不是"更安静的 BOLD"，而是一种不同的对比度，空间特异性可能更好，但和过去几十年的 BOLD 文献不能直接对标。它目前没有人类数据，分辨率也不足以做皮层分层成像。

这件事的启示是：评价一台仪器，不能只看空间和时间分辨率两个轴。至少还要加四个维度：行为的自然程度，动物是清醒还是麻醉、头固定还是自由活动；刺激兼容性；多模态兼容性；以及闭环延迟，从测到信号到反馈干预需要多久。SORDINO 在前三个维度上都往前推了一步。

第二项在人类这一侧。9 月 8 日，斯坦福大学吴蔡神经科学研究所宣布建成了一套光泵磁力计脑磁图系统，简称 OPM-MEG。脑磁图测量的是神经元电流产生的磁场，强度在十飞特斯拉量级，比地球磁场弱几十亿倍。传统脑磁图用超导量子干涉器件，必须泡在液氦里，装在一个巨大的固定头盔中，被试必须一动不动。光泵磁力计不需要传统超导系统的液氦低温冷却，传感器可以靠近头皮，做成可穿戴的帽子。斯坦福这套系统有一百四十四个传感器，仍然需要一间磁屏蔽室。它的位置很清楚：fMRI 空间分辨率好但时间分辨率是秒级，脑电图有毫秒级时间分辨率但空间定位差，OPM-MEG 保留了毫秒级时间分辨率，并因传感器更贴近头皮而改善信号采集和源定位的条件，但不能直接等同于 fMRI 的空间分辨率。它也让被试在允许的范围内移动、说话、和别人互动。它是人类研究里介于 fMRI 和侵入式皮层电极之间的一座无创的时间桥梁。如果你想在人类身上检验第一章那种"跨区域低频同步"是否存在、在什么状态下出现，这类工具是一个值得考虑的无创入口。

第三项回到小鼠，是一篇预印本。9 月 11 日，加州大学洛杉矶分校 Aharoni 实验室联合东京大学的团队在 bioRxiv 上发布了 Miniscope Zero，一台完全无线的单光子微型显微镜。头戴式微型显微镜可以在自由活动的动物身上做单细胞分辨率的钙成像，但过去它总有一根线，供电和传数据都靠它，这根线限制了动物能去的地方、多只动物的同时记录和三维空间里的行为。去掉这根线的方式很有工程味道。供电，是把整个行为场地做成一个准静态腔体谐振器，在整个空间里产生磁场，显微镜上的小线圈从中取电，在大约半米见方的场地里可以提供超过五百毫瓦。数据，靠光学上行链路传输，速率八兆比特每秒。成像指标是：视场六百乘六百微米，两百乘两百像素，二十帧每秒，整机重四点一二克。团队展示了海马体 CA1 区在开放场、封闭迷宫、多只动物同时记录以及三维行为中的长时间成像。代价是视场更小、帧率更低、比有线的第四代重了大约一点五克，而且只能在那个谐振场地里工作。但它说明的是那句话：线消失了，实验本身就变了。多动物社交、封闭空间、长时间记录，以前是"能不能做"的问题，现在变成了"怎么设计"的问题。

第四项和第五项不是硬件，而是"怎么用数据"的架构，两篇都是 arXiv 预印本，尚未同行评审。

一篇是 9 月 9 日的 BrainTaskonomy，处理的是 fMRI 基础模型的预训练。现在的做法通常是把所有来源的数据均匀混在一起训练。这篇工作先用一个轻量的代理模型测量十个 fMRI 数据域之间的"有向促进"，也就是先在 A 上训练是否有助于 B，然后据此设计课程式的预训练顺序，并结合从高噪声到低噪声的时间步调度；在十五个下游任务上又构建了一张有向的任务迁移图。和两个维度都均匀采样相比，这个联合方案把三个重建误差指标分别降低了百分之六点五、百分之十六点三和百分之十点五，这三个指标分别衡量重建信号的逐体素误差、功率谱误差和功能连接误差。更重要的定性结论是：迁移是不对称的，A 帮助 B，不代表 B 帮助 A。作者对最后的密封测试用了"探索性"这个词，他们自己也没有宣称统计上的强结论。它对测量架构的含义是：未来的多尺度数据，脑电、脑磁、皮层电极、fMRI，如果要一起训练一个模型，不应该简单地均匀混合，而应该维护一张"有向迁移矩阵"，让数据采集的优先级本身受迁移效用的影响。这是架构推演，但它把"该采什么数据"从经验判断变成了可以优化的问题。

另一篇是 9 月 10 日的 BRIDGE-EEG，架构是"教师留在服务器，学生进入可穿戴设备"。先用统一的预处理把不同通道数、电极布局和采样率的脑电记录映射到一个六十二通道的时频表示，用自监督学习预训练一个约一千两百万参数的教师模型，再蒸馏成一百五十六万和四十八万参数的学生模型。在六个基准上，异常检测和情绪识别任务的学生模型达到了和参数量大十倍到一千倍的脑电基础模型相当的准确率，运动想象任务还有差距；在英伟达 Jetson Orin Nano 这类边缘平台上的测试中，每次推理的能耗从四十六点六七毫焦降到十五点六四毫焦，约为原来的三分之一。这里还不是植入体或微控制器上的实测结果。对脑机接口来说这个模式很重要：植入体和可穿戴设备受到严格的功耗与内存约束，允许的模型规模取决于运算量、精度、采样率和具体硬件，不能只凭参数量判断；教师在观测台，学生在设备端，中间是蒸馏。一个多尺度观测台的产出不只是科学结论，还可以是能下发到设备的紧凑模型。

顺带一提，英国今年六月宣布资助的国家级 AI 实验室 SOFAIR，由伦敦大学学院牵头、剑桥、牛津和爱丁堡参与，明确把"不依赖集中式算力的架构"和"神经科学与 AI 的交叉"列为方向，说明本期讨论的问题不只是学术兴趣。

把这一章收一下。多尺度观测台，Multiscale Observatory，不是一堆设备的集合，而是用不同尺度的测量去共同约束同一个计算假说。以第一章的控制平面假说为例：细胞类型的解剖和光遗传学在小鼠上给出因果证据；SORDINO 这类清醒动物的全脑成像可以回答它在全脑网络层面的表现；OPM-MEG 可以在人类身上寻找同类的跨区域同步特征；无线显微镜可以在自然行为和社交里看这类细胞的活动。每一种尺度都只能看到一部分，但它们的交集才是那个假说真正的检验。而 BrainTaskonomy 和 BRIDGE-EEG 提示我们，这些尺度的数据之间怎么组织、怎么传递，本身也需要设计。

尾声：下一代 AI 也许需要三种"权力"

让我把本期的几条线合起来，不是复述章节，而是试着说清楚它们合在一起指向什么。

本期开头我提出了三个问题：谁来控制网络，知识以什么形式留下，谁有权修改自己。现在可以把它们说成三种"权力"。

第一种是控制权，control authority。小鼠皮层里那群只占抑制性神经元不到百分之一的长程抑制性细胞提示我们，改变一个分布式系统的全局状态，未必需要传递内容，只需要改变时序和同步。它对应的架构原语是一条稀疏的调制控制平面。

第二种是表征权，representational authority。斑马鱼的嗅觉皮层提示我们，学习可以不写入任何地址，而是重塑整个空间的几何，让相关的东西更容易被读出；而猕猴的视觉皮层提示我们，同一块空间如果轴不正交，就会互相干扰。它对应的原语是几何塑形的表征学习，加上任务状态门控和子空间隔离。

第三种是可塑权，plasticity authority。海马体的平台电位和建立在它之上的模型给出的候选解读是，决定谁来学习，和决定学什么，可以是两条不同的通路。它对应的原语是门控的可塑记忆，一条相对稳定的分配通路，加一条可塑的存储通路。

再加上一条不在"权力"这个框架里、但同样重要的线：局部的物理回路。计算不一定要先数字化，物理动力学本身可以承担一部分。

把它们叠在一起，得到的候选架构是：一个分布式的数据平面，负责内容；一条稀疏的调制控制平面，负责状态、增益、相位和路由；一个以几何为目标的表征学习过程，负责让知识以可分离的形状存在；一个门控的可塑记忆，把"写到哪"和"写什么"分开；以及一些局部的物理或具身回路，把不需要符号推理的部分交给物理。

我想特别指出这几条线之间的连接，因为它们不是五个独立的想法。门控和抑制，是控制平面在数据平面上的作用方式。干扰，是几何的失败。决定谁该学习的信号，本身可能就来自控制平面。也就是说，这五个原语可能是同一个架构的不同侧面，而在我看来，标准的稠密 Transformer 往往没有把这些职责显式组织成相互独立的机制，很多内容与状态的作用仍然耦合在主干计算里。

请不要把这理解成"这就是下一代 AI"。本期讲的每一项实验都有明确的边界：一个是小鼠的睡眠回路，一个是斑马鱼的嗅觉皮层，一个是猕猴的初级视觉皮层，一个是尚未同行评审的模型，一个是水槽里的机器人避障。从它们到通用智能架构之间，隔着许多步没有被验证的推理。

但它们的价值恰恰在于足够具体。每一个原语，都可以被写成代码，放进一个基准测试里，和今天的架构比较；也都可以被下一个实验推翻。控制平面假说，可以用清醒动物的全脑成像和人类的可穿戴脑磁图去检验。几何塑形假说，可以用流形容量作为指标，在模型和大脑之间同时测量。分离分配与存储的假说，可以在持续学习基准上直接和标准方法比较。物理回路假说，有纳秒尺度自旋波器件这样明确的物理目标。

这就是这一系列节目一直在做的事：我们不是在寻找一张可以照抄的大脑蓝图，而是在寻找一组能够被工程实现、也能够被实验推翻的计算假说。这一期，这组假说又具体了一点。

这里是系统边界，感谢收听。