学习的优化：从 SuperMemo 方法看记忆的生理学与生物化学

Piotr Woźniak，1990年。

本章首先介绍记忆生物化学与生理学的基本事实和理论，以此为基础构建分子记忆模型，把已知神经化学数据，与 SuperMemo 方法所采用的最佳学习模型所蕴含的记忆定量特性结合起来。本章面向已经对神经科学有一定兴趣的人，因此要求了解神经系统基础生物化学和生理学。除新引入的概念外，生物学术语不列入论文末尾的词汇表。

10.1 记忆的位置与性质

有些生理学家认为，所有形式的学习都可以用经典条件作用解释；另一些则倾向于把那些被一个含糊术语“高级思维”描述的智力活动排除在外。不过，对认真研究进化机制的人来说，很明显，人类记忆与思维所依据的原则，与引导大鼠找到饮水嘴、引导猫进行交配的机制相同。科学家自然倾向于确定研究现象的位置，以缩小关注范围。早期记忆研究也体现了这一点：人们试图寻找中枢神经系统中负责存储和回忆的部分，而神经系统本身与记忆有关，从未有过争议。 这使 Lashley 在1950年发现，记忆在大脑皮层没有专门的位置。移除皮层的动物，学习能力随着损伤范围扩大而降低，移除部位的具体位置却不那么重要。不过，也有报告称，内侧颞叶皮层双侧受损，会造成特别严重的记忆障碍。同样，由酗酒引起、以乳头体损伤为特征的柯萨可夫综合征患者，也表现出显著记忆丧失。这两种情况下，受影响个体都呈现顺行性遗忘，即无法形成新记忆。这提示，受损结构对记忆形成特别重要。 随后的系列研究发现，与颞叶及边缘系统相关的多种结构受伤，会造成严重记忆缺陷。海马体、杏仁核、颞干、乳头体、丘脑背侧核、扣带回、穹隆等结构，得到了最密集研究。研究特别指出，边缘系统帕佩兹回路的完整性很重要；人们认为，其中传导着循环回响的脉冲，而 Hebb 在1949年提出，这可能是短期记忆的基础。不过，实验结果充满矛盾：某结构在一种学习中格外重要，在另一种中却不那么相关。因此，可以得出结论：研究过的这些脑结构，因为具有高度联想性，都对学习很重要；但没有哪一处专门负责学习。神经系统其他部分，存储记忆的能力也不逊色。 由于某些脑区高度专门化，一种损伤可能严重影响特定学习，另一种却不影响。例如，有研究表明，学习识别视觉刺激涉及下颞叶皮层，而防御行为与诱发的食物厌恶，需要杏仁核才能习得。因此，视觉、嗅觉、味觉、听觉、动觉、本体感觉等记忆，可能涉及专门回路。为了强调记忆的无处不在，还要指出：甚至有人认为，可塑性是所有神经回路的固有特征［Carlson，1988］，虽然并非所有突触都在刺激后表现出传导增强。人们知道，甚至脊髓的低位部分，也可以用于诱发习得反应。脊髓截断患者，可以学会在大腿受到拍打时排尿［Wittig，1984］。 很早就有人注意到，记忆可以区分为短期与长期两个成分。例如，电休克 ECS 被认为能清除短期记忆。ECS 暂时扰乱神经活动，使患者不能回忆治疗前不久的事件，而较早的长期记忆不受影响。这表明，记忆最初靠神经活动维持，直到巩固为长期记忆。其他似乎能清除短期记忆的因素，包括头部损伤、缺氧、低体温、麻醉，以及哇巴因等某些药物；它们都干扰神经元活动。不断想着某件事，便能把它保留在脑中，也支持短期记忆的神经活动性质。Hebb［1949］提出，短期记忆应被看成循环回响的神经脉冲。这一假说曾被广泛接受。 不过，可以证明，所有支持 Hebb 假说的证据，都能在不涉及回响脉冲的情况下解释，越来越多研究者倾向于把短期记忆看成化学现象［Hubbard，1975］。首先，ECS 的清除效应，不一定要解释为神经活动被打断。如果假定短期记忆具有化学性质，ECS 可能通过在其他神经元中形成短期痕迹，给回路添加噪声，使先前形成的模式无法提取［Carlson，1988］。靠思考维持记忆，也有不需要 Hebb 假设的解释。 考虑这个事实：下颞叶皮层神经元，会保留刚感知的视觉刺激信息［Fuster 与 Jurvey，1981］。其中一些对特定颜色有反应，并在刺激后保持较高反应频率。对该区域的电刺激，会抑制这种活动。刺激后活动，既可能由回响脉冲带来的规律刺激引起，也可能由参与感知的神经元活动增加引起。放电增加，可能是大脑短期保留信息的一种形式。细胞集合，或整个神经树、神经网络，可能暂时保留过去的兴奋，使痕迹条件作用，也就是把时间上分开的刺激建立联系，以及重新思考某个想法，成为可能。例如，数学家可以再次向问题求解回路发出“思考”命令，部分神经路径已易化，思维过程便能重新进行。总之，必然存在涉及神经元电活动的短期记忆形式，但不一定需要循环回响。 我个人确信，我们惯称的短期记忆，实际上指两种不同现象：电性短期记忆和化学性短期记忆。如前所述，刺激后的神经元放电，以及反复思考可以保持一个事实，都是电性短期记忆存在的有力证据。这种记忆的功能，是暂时保留大脑先前状态的信息。化学性短期记忆的存在，我将在后文论证；它的功能不同，是为长期记忆巩固提供基础。由于二者功能不同、相互关系尚不确定，应该使用不同名称。目前，我把前者称为“暂时记忆”，后者称为“短期记忆”。这反映出：暂时记忆未必导致持久记忆痕迹的巩固，而短期记忆则是通向长期记忆的确定步骤。区分两个概念，并不排除暂时记忆与短期记忆不可分割地相联；如果确实如此，仍只用“短期记忆”这个术语，也是合理的。 至于帕佩兹回路，我认为，它们可能保存着回响脉冲，其意义并不在于诱导长期记忆。这些脉冲，可能存储某种关于大脑状态的一般信息，不断改变其他回路的活动，例如个体总体的情绪状态。帕佩兹回路，也可能成为随机性学习中计时回路的基础，见后文。 关于化学性记忆形成的分子机制，有很多模型，其中一个尤其有启发性。1977年，Gibbs 与同事提出三阶段记忆模型。通过巧妙设计的实验，研究消除记忆因素的作用，他们提出，记忆形成还存在一个中间阶段。Gibbs 模型包括：

• 短期记忆，持续10至15分钟，基于膜对钾离子通透性的变化；
• 中间记忆，持续30分钟，基于钠钾 ATP 酶活性的变化；
• 长期记忆，基于蛋白质合成。

上述阶段的存在，是根据影响钾浓度、钠钾 ATP 酶和蛋白质合成的因素对记忆的作用推断出来的。人们发现，这些因素会在学习后不同时间消除记忆，为模型提供依据。我认为，如果研究更多影响神经元代谢的抑制剂，并获得更精确的测量，就能区分不止三个记忆形成阶段。因此，记忆形成可以看成一连串影响突触传导特性的分子现象。这又意味着，把记忆分成短期和长期成分，是人为划分。其他形成阶段，也可能被那些统称为短期记忆抑制剂的化学物质消除。 最后，还应提到记忆形成的另一个重要因素：睡眠。快速眼动睡眠阶段对长期记忆形成不可缺少，已是广泛接受的看法。剥夺这一阶段，会显著减慢学习［Empson，1970］。问题是，为什么记忆巩固需要一种特殊生理状态？难道不能在日常正常脑活动中，直接把短期痕迹转变为更持久的痕迹吗？睡眠对于智力活动的重要性，无可争议。在进化中，睡眠伴随更复杂行为的发展而出现，后者又与学习能力扩大有关。一个令人着迷的解答候选，是 Evans 的理论：睡眠是一种垃圾回收程序。 我不知道 Evans 是依据什么论证提出理论的，但把它与猫的睡眠研究联系起来，就会看到惊人的对应。人们认为，快速眼动阶段，脑干向皮层发送随机脉冲，皮层把它们当成来自感官世界的正常信号处理，于是产生梦［Hubbard，1975］。从皮层返回效应器的反应，在脑干被截断，使做梦者不会与梦中的对手搏斗、伤到自己。由于传出脉冲没有相应感觉反馈，就会产生那种熟悉的、仿佛陷在糖浆中的感觉。 脑干的随机脉冲，可能被用于 Evans 提出的垃圾回收过程。可以设想，这些睡眠脉冲被用来发现那些在神经回路结构中不协调的突触连接，例如无法访问的连接。它们会被清除，以减少系统中不必要的噪声。因此，除了遗忘外，睡眠就是优化大脑回路结构的第二种要素。

阶段小结

• 记忆在大脑中没有专属位置，不过，有些特定结构可能专门存储视觉、听觉、嗅觉等记忆。
• 我使用“暂时记忆”这个术语，把电现象从短期记忆中区分出来。后文将把短期记忆看成具有化学性质。
• 记忆形成是一系列分子现象，被粗略地划分为短期记忆与长期记忆。
• 睡眠对记忆形成很重要，也许是一个优化回路连接的过程。

10.2 随机性学习与确定性学习

为了建立符合 SuperMemo 理论的分子记忆模型，必须区分两种基本学习形式：随机性学习与确定性学习。主要理由是：

• 神经回路结构不同，尤其学习算法不同，会影响 SuperMemo 理论的适用性；
• 涉及的突触配置不同，可能意味着不同的分子机制。

两种学习的基本区别是：随机性学习中，神经系统必须通过试错，找出对刺激的反应；确定性学习中，则直接获得期望反应的现成模式。许多学习任务会同时使用两种机制，因此具体情况下，未必容易识别。较纯粹的随机过程例子，是学习用乐器演奏一段短乐句的后期阶段；这里的后期，是指逐渐放弃有意识控制运动单位之后的阶段。所有创造性思维形式，都强烈依赖随机过程。确定性过程的例子，则是学习音节表，或学习一组问题的答案。关于二者的数字化示例，以及相关算法计算复杂度的分析，见［Wozniak，1988a］。

10.2.1 随机性学习的假设模型

以学习吉他为例，分析随机性学习可能涉及的神经回路和突触易化机制。设想一位吉他手，希望尽可能熟练地演奏一个动机，也就是几个小节。他大概先读谱，然后用手指拨弦。重复几次后，就不再看谱，因为谱已经通过确定性学习记住了。接下来，把注意力放在有意识控制手臂肌肉上，改善演奏。这种有意识指导，向神经回路提供现成解法，因此仍属于确定性学习。例如，他可能调整手腕相对于琴颈的角度等。 重复一定次数后，意识对改善演奏不再有进一步作用，也就是对手指的确定性指导已经完成，随机阶段开始。他可能开始读报，而手指持续重复动作。一小时读报之后，会发现演奏明显改善。这种改善，当然只能是神经系统自己通过试错得到的，因为关于肌肉该怎样工作，除了负责潜意识评估训练质量的神经中枢，提供惩罚或奖励反馈之外，没有其他有效信息来源。例如，手指滑了一下，可能产生惩罚脉冲，使错误尝试被放弃。 下面提出一个假设模型，说明这一过程可能如何在神经元层面发生。显然，负责随机性学习的回路，称为改进回路，必须有接口，连接到确定性学习阶段所用的同一组运动神经元，也就是执行回路。另一方面，还需要循环回响的脉冲，为整个过程计时。除了“快一点”“慢一点”“开启”“关闭”等命令外，这种计时不受意识控制。 提供计时的回路，称为计时回路。改进回路还必须接收来自演奏质量评估中枢的信息，也就是评估回路。无疑，随机性学习系统需要以上所有组成部分，但它们的内部结构和解剖位置，目前只能作假设性描述。

图10.1：参与随机性学习的神经组成部分框图。

图10.2 展示了改进回路的一种示例组织方式。列出它只是为了说明过程，并得出后续讨论所用的基本结论。为便于定量分析，假定了具体的输入与输出通路数量：计时回路由100个神经元发送信号，执行回路假定由1000个神经元控制，评估回路则能提供1至100000种不同输入信号。

图10.2：随机性学习过程中改进回路的示例组织方式。

图10.2 的模型，没有包含负责随机选择可能控制信号的回路。现实中未必如此，但所假设的方案特别有吸引力，因为控制路径的随机选择，由突触本身的特性解释。模型假定，一个轴突最多提供10个连接，一个神经元最多接受10个输入信号。这些假定简化了讨论，但后面会看到，系统所需神经元总数，因此变得远多于实际必要的数量。中枢神经系统中，一个普通神经元平均接受约1000个其他神经元的输入［Wittig，1984］。计时与执行回路之间，有六层神经元：

1. 100个计时神经元。
2. 10*100 = 1000个改进回路第一层神经元，每个计时神经元能激活其中10个。
3. 10*1000 = 10000个第二层神经元，其输入来自前一层。
4. 10*1000 = 100000个神经元，直接负责联系执行神经元与计时神经元。它们构成改进回路的寻址矩阵。
5. 100000/10 = 10000个改进回路第三层神经元。每个都能被前一层的10个神经元之一激活。
6. 10000/10 = 1000个执行回路神经元。每个都能被最后改进层的10个神经元之一激活。

负责系统变化的突触，全都位于寻址矩阵，也就是第4层。每个突触，实际上都是一个计时神经元与一个执行神经元之间的直接连接。因此，通过改变这些突触的状态，系统就能编码计时与执行回路之间所有可能的关系。

系统按以下方式工作：

1. 有意识控制，驱动执行系统开始活动。
2. 计时回路开始发送脉冲，全部神经元按指定间隔，依次逐个放电。
3. 寻址矩阵的突触，也就是寻址突触，以随机方式达到激活水平，激活执行回路中的随机神经元。
4. 如果随机脉冲损害表现，评估回路就抑制寻址矩阵中的有害变化；否则，这些变化就越来越持久。
5. 当改进回路的表现达到足够质量时，撤去有意识监督。

图10.3：随机性学习中，寻址突触所发生过程的示例。

如图10.3 所示，寻址突触具有自发改变易化水平的倾向；但如果受到计时回路刺激，这些变化会达到高于突触后膜激活阈值的稳态；如果没有刺激，稳态则恰好低于激活水平。因此，在没有计时刺激时，寻址矩阵慢慢被清除到不活跃、不寻址状态，也就是遗忘；而收到计时脉冲时，突触慢慢达到激活水平，第5层神经元开始放电。不过，来自评估回路的惩罚性脉冲串，会显著抑制寻址突触强度；奖励性脉冲串，则进一步增强变化。注意，错误放电的比例越低，突触平均易化程度就越高。如果寻址矩阵每秒发生一次随机放电，检查整个矩阵大约需要30小时。 这里，改进回路的神经元数量，等于计时与执行回路神经元数量的乘积。不过，很容易设想，寻址矩阵并不完整。事实上，它只需要与计时、执行脉冲之间所需联系数量一样多的突触。当然，这需要更复杂的回路。此外，如果允许一个神经元接受1000个突触连接，整个网络就能大幅简化。注意，有意识控制并不影响寻址矩阵，只为过程启动提供基础。也可以设想更精巧的模型：意识脉冲先为寻址矩阵作粗略设置，从而显著降低随机性学习的时间开销。但这样的模型，会让回路复杂得多：如何把信息从执行回路传回寻址矩阵？ 对于随机性学习可能涉及的突触配置，可以得出一个很有趣的结论。突触易化有两种基本形式：突触前易化和异突触易化，见图10.4。

图10.4：突触前易化与异突触易化所涉及的配置。

希望这个随机性学习回路的示例，能说明这样一个事实：无论怎样重画假设的神经网络，最终都会出现一种情况，来自计时与评估回路的下行脉冲在某处相遇，引起易化，或像本例那样引起抑制。异突触易化要求，被修改的突触，通过突触后膜的去极化波，接收到来自修改突触的信号。这样，每次发送奖励或惩罚脉冲，都会在执行回路中产生噪声。突触前配置，则允许通过轴突间连接，直接修改计时突触。这强烈提示，随机性学习涉及突触前易化。

10.2.2 确定性学习的假设模型

为便于讨论，设想一个会英语、想记世界语词汇的学生。他会看到一个英语单词，任务是学会对应的世界语。此时，需要四个神经组成部分：

1. 提问回路：产生脉冲，编码被识别为问题的模式，例如识别英语单词 river，即“河流”时产生的脉冲。
2. 模板回路：产生执行脉冲，编码问题的正确回答，例如使人说出世界语 rivero 的脉冲。
3. 记忆回路：能够把模板脉冲与提问脉冲联系起来，方式与条件作用中无条件刺激和条件刺激建立联系相同。
4. 执行回路：能够执行来自模板回路的命令，之后也能执行来自提问回路的命令。

图10.5：参与确定性学习的神经组成部分框图。

同样，为建立明确的参照，假定提问与模板回路，各自由1000个神经元提供脉冲。注意，理论上，每个神经元都可能只负责产生编码一个单词的脉冲，因此下面的系统最多能记住1000个单词。 还要注意，下面的模型意味着，整个大脑皮层最多只能建立100000个刺激之间的联系，相当于普通说话者的词汇能力。不过，优化回路、增加分支，可以使容量增加许多倍。

图10.6：参与确定性学习的神经网络的示例组织方式。

图10.7 的模型中，有七层神经元：

• 第1层：模板与提问回路，共2*1000个神经元。
• 第2至3层：两层扩展第一层的连接，然后形成寻址矩阵，分别有20000和200000个神经元。
• 第4层：神经元寻址矩阵，直接接收来自指定神经元对的脉冲；一方属于提问回路，另一方属于模板回路。寻址矩阵包含1000*1000 = 1000000个神经元。
• 第5至6层：两层汇聚寻址矩阵的连接，随后形成执行回路，分别有100000和10000个神经元。
• 第7层：执行回路的输入层，有1000个神经元。

学习时，呈现问题和答案，使提问层与模板层相应神经元的脉冲沿系统下行，直到在寻址层一百万个神经元中的某一个相遇。这会使连接提问回路与寻址矩阵神经元的突触发生易化，从而以后只激活提问回路，也能产生正确回答。 寻址矩阵的每个神经元，只接收一对提问与模板神经元的脉冲，也只寻址执行回路中的一个神经元。与随机性学习一样，优化布线、增加网络分支，可以把所需神经元数量减少许多倍。例如，每个神经元若有1000条树突，示例中的网络就能被完全省去。 现在考虑确定性学习可能涉及的突触配置。如果考虑到，单独的模板轴突就应能使执行神经元去极化，就会直接倾向于异突触方案。模板轴突，只在最初建立模板与提问脉冲联系时，起一次易化提问突触的作用。这次联系，足以诱发突触变化，使以后仅靠提问神经元就能去极化。此时，突触之间经突触后膜传递信号，不会引入噪声，因为无论如何，模板神经元本来就会使执行神经元去极化。因此，先前为随机性学习选择突触前模型的理由，在这里不成立。 随机性与确定性学习的区别，并非纯理论。有观察发现，顺行性遗忘患者虽然无法记起学习这件事，却仍能在一定程度上学会各种运动技能。这使 Squire 在1982年提出，存在程序性知识与陈述性知识两种不同知识［Butters，1984］。Squire 区分的两种知识，可能分别通过随机性与确定性学习获得。因此，遗忘症患者尽管因颞叶皮层损伤，无法形成新的陈述性，也就是确定性记忆，却仍能掌握程序性，也就是随机性技能。Hubbard［1975］提到，运动技能，注意其中大多数主要需要随机性学习，比语言技能，也就是确定性学习，记得牢得多。这与我的观察相符：针对随机性学习的 SuperMemo 复习安排，可能较不密集，见第9章。 最后应注意，随机性与确定性学习，并不是仅有的学习形式。研究表明，习惯化和敏化等现象，在某些情况下具有不同性质。例如，加州海兔有专门回路用于这些过程。刺激一个神经元，会使另一个神经元敏化，而后者不需要主动参与。不过，这需要由遗传因素严格决定结构的神经网络，因此对人类似乎较不重要，或许涉及系统发育中较古老回路的原始条件作用除外。 本章后面将集中讨论确定性学习，因为我的人类记忆实验大多以它为对象。不过，提出的某些概念与结论，也可能适用于随机性学习。

阶段小结

• 提出了随机性与确定性学习的区分。随机性学习主要涉及运动技能获取，确定性学习则用于大多数课本教育形式。
• 论证了异突触易化更可能参与确定性学习；同样，提出突触前易化可能与随机性学习有关。
• 后面对记忆相关现象的分析，将限于确定性学习。