1 定义与核心特征
1.1 基本概念
1.1.1 节点与连接权重
联结主义模型由大量基本计算单元（节点）构成，这些节点模拟生物神经元的功能。节点之间通过有向边（连接）相互联系，每条连接赋予一个数值权重（Weight），代表前一个节点对后一个节点的影响强度。权重为正表示兴奋性连接，为负表示抑制性连接，权重绝对值越大则影响越显著。网络的知识与功能以分布式方式存储于所有连接权重的集合中，而非某个特定节点或符号。
1.1.2 激活函数与阈值
每个节点接收来自其他节点的加权输入之和，当该总和超过节点自身的阈值（Bias或Threshold）时，节点被“激活”并产生输出信号。这一非线性转换由激活函数实现，常见的激活函数包括阶跃函数、Sigmoid函数、ReLU（修正线性单元）等。阈值在训练过程中通常作为可调参数，与连接权重共同决定了网络的行为特性。
1.2 与符号主义的区别
1.2.1 表征方式
符号主义采用离散的、符号化的表征，如逻辑命题、语义网络中的节点标签或产生式规则，每个符号具有明确的语义。联结主义则采用分布式表征（Distributed Representation），一个概念或模式由多个节点同时激活的模式来代表，单个节点可能参与多个不同概念的编码，从而实现了更高的容错性和泛化能力。例如，在联结主义网络中，“猫”的概念并不对应一个特定的“猫”节点，而是由一组权重模式在输入刺激下的协同激活来体现。
1.2.2 处理机制
符号主义遵循串行的、基于规则的推理方式，程序按顺序执行条件-动作规则，每一步操作都是离散且可追溯的。联结主义则依赖大规模的并行处理，所有节点同时计算其激活值，全局状态在多次迭代后逐渐收敛。这种并行机制使得联结主义模型在处理模式识别、联想记忆等任务时表现出类似人类认知的“软”推理特性，能够容忍输入噪声和不完整信息。
2 历史发展
2.1 早期萌芽（1940s–1960s）
2.1.1 麦卡洛克-皮茨神经元模型
1943年，神经科学家沃伦·麦卡洛克和逻辑学家沃尔特·皮茨提出了第一个形式化的神经元数学模型（M-P模型）。该模型将神经元简化为一个二元阈值单元：当输入的加权和超过阈值时输出1，否则输出0。M-P模型证明了简单的逻辑运算（如与、或、非）可以通过神经元网络实现，为联结主义奠定了数学基础。
2.1.2 赫布学习规则
1949年，心理学家唐纳德·赫布在其著作《行为的组织》中提出了著名的赫布规则：“一起激活的神经元会连接在一起。”该规则描述了突触可塑性的基本机制：若两个相连的神经元同时兴奋，则它们之间的连接权重得到增强。赫布规则后来成为无监督学习的重要理论基础，并在联结主义模型中被形式化为权重更新的局部规则。
2.2 第一次复兴（1980s）
2.2.1 并行分布式处理框架
1986年，大卫·鲁梅尔哈特、詹姆斯·麦克莱兰等出版了里程碑式的两卷本著作《并行分布式处理》（Parallel Distributed Processing, PDP），系统提出了联结主义的理论框架。PDP模型强调认知过程在大规模并行、分布式表征的神经网络中涌现，涵盖了感知、记忆、语言等多个领域。该著作将联结主义从理论构想转化为可操作的模型体系，标志着联结主义在认知科学中的正式复兴。
2.2.2 反向传播算法的提出
同年，鲁梅尔哈特、辛顿和威廉姆斯独立提出了误差反向传播算法（Backpropagation），解决了多层前馈网络的训练难题。该算法通过链式法则计算输出误差对每一层权重的梯度，并沿网络逆向传播，实现了多层网络的监督学习。反向传播的提出使得多层感知器（MLP）成为实用工具，推动了联结主义在模式识别和机器学习中的广泛应用。
2.3 当代进展（1990s至今）
2.3.1 深度学习与联结主义
随着计算能力的提升和大数据的涌现，以深度神经网络为核心的深度学习技术成为联结主义的最新形态。深度网络通过构建多个隐含层逐层提取特征，在图像识别、自然语言处理、游戏博弈等领域取得了突破性成果。联结主义的分布式表征和并行处理思想在深度学习中得到充分体现，现代卷积网络（CNN）、循环网络（RNN）等都是联结主义原则的工程实现。
2.3.2 与认知科学的融合
进入21世纪，联结主义与认知科学的交叉更加深入。基于神经网络的认知模型被用于模拟人类学习、推理和决策过程，例如利用联结主义网络解释儿童的语法习得、视觉错觉效应等。同时，认知神经科学的发现（如大脑的区域功能划分、信息编码方式）反过来为改进联结主义模型提供了生物依据，推动了类脑计算和认知架构的发展。
3 核心模型与算法
3.1 前馈神经网络
3.1.1 单层感知器
单层感知器（Perceptron）由弗兰克·罗森布拉特于1958年提出，是最简单的联结主义模型。它由输入层和输出层组成，输入节点直接将特征向量传递到输出节点，输出节点通过阈值激活函数做出二分类决策。单层感知器只能解决线性可分问题（如与门、或门），对异或（XOR）等线性不可分问题无能为力，这一局限性在1969年明斯基和佩珀特的《感知器》中被严格证明，导致了联结主义的第一次低潮。
3.1.2 多层感知器与误差反向传播
多层感知器（MLP）在输入层和输出层之间引入一个或多个隐含层，通过引入非线性激活函数（如Sigmoid或tanh）克服了单层感知器的线性局限。误差反向传播算法（BP算法）为MLP提供了有效的学习机制：首先前向传播计算输出，然后反向传播将输出误差逐层分配到各隐含层，最后依据梯度下降更新权重。MLP+BP的组合成为联结主义复兴的引擎，至今仍是许多现代神经网络的基础组件。
3.2 循环神经网络
3.2.1 简单循环网络
简单循环网络（Simple RNN）在前馈网络的基础上引入了隐含层的循环连接，使得网络在某一时间步的输出可以作为下一时间步的输入。这种结构使网络具有“记忆”能力，能够处理序列数据，如时间序列预测、文本生成和语音识别。然而，简单RNN面临严重的梯度消失或梯度爆炸问题，长距离依赖的序列信息难以有效保留。
3.2.2 长短期记忆网络
长短期记忆网络（LSTM）由塞普·霍赫赖特和尤尔根·施密德休伯于1997年提出，是RNN的重要改进。LSTM通过引入遗忘门、输入门和输出门三个门控单元以及一个细胞状态（Cell State）来控制信息流动，有效地解决了梯度消失问题，使得网络可以学习长达数百步的序列依赖关系。LSTM在机器翻译、语音识别、手写识别等任务中取得了显著成功，是联结主义模型在序列处理领域的代表性成果。
3.3 自组织与无监督模型
3.3.1 自组织映射
自组织映射（Self-Organizing Map, SOM）由特沃·科霍宁于1982年提出，是一种无监督学习的联结主义模型。SOM将高维输入数据映射到低维（通常为二维）的拓扑网格上，同时保持输入数据的邻域关系：相似的输入落在网格中的相邻区域或同一节点上。SOM广泛用于数据可视化、聚类分析和特征提取，其自组织特性模拟了大脑皮层的功能拓扑组织。
3.3.2 玻尔兹曼机
玻尔兹曼机（Boltzmann Machine）由杰弗里·辛顿和特里·塞诺斯基于1983年提出，是一种基于能量模型的随机神经网络。它由可见层和隐含层节点组成，节点之间全连接，通过模拟退火（Simulated Annealing）算法进行采样和学习。玻尔兹曼机可以学习数据的概率分布，实现生成式建模。受限玻尔兹曼机（RBM）作为其变体，去除了同层节点之间的连接，作为深度信念网络（DBN）的基础组件，在无监督预训练中发挥重要作用。
4 在认知科学中的应用
4.1 语言加工
4.1.1 词汇与语法习得
联结主义模型被用于模拟儿童如何从语言输入中习得词汇和语法规则。例如，鲁梅尔哈特和麦克莱兰开发的单词阅读模型，通过分布式表征学习拼写-发音的映射关系，展示了网络如何在没有显式规则的情况下掌握发音规律。在语法习得领域，联结主义模型（如简单的循环网络）可以学习动词的过去时态变化、主语-动词一致性等语法现象，对传统的符号主义“规则+例外”假说提出了挑战。
4.1.2 语义网络的联结主义建模
联结主义将语义知识建模为一个由节点和权重构成的空间，其中概念的相似性通过节点之间的连接模式或词向量的距离来体现。例如，使用词嵌入（Word Embedding）技术（如Word2Vec）训练出的向量空间，词汇之间的语义关系（同义、反义、上下位等）可以通过向量运算（如“国王-男性+女性≈女王”）来捕捉。这些模型与人类语义记忆的心理学实验数据高度吻合，成为认知语言学的重要工具。
4.2 视觉感知
4.2.1 物体识别
联结主义模型在物体识别中模仿了视觉皮层的层级处理机制。深度卷积神经网络（CNN）通过堆叠多个卷积层、池化层和全连接层，从原始像素中自动学习从低级边缘特征到高级语义特征的层级表征。例如，Fukushima的Neocognitron（1980年）是最早受视觉皮层启发的联结主义视觉模型；现代CNN如AlexNet、VGG、ResNet等在图像分类任务上的表现接近甚至超越人类水平，为理解视觉系统的层级编码提供了计算模型。
4.2.2 运动检测
在运动感知领域，联结主义模型模拟了视觉皮层中方向选择性神经元的功能。例如，使用三层网络（包括输入层、运动检测层和整合层），通过模拟神经元的时空感受野，可以检测物体的运动方向和速度。这些模型不仅实现了计算机视觉中的光流估计，也为理解大脑如何处理动态信息提供了计算框架。
4.3 记忆与学习
4.3.1 联结记忆模型
联想记忆是联结主义的核心功能之一。霍普菲尔德网络（Hopfield Network, 1982年）是最典型的联结记忆模型：它使用对称权重和能量函数，能够从部分或噪声输入中恢复出完整存储的模式，类似于人类记忆的联想检索能力。这种模型解释了记忆的“模式完成”特性，以及记忆之间相互干扰的现象。
4.3.2 突触可塑性与遗忘机制
联结主义模型中的学习规则模拟了突触可塑性，如赫布规则和STDP（脉冲时序依赖可塑性）。在模型中，遗忘机制体现为权重的衰减或竞争性学习造成的抑制效应。例如，在竞争学习的SOM中，少数节点获胜后的权重更新会导致其他节点权重的“遗忘”，这模拟了人类记忆中新旧信息的竞争与干扰。
5 批评与局限
5.1 可解释性不足（黑箱问题）
联结主义模型尤其是深度神经网络，常被批评为“黑箱”：尽管输入和输出是明确的，但网络内部各层节点和权重的具体功能难以直观解读。即使可以通过可视化技术查看隐含层特征，整体决策过程仍缺乏符号主义那种可逐步骤追溯的逻辑链条。这一局限性在需要可解释性的应用场景（如医疗诊断、司法决策）中尤为突出，限制了联结主义模型的信任度和推广。
5.2 对生物神经元的过度简化
5.2.1 模拟精度 vs. 计算效率
联结主义模型中的抽象神经元（如感知器节点）对真实神经元进行了极端简化：真实神经元具有复杂的树突分支、多种神经递质、离子通道动力学和脉冲发放编码，而联结主义节点仅使用一组权重和激活函数。这种简化虽然在计算上高效，但忽略了突触可塑性的时空精细结构、神经元类型多样性等生物学细节，可能导致模型在认知层次的解释力受限。
5.2.2 脉冲神经网络作为修正方向
脉冲神经网络（Spiking Neural Network, SNN）试图在联结主义框架中引入更贴近生物神经元的脉冲编码机制，通过时间点上的脉冲序列而非连续激活值来传递信息。SNN具有事件驱动、低功耗等优点，能更忠实地模拟神经动力学，但其训练算法和计算效率仍不如传统联结主义模型成熟。SNN代表了联结主义向生物学精度靠拢的修正方向。
5.3 与符号主义的冲突与调和
5.3.1 混合架构的探索
联结主义与符号主义的长期对立体现在认知科学的“心智的计算-表征”争论中。近年来，混合架构试图结合两者的优势：联结主义网络负责子符号级的模式识别和感知，符号主义系统负责高阶推理和知识管理。例如，神经-符号系统（Neuro-Symbolic Systems）在神经网络输出之上构建逻辑推理层，或者使用符号知识引导神经网络的训练，在问答系统、数学推理等任务中取得进展。
5.3.2 认知架构中的联结主义模块
在综合认知架构（如ACT-R、SOAR）中，联结主义模块有时被用作特定子处理器。例如，ACT-R第7版引入了联结主义记忆模块用于模拟语义记忆的自动激活扩散，与符号化的产生式系统共存。这种模块化设计承认了联结主义在低级认知处理中的有效性，同时保留了符号系统在目标规划、逻辑推理中的自上而下控制能力。
6 相关领域交叉
6.1 人工智能与机器学习
联结主义是现代人工智能的基石。从早期的感知器到深度学习，联结主义模型在监督学习（分类、回归）、无监督学习（聚类、降维）和强化学习（策略网络）中占据主导地位。其处理大规模非结构化数据的能力推动了计算机视觉、自然语言处理、自动驾驶等技术从实验室走向实际应用。
6.2 神经科学
6.2.1 神经编码假说
联结主义模型为理解神经编码提供了计算框架。分布式表征假说认为，大脑中的信息编码类似于联结主义网络的分布式激活模式，而非单细胞“祖母细胞”假说。功能磁共振成像（fMRI）和钙成像实验中发现，大脑对物体、场景的表征呈现分布式和多模态的特点，支持了联结主义的表征观点。
6.2.2 大规模脑模拟
联结主义原则被应用于大规模脑模拟项目，如蓝脑计划（Blue Brain Project）和人类脑计划（Human Brain Project）。这些项目使用包含数十亿个人工神经元的网络模拟特定皮层区域的神经活动，试图重现神经电生理现象。尽管此类模拟仍面临计算资源和生物精度的挑战，但它们是联结主义思想向系统神经科学延伸的重要尝试。
6.3 哲学与心理学
6.3.1 心智的计算-表征理论
联结主义对心智的计算-表征理论提出了修正。传统符号主义将心智视为物理符号系统，而联结主义主张心智是由大规模神经网络涌现的动态过程。这种观点挑战了经典认知科学中的“思维语言假说”（Language of Thought Hypothesis），认为认知内容并非由离散符号组成，而是由分布式的激活模式构成。这一争论催生了“联结主义心灵哲学”的学派，讨论联结主义是否足以解释命题态度、意识等概念。
6.3.2 联结主义对心理表征的启示
联结主义为心理表征提供了新的理解方式：知识不是被存储为静态的命题或规则，而是以权重的形式隐藏在网络的连接模式中；记忆是重构性的，而非复制性的；范畴化是模糊的、基于相似性的，而非基于必要且充分条件。这些启示与认知心理学中的原型理论、范例理论高度吻合，促进了范畴学习和概念形成领域的研究。