1 发展历史
1.1 生物视觉启发的起源
1.1.1 福岛邦彦的神经生理学观察
20世纪60年代，神经生理学家David Hubel和Torsten Wiesel通过猫的视觉皮层实验，发现初级视皮层中存在对特定方向边缘敏感的“简单细胞”和能对位置变化保持反应的“复杂细胞”。福岛邦彦深受这一发现的启发，认为人类视觉系统的层级处理机制——从低级特征（如边缘、方向）到高级语义（如物体类别）的递进——能够为机器视觉提供范式。他注意到，生物视觉在识别物体时能够容忍平移、缩放和轻微形变，而当时的模式识别模型（如感知机）对此表现脆弱。
1.1.2 从认知机到新认知机的演进
福岛邦彦最早在1970年代提出“认知机”（Cognitron），这是一种自组织神经网络，其神经元之间通过竞争学习产生选择性反应。然而认知机对输入模式的平移和形变缺乏鲁棒性。1980年，福岛在认知机基础上引入“S细胞”（简单细胞）与“C细胞”（复杂细胞）的交替结构，并设计出分层局部连接的网络，命名为“新认知机”（Neocognitron）。新认知机通过在每层中重复相同特征检测器（即后来的“权值共享”）来实现平移不变性，从而突破了认知机的局限。
1.2 1980年代的原型与迭代
1.2.1 初代Neocognitron的架构设计
1980年的原始新认知机包含9层网络：输入层、4个S细胞层、4个C细胞层交错排列。每个S细胞层负责从上一层提取特定方向的简单特征（例如不同角度的线条），其感受野随层数增加而扩大。C细胞层对来自S细胞层的响应进行局部子采样（即平均或取最大值），使得对位置的微小偏移不敏感。这种分层设计被福岛称作“层次化视觉皮层模拟”。
1.2.2 后续改进版本（如增强平移不变性）
1983年，福岛邦彦发布了新认知机的改进版，引入了训练过程中动态调整阈值的方法，使得网络能在更大范围内抵抗缩放和形变。此外，他通过增加“反馈抑制”机制（即侧抑制），使得相似特征检测器之间产生竞争，防止了特征重复激活带来的过拟合。这些改进使得新认知机在手写数字识别任务中的误识率降至个位数。
1.3 新认知机与经典CNN的交叉影响
1.3.1 对LeNet的直接启发
1998年，Yann LeCun等人提出LeNet-5，其核心思想——卷积层+池化层交替堆叠、局部感受野与权值共享——与新认知机如出一辙。LeCun曾公开承认，新认知机制是卷积神经网络的重要“思想源头”。事实上，LeNet的池化操作（subsampling）正是直接继承了C细胞层的子采样思想，而卷积核的梯度下降训练则是对S细胞层手工设计特征的一次革命。
1.3.2 被遗忘的“前辈”到复兴的“祖师”
在1980-1990年代，由于计算机算力不足且缺乏有效的训练算法，新认知机并没有被广泛采用，逐渐被BP反向传播技术主导的多层感知机所掩盖。直到2010年代深度学习浪潮中，当研究者重新审视神经网络的早期历史时，才发现新认知机实际上已经完整提出了现代CNN的核心结构。福岛邦彦因此被尊称为“CNN之父”的竞争人选之一，新认知机也从“故纸堆”中重新被评价为深度学习的重要先驱。
2 核心架构
2.1 S细胞层与特征提取
2.1.1 局部感受野与方向选择性
S细胞是特征检测器，每个S细胞只连接上一层中一个小局部区域的细胞（局部感受野）。S细胞对不同方向的边缘（如0°、45°、90°、135°）有选择性响应。这种方向选择性是通过突触权重（类似于卷积核）预先设定或通过学习获得的。每个S细胞层包含多个“特征平面”（即特征图），每个平面检测同一种特征但位置不同。
2.1.2 可训练卷积核的早期版本
新认知机的S细胞权重并非像现代CNN那样通过反向传播梯度下降学习，而是采用无监督的竞争学习规则（见3.2节）。福岛邦彦设计了一种“增强型Hebbian学习”，使得输入模式中频繁出现的局部特征会被对应的S细胞“锁定”，从而形成稳定的卷积核。这些卷积核权重一旦训练完成，就类似于现代CNN中可学习的滤波器。
2.2 C细胞层与不变性整合
2.2.1 池化（Pooling）的萌芽：子采样机制
C细胞层接收来自前一层S细胞的输出，并在一个小的局部区域内（如2×2窗口）进行平均或取最大值操作，从而降低对精确位置的敏感性。这种操作本质上就是现代CNN中的平均池化或最大池化。福岛邦彦把C细胞的输出称为“模糊化特征图”——因为它在保留特征存在性的同时，抛弃了精确的空间坐标。
2.2.2 抗形变能力的实现原理
由于C细胞层会对同一特征平面内多个相邻位置的响应进行合并，即使输入图形出现轻微平移、缩放或扭曲，只要特征仍然落在C细胞的感受野内，其整体响应强度变化不大。这种“逐渐丢弃位置信息，保留特征类别信息”的层次抽象，正是新认知机抗形变的核心。此外，多层级联使得整个系统能容忍更大幅度的几何变换。
2.3 层级堆叠与反馈抑制
2.3.1 多阶段级联处理流程
新认知机的处理流程可用“S-C-S-C-...-输出”来描述。输入图像先经过第一层S细胞提取局部边缘，再经第一层C细胞进行局部池化；然后第二层S细胞在已模糊的边缘特征基础上检测“角点”“T型接点”等更复杂的模式，再进行第二层C细胞池化……如此反复，直到最顶层S细胞能够对完整的目标类别（如数字“5”）产生强烈响应，而忽略背景中其他特征。全程无反馈环路，只有前向传播。
2.3.2 侧抑制与竞争性学习
在每一层中，同一特征平面内或不同特征平面之间的S细胞之间存在侧抑制连接：当一个S细胞激活时，它会抑制相邻S细胞的响应。这种机制迫使网络中不同位置的细胞分化成对于不同特征产生选择性的“专家”，从而避免冗余特征检测。福岛将这一过程视为模拟视觉皮层中的“winner-takes-all”竞争。训练时，只有响应最强的S细胞及其邻域才允许权重更新。
3 工作机制
3.1 正向传播与特征映射
3.1.1 从原始像素到高层语义的递进
输入图像以像素灰度值进入第一层，第一层S细胞提取方向边缘（例如垂直、水平、对角），池化后得到降维的边缘图；第二层S细胞从边缘图中检测顶点或弧线；更高层则组合这些局部结构，最后在输出层产生类别指示信号。整个过程中，每一层特征映射的尺寸逐渐减小，但通道（特征维度）逐渐增多。
3.1.2 权值共享的数学表达
假设第l层有$K_l$个特征平面，每个特征平面使用一个$m \times n$的卷积核（局部感受野）。该平面内所有S细胞共享同一组权重参数$\mathbf{w}$。对输入$u$，S细胞在位置$(x,y)$的激活值为： $$ s(x,y) = \varphi\left( \sum_{i=1}^{m}\sum_{j=1}^{n} w_{i,j} \cdot u(x+i, y+j) - h \right) $$ 其中$\varphi$为非线性函数（通常使用sigmoid或半线性函数），$h$为可调阈值。这种权值共享极大地减少了参数数量。
3.2 无监督学习训练
3.2.1 增强型Hebbian学习规则
新认知机不使用标签信息。在每个S细胞层，学习过程遵循“未受抑制的细胞竞争获胜后强化其权重”：若输出细胞$s$的响应大于其邻域内的所有细胞，则$\mathbf{w}$沿Hebb规则向当前输入方向更新： $$ \Delta w_{i,j} = \alpha \cdot s \cdot (u_{i,j} - \mu) $$ 其中$\alpha$为学习率，$\mu$为局部输入均值（用于去均值）。未获胜的细胞权重不更新。
3.2.2 竞争学习与“赢者通吃”
训练过程中，每一层所有S细胞之间发生竞争。只允许在当前刺激下响应最强的细胞及其半径$r$内的邻居进行学习（邻域半径随着训练周期逐渐缩小，最终只保留最佳匹配细胞）。这种机制使得不同位置的S细胞逐渐分化，分别对应不同的局部特征模式。C细胞层不参与训练，其权重是固定的“模糊化”函数。
3.3 与反向传播的对比
3.3.1 新认知机为何未采用BP算法
1980年代反向传播算法尚未得到广泛应用（BP在1986年由Rumelhart等重新提出），福岛邦彦更倾向于仿生学习规则。此外，他担心有监督学习会使网络“记住”训练集而丧失对形变的泛化能力。他认为生物视觉系统主要通过无监督的自组织方式发育，因此坚持使用无监督竞争学习。
3.3.2 后来者的融合尝试
1990年代后，有研究者将新认知机的结构保留，但将其中的无监督学习替换为反向传播，例如1994年Bishop等人的“改进型新认知机”。实验结果证明，采用BP训练的新认知机在MNIST等基准上性能远优于原始版本。现代CNN实际上就是这种融合的产物——继承了S-C堆叠与权值共享，但训练方式完全采用有监督反向传播。
4 应用与局限性
4.1 经典应用场景
4.1.1 手写数字识别（如邮政编码处理）
新认知机最早也是最成功的应用之一是日本邮政的手写邮政编码识别系统。福利邦彦与日本电信电话株式会社（NTT）合作，在1980年代开发了基于新认知机的识别设备，能够识别数字0-9以及一些特殊符号（如“〒”）。该系统对轻度歪斜、笔迹不规范的数字能达到90%以上的识别率。
4.1.2 字符与模式识别任务
除了手写数字，新认知机还被应用于印刷体汉字识别（如日文假名和汉字）、指纹模式分类、航空影像中的目标检测等场景。由于无监督训练无需大量标注数据，它在当时数据稀缺的情况下具有一定优势。
4.2 性能短板
4.2.1 计算开销与规模扩展困难
新认知机的架构是全连接型S细胞层——每个特征平面内部虽然是权值共享，但不同层之间的局部连接数量仍然巨大。在20MHz时代微处理器上，识别一个32×32的字符需要数秒。当尝试扩展到更复杂任务（如自然图像分类）时，网络层数和神经元数量爆炸，训练时间和内存需求超出了当时硬件承受能力。
4.2.2 缺乏端到端监督训练的灵活性
无监督训练导致网络难以针对特定任务进行精细调节。例如，如果训练数据中包含了大量带噪声的样本，无监督学习可能会学习到噪声模式本身。此外，新认知机无法像现代CNN那样通过BP神经网络反向传播来微调所有层，它的S细胞层只能通过前层反馈局部调整，导致高层特征的质量无法保证。
4.3 现代价值与遗产
4.3.1 促成卷积神经网络普及的“幕后英雄”
尽管新认知机本身未能大规模商用，但它提出的局部连接、权值共享、池化、层级抽象等思想，直接催生了LeNet、AlexNet、VGG等经典CNN。可以说，没有新认知机的概念实验，深度学习革命的实现也许会晚上若干年。
4.3.2 在神经科学计算模型中的持续影响
现代计算神经科学中，新认知机仍被视为一种合理的初级视觉皮层计算模型。一些研究团队继续改进其无监督学习规则，希望复现更真实的皮层发育过程。例如，2020年代有学者将新认知机与脉冲神经网络（SNN）结合，探索类脑视觉芯片的底层算法。
5 批评与争议
5.1 理论完整性之争
5.1.1 是否真正模拟了生物视觉
批评者指出，新认知机虽然号称仿生，但其大量参数（如感受野大小、池化窗口、阈值）都是手工调参，而非生物中自然形成的。生物视觉皮层中还存在复杂的反馈连接、注意力机制、多模态整合等，新认知机过于简化的前馈结构并不足以模拟真实大脑。福岛邦彦本人也承认，新认知机只抓取了“最简单的共性”。
5.1.2 无监督训练的有效性存疑
无监督竞争学习虽然避免了标注成本，但其收敛速度慢且容易陷入局部最优。实验表明，在相同数据量和网络规模下，使用有监督BP训练的新认知机变体明显优于原始版本。因此，一部分学者认为新认知机的无监督训练是一个“错误的方向”，是当时计算资源和技术局限的产物。
5.2 与同时代模型的竞争
5.2.1 感知机对比
1958年的感知机（Rosenblatt）也是单层线性分类器，新认知机在数学上相当于多层感知机的层次卷积形式。当时感知机因被Minsky证明无法解决异或问题而陷入低谷，新认知机通过引入非线性S细胞和权值共享，本质上解决了这一问题（因为它能学习非线性特征）。但感知机因更简单且理论更成熟（收敛定理），在1980年代的教育和工业界仍占主流。
5.2.2 多层网络的早期困境
同时代的其他多层网络（如反向传播网络）同样面临训练慢、过拟合等问题。新认知机的独特之处在于其无监督训练避免了标签依赖，但它并未能彻底解决多层网络的“梯度消失”或“局部最小值”困境。1990年代后，随着SVM和支持向量机的兴起，包括新认知机在内的神经网络都曾被边缘化，直到2006年深度信念网络才重新激活该领域。
6 衍生与变体
6.1 改进型新认知机（如修正激活函数）
2000年代初，日本大阪大学的研究组将新认知机中的sigmoid激活函数替换为ReLU（线性整流单元），并类比现代CNN加入批归一化。改进版在MNIST上实现了接近LeNet-5的准确率（约99.2%）。此外，有学者将C细胞层的平均池化替换为最大池化，提升了网络对非常规形变的鲁棒性。
6.2 脉冲新认知机（Spiking Neocognitron）
受脉冲神经网络（SNN）启发，2016年瑞士苏黎世联邦理工学院（ETH）的研究者将新认知机的连续激活函数改为脉冲信号——只有当S细胞膜电位超过阈值时发放一个脉冲。这种“脉冲新认知机”在神经形态硬件（如Intel Loihi芯片）上运行，功耗仅为传统CNN的千分之一，特别适合无人机、穿戴设备等低功耗场景。
6.3 与现代CNN融合的混合架构
近年出现了一些“杂交”网络：前几层使用现代CNN的标准卷积+池化，后几层模仿新认知机的竞争性侧抑制和S-C分层逻辑，以提升对遮挡和背景杂乱的鲁棒性。例如，2019年提出的“抑制增强网络”（SENet）就引用了新认知机的侧抑制思想。这些混合架构在目标检测任务中取得了一定成效。
7 文化影响与冷知识
7.1 深度学习发展史上的“考古发现”
2012年AlexNet在ImageNet上碾压传统方法之后，深度学习社区掀起了一波“考古热”：许多研究者重新发现福岛邦彦1980年的论文《Neocognitron: A Self-organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position》。这篇论文当年仅发表在日本内部的英文期刊《Biological Cybernetics》上，引用量长期低位，直到2010年代才破千。在Reddit和知乎上，常有帖文感叹：“原来CNN的每一块积木在40年前就被搭好了。”
7.2 福岛邦彦与Hinton的学术“互怼”趣闻
在2000年代的一次人工智能会议上，福岛邦彦曾调侃Geoffrey Hinton： “你们用反向传播花了几百次迭代才能学到的东西，我的新认知机一次无监督学习就能做到——虽然精度可能差点。” Hinton则幽默回应：“那为什么我现在调参的时候，你们年轻人还在用水冷机呢？” 这场“互怼”后来被旁观者引用为深度学习和认知科学两个学派“友谊与冲突”的缩影。
7.3 梗文化中的新认知机：“最早的抠图工具？”
网络社区中，有人将新认知机的C细胞层功能戏称为“最早的抠图工具”：因为它会自动忽略图像中微小位置偏移和形变，只保留特征轮廓。更有网友恶搞：如果把新认知机用于人像识别，它会“只看到你脸上的五官布局，完全不Care你的妆、发型甚至墨镜——就像给你的脸加了一个人工智能高斯模糊”。这些段子虽然不严谨，但生动反映了新认知机在抗形变能力上的特点。