1 基本概念
1.1 定义与原理
人工神经元是构成人工神经网络的基本计算单元。它模拟生物神经元对输入信号的处理方式，通过接收多个输入、加权求和、加入偏置并经过激活函数后产生输出。其核心原理在于将线性变换与非线性激活相结合，从而赋予模型逼近任意复杂函数的能力。
1.2 与生物神经元的类比
1.2.1 生物神经元结构（树突、轴突、突触）
生物神经元由树突（接收信号）、细胞体（处理信号）、轴突（传递信号）和突触（连接其他神经元的间隙）组成。树突负责收集来自其他神经元的电化学信号，细胞体对信号进行整合，轴突将处理后的信号传出，突触则控制信号传递的效率（可类比为权重）。
1.2.2 信号传递过程的简化模型
人工神经元将生物过程简化为数学运算：输入信号（对应树突接收的电脉冲）通过权重（对应突触连接强度）进行缩放，加权求和（对应细胞体的空间总和）后加上偏置（对应阈值的调节），最后通过激活函数（对应神经元是否产生动作电位）决定是否“兴奋”并输出信号。
2 数学模型
2.1 加权求和与偏置
人工神经元的输入通常为一个向量 x = (x₁, x₂, …, xₙ)，每个输入对应一个权重 wᵢ。加权求和的结果为 *z* = Σ(wᵢ × xᵢ) + *b*，其中 *b* 为偏置项。偏置的作用是调整神经元的激活阈值，使模型能够更灵活地拟合数据分布，其本质是给线性变换增加一个可学习的偏移量。
2.2 激活函数
激活函数对加权求和结果 *z* 进行非线性变换，输出 *a* = *f*(*z*)。没有激活函数的神经元叠加重连则等同于单层线性模型，无法解决异或等非线性问题。
2.2.1 阶跃函数（Heaviside）
阶跃函数将输入映射为0或1：当 *z* ≥ 0 时输出1（兴奋），否则输出0（抑制）。优点在于直观简单，但不可导，无法用于基于梯度的优化，目前主要用于早期的M-P神经元模型或部分离散控制场景。
2.2.2 Sigmoid函数
Sigmoid函数为 *σ*(*z*) = 1 / (1 + e^(−*z*))，输出范围为(0, 1)，形状呈S形。它平滑可导，且具有“饱和”特性（两端梯度接近0），这在实际训练中容易导致梯度消失问题，因此在深层网络中逐渐被替代。
2.2.3 双曲正切函数（Tanh）
Tanh函数为 tanh(*z*) = (e^(2*z*) − 1) / (e^(2*z*) + 1)，输出范围为(−1, 1)，均值为0，比Sigmoid更利于优化。但它同样存在两端梯度饱和的缺陷，在深层网络中仍受梯度消失困扰。
2.2.4 修正线性单元（ReLU）及其变体
ReLU为 *f*(*z*) = max(0, *z*)，在正区间梯度恒为1，有效缓解了梯度消失，且计算简单。但存在“神经元死亡”问题：当 *z* < 0 时梯度为0，导致相应参数不再更新。
2.2.4.1 Leaky ReLU
Leaky ReLU在负区间引入一个小斜率 *α*（通常取0.01），即 *f*(*z*) = max(*αz*, *z*)。此举保留了负区间的梯度，缓解了神经元死亡问题，同时保留ReLU的正区间优势。
2.2.4.2 Parametric ReLU
Parametric ReLU（PReLU）将负区间的斜率 *α* 设为可学习参数，由模型自动更新。它在Leaky ReLU的基础上增加了灵活性，适用于图像分类等任务。
2.3 输出与损失计算
神经元的输出 *a* 可用于计算损失函数。例如在回归任务中使用均方误差，在分类任务中使用交叉熵。损失值衡量模型预测与真实标签的差距，是后续训练优化的基础。
3 训练过程
3.1 前向传播
前向传播指数据从输入层逐层经过神经元计算，最终得到预测输出的过程。每层神经元执行加权求和、加偏置、激活函数三步，最终输出层的值即模型对当前样本的预测。
3.2 误差反向传播
反向传播通过计算损失函数对各层权重的梯度，将误差从输出层反向传递至输入层，为权重更新提供方向。
3.2.1 链式法则求导
利用微积分中的链式法则，对复合函数求导：损失对某一权重的梯度等于损失对输出的偏导、输出对加权和的偏导、加权和对该权重的偏导三者连乘。反向传播逐层计算梯度，避免了重复计算。
3.2.2 梯度下降与学习率
获得梯度后，采用梯度下降法更新权重：w_new = w_old − η × ∇L。其中η为学习率，控制更新步长。学习率过大可能导致震荡不收敛，过小则训练缓慢。
3.3 权重更新与迭代
完整训练过程通常遍历整个数据集多次（即多个epoch），每次遍历时按小批量（mini-batch）更新权重。通过反复前向传播、反向传播、权重更新三个步骤，损失值逐渐下降，模型性能提升。
4 常见变体与扩展
4.1 感知机（单层神经元）
感知机是最早的人工神经网络模型（1958年），由单个人工神经元构成，使用阶跃激活函数。它只能解决线性可分问题（如与、或逻辑），无法处理异或问题，从而引发了第一次AI寒冬。
4.2 多层感知机中的神经元
多层感知机引入隐藏层，每个隐藏层神经元仍按加权求和+激活函数计算。层与层之间全连接，通过反向传播联合训练所有神经元参数，从而获得对非线性问题的拟合能力。
4.3 脉冲神经元（Spiking Neuron）
脉冲神经元模拟生物神经元的时间动态特性，通过离散的“脉冲”序列而非连续值传递信息。其输出为时间序列上的脉冲事件，更贴近生物神经系统的通信方式。
4.3.1 时间编码
在脉冲神经元中，信息通过脉冲发放的时间点进行编码。例如，输入信号越强，神经元发放脉冲的潜伏期越短；或者采用脉冲频率编码，频率越高代表信号强度越大。
4.3.2 脉冲时间依赖可塑性（STDP）
STDP是一种生物启发的学习规则：突触权重的变化取决于突触前后神经元脉冲发放的时间差。若突触前脉冲先于突触后脉冲，则权重增强；若顺序相反，则权重减弱。这种机制赋予脉冲网络自适应性，适用于神经形态计算。
5 应用领域
5.1 图像识别中的卷积神经元
卷积神经元只连接输入图像的局部区域，并使用共享权重（卷积核）提取空间特征。这种结构大幅减少了参数量，配合池化等操作，成为图像识别、目标检测等任务的标配。
5.2 序列建模中的循环神经元
循环神经元允许网络状态在时间步间传递，使模型能够处理序列数据。标准循环神经元存在梯度消失/爆炸问题，因此衍生出以下变体。
5.2.1 长短期记忆神经元（LSTM）
LSTM通过引入输入门、遗忘门、输出门和记忆单元，控制信息在时间维度上的流动。遗忘门决定丢弃哪些历史信息，输入门更新记忆，输出门控制最终输出。LSTM有效解决了长序列的梯度消失问题。
5.2.2 门控循环单元（GRU）
GRU是LSTM的简化版本，将遗忘门与输入门合并为“重置门”和“更新门”。参数量更少，训练速度更快，在多数任务中性能与LSTM相当。
5.3 生成模型中的神经元（如GANs）
在生成对抗网络中，生成器神经元的任务是学习真实数据分布以产生逼真样本，判别器神经元则区分真假。两者通过对抗训练，推动神经元参数协同优化，最终生成器可创造足以以假乱真的图像、文本等数据。
6 历史与发展
6.1 1943年：M-P模型
麦卡洛克和皮茨提出首个神经元数学模型——M-P模型，使用二进制输入和阶跃函数，证明了神经元可执行逻辑运算。这标志着神经网络理论的萌芽。
6.2 1958年：感知机与争议
罗森布拉特发明感知机，实现了可学习的单层神经网络。1969年明斯基的《感知机》一书指出其无法解决异或问题，导致研究资金锐减，神经网络进入第一次寒冬。
6.3 1980年代：反向传播复兴
1986年，辛顿、鲁梅尔哈特等人推广反向传播算法，成功训练多层感知机，解决了异或问题。这引发了神经网络研究的复苏，但受限于当时数据量和算力，应用仍有限。
6.4 2006年后：深度学习时代
2006年辛顿提出逐层预训练方法，2012年AlexNet在ImageNet竞赛中大获成功，开启了深度学习浪潮。GPU的并行计算、海量数据以及各类激活函数和优化算法的发展，使人工神经元成为现代人工智能的核心构件。
7 相关领域
7.1 人工神经网络
人工神经元是人工神经网络的单个节点，而人工神经网络是由大量神经元连接而成的系统。网络结构（层数、连接方式、激活函数组合）决定了其表达能力与应用范围。
7.2 深度学习
深度学习特指包含多层隐藏层的深层神经网络，其关键在于通过逐层非线性变换提取高层次特征。人工神经元作为浅层基础单元，在深层模型中被组合使用，使得网络能够解决更加复杂的问题。
7.3 计算神经科学
计算神经科学通过数学模型和计算机模拟研究生物神经系统的运作机制。人工神经元的设计灵感来自该领域的研究成果，同时人工神经网络的发展也反过来为理解大脑提供计算模型和假设。