EM收敛与局部最优 - Ciallo Wiki

1 EM算法与目标函数

EM（Expectation-Maximization，期望最大化）是一类用于含隐变量或缺失数据的参数估计迭代算法。其核心机制是在每次迭代中交替处理“隐变量的当前条件期望”和“在该期望下对参数的更新”，从而保证某个与当前模型相关的目标函数在迭代过程中不会下降。该性质使得EM在许多统计建模场景中具有稳定性，但也带来由模型结构与优化地形共同决定的局部最优风险与收敛行为差异。

1.1 隐变量模型与观测数据对数似然

考虑观测数据 \(x\) 与隐变量 \(z\)。模型参数记为 \(\theta\)。通常关注的是观测数据的边缘似然（或对数似然）： \[ \log p(x\mid \theta)=\log \sum_z p(x,z\mid \theta) \] 由于对数作用于求和项，直接最大化往往困难。EM通过引入隐变量的“条件分布”来重写优化过程，使得每次迭代可以转化为更易处理的两步更新。

1.2 E步与M步的数学形式

EM在第 \(t\) 次迭代时已知当前参数 \(\theta^{(t)}\)。其E步计算隐变量在给定观测与当前参数条件下的后验分布： \[ q^{(t)}(z)=p(z\mid x,\theta^{(t)}) \] 随后M步在该后验的引导下更新参数，使期望意义下的完整数据对数似然最大： \[ \theta^{(t+1)}=\arg\max_\theta \; \mathbb{E}_{q^{(t)}(z)}[\log p(x,z\mid \theta)] \] 在许多常见模型中，这一步可解析求解或通过数值优化完成。

1.3 ELBO/下界视角与单调改进机制

EM的单调性常用“下界优化”解释。以某个变分分布 \(q(z)\) 为工具，可以构造对数似然的下界（ELBO）： \[ \log p(x\mid \theta)\ge \mathcal{L}(q,\theta) \] 在E步中取 \(q^{(t)}(z)\) 为后验，使下界在当前 \(\theta^{(t)}\) 下达到紧（即与真实对数似然相接）。在M步中最大化 \(\mathcal{L}(q^{(t)},\theta)\)，从而使目标函数（通常对应对数似然或其紧下界）在迭代间不减。这种“先选使下界紧的分布，再在参数上增大下界”的结构，解释了EM为何往往表现为单调上升而不是震荡。

1.4 固定点、驻点与“收敛”的不同含义

“收敛”在EM语境中并不总是指参数的梯度为零的驻点。更常见的区分包括：

固定点（fixed point）：若 \(\theta^{*}\) 满足一次EM更新后仍为自身，即 \(\theta^{*}= \text{EM}(\theta^{*})\)。
驻点（stationary point）：指目标函数在优化意义上的驻点，例如对数似然梯度为零（在可微条件下）。
迭代序列稳定（sequence convergence）：\(\theta^{(t)}\) 收敛到某个极限或呈现可重复的循环/平台。

在很多标准条件下，EM固定点与目标函数驻点之间存在紧密联系，但具体模型、约束、以及数值实现方式会影响两者的严格对应关系，因此讨论“收敛到什么”比单纯说“似然上升”更重要。

2 收敛性基础

研究EM的收敛，需要同时回答：单调性来自哪里、在什么条件下能保证收敛、以及收敛到的对象是什么。由于EM属于迭代优化算法，其理论往往依赖连续性、可积性与模型可辨识性等概念层面的假设。

2.1 单调性与界函数（下界）存在性

当ELBO下界存在且在每一步更新都能提高下界时，便有单调不减性质。更具体地，E步选择后验使得下界与对数似然“贴合”，而M步做下界最大化，因此下一轮迭代的下界不会下降。若对数似然在参数空间上有上界或期望得到控制，则序列往往能够被“夹住”而趋于稳定。

2.2 收敛条件：连续性、可积性与可辨识性（概念层面）

常见的收敛讨论会涉及：

连续性：确保更新映射对参数的小扰动不会导致目标函数突变，从而避免数值跳跃。
可积性/界可控：保证期望项（如 \(\mathbb{E}[\log p(x,z\mid\theta)]\)）在迭代中是良定义且不会发散。
可辨识性（identifiability）：当不同参数导致同样的分布时，算法可能在“等价表示”之间漫游，形成平台或非唯一解。

这些条件并非每个都在直观层面可直接检验，但它们体现了：模型结构是否允许“唯一解释”数据，以及更新过程中统计量是否稳定可计算。

2.3 收敛到固定点还是驻点

在较理想的光滑与正则条件下，EM的固定点通常对应于对数似然的驻点或与其等价的临界结构；然而在存在约束、非光滑点、或模型存在退化时，这种对应可能变弱。于是实际分析常采用以下视角之一：

研究“迭代映射”的不动点性质，得到固定点解释；
研究“目标函数”的一阶条件，得到驻点解释；
在更一般设置下使用“下降/上升界 + 变分关系”推断临界性。

在工程实践中，最直观的判据是似然增量趋近于零或参数变化幅度下降，但这只能表明“迭代已近似停止”，与理论上的驻点或固定点仍需区分。

2.4 停机准则：对数似然增量、参数变化与梯度残差

EM常用停机准则包括：

对数似然增量：若 \(\log p(x\mid\theta^{(t+1)})-\log p(x\mid\theta^{(t)})\) 小于阈值，则停止。

2. 参数变化：比较 \(\\|\theta^{(t+1)}-\theta^{(t)}\\|\) 或其相对比例，判断是否进入平台。

梯度残差：在可计算情况下评估对数似然或下界的梯度范数是否足够小。

实际选择往往折中：似然评估可能计算昂贵，参数变化可能受尺度影响，梯度残差需要可微与额外计算。多数实现会结合多个指标，以降低“看似收敛但实际上仍在缓慢漂移”的风险。

3 局部最优与初值敏感性

EM的单调性不等同于全局最优。由于目标函数一般是非凸的，EM可能在局部极大或鞍点邻域附近停滞。理解“为何会停在局部结构附近”以及“初值如何改变结局”，是该算法在建模应用中必须面对的主题。

3.1 局部极大、鞍点与平台区的区别

在优化几何上，常见的停滞来源包括：

局部极大：目标在周围方向下降，但在某些方向可能更复杂；EM可能在其附近逐渐变慢。
鞍点：某些方向上上升、另一些方向上下降；由于EM的更新方式与下界结构，可能导致迭代在鞍点附近“进不去也退不出”。
平台区：当目标曲面在某些方向变化很弱，似然增量与参数变化都可能很快变小，形成“看似收敛”的假象。

区分这些情况有助于选择合适的诊断手段与改进策略。

3.2 为什么EM可能停在局部最优附近

EM的每步更新是在“当前后验固定”条件下优化下界。若当前参数落在某个吸引域内，下界的最大化会把迭代推回该局部结构附近。换言之，EM不直接沿着全局最陡上升方向优化，而是沿着由隐变量后验定义的可优化结构前进。于是当目标函数存在多个“盆地”或“弱区”时，迭代容易被困在其中。

此外，若模型包含隐变量对参数的非线性耦合，后验会出现强偏置，进一步导致更新步对全局地形的探索不足。

3.3 初值策略对结果的影响

初值 \(\theta^{(0)}\) 决定了后验 \(p(z\mid x,\theta^{(0)})\) 的初始形态，从而决定后续的更新路径。不同初值可能导致：

收敛到不同的局部极大；
收敛速度差异显著；
产生明显的退化解或数值不稳定。

因此实践中常采用多重初始化，并对多个结果进行目标函数比较或采用约束以减少不合理解。

3.4 退化情形：数值问题与非唯一解（如标签置换）

退化常见于两类情形：

数值退化：例如某些参数导致方差趋近零、概率密度高度尖锐，进而使对数项出现极端值；若实现中缺少防护（如下限截断、正则项），迭代可能失稳或“看似收敛但泛化较差”。
非唯一解：当模型具有对称性时，不同参数表示同一分布。以混合模型为例，分量标签可以互换（标签置换）而不改变整体分布。于是参数收敛到“等价族”的不同成员并不表示算法错误。

这些现象会影响“比较多个初始化的好坏”方式：需比较模型的边缘似然或分布层面的拟合，而不是盯着参数表面差异。

4 收敛速度与迭代行为

收敛速度受局部曲率、噪声结构与模型参数化方式影响。EM通常在远离最优区域时可能进展相对明显，但在接近固定点后趋于变慢。对迭代轨迹的诊断与对加速的理解，能显著提升实际效果。

4.1 一般收敛速度分类（直观比较）

在直观层面，EM的收敛速度常呈现以下规律：

早期阶段：似然增长较快，参数快速重排以形成合适的隐变量解释。
中后期：似然增量逐步减小，迭代步幅收缩。
接近固定点：可能进入慢速收敛，甚至在平台区表现为“长时间几乎不动”。

在一些模型中，可见接近极限时的收敛阶数并不如直接梯度法那样乐观，因此常需要额外策略。

4.2 何时出现慢收敛：曲率、方差坍缩与强相关

慢收敛常与以下因素有关：

局部曲率不利：目标曲面在某些方向上变化很弱，更新对这些方向的推进能力有限。
方差坍缩趋势：当模型允许某些成分方差变得很小，后验会极端偏置，导致有效更新信息减少。
强相关结构：隐变量与参数之间高度耦合时，EM的后验固定机制可能造成更新方向“绕行”，使得每轮提升幅度变小。

这些因素会使得似然增量在较多迭代后才达到阈值。

4.3 相关诊断：监控目标函数与参数轨迹

实务中常用诊断包括：

目标函数曲线：观察对数似然增长是否进入近似线性缓慢上升或几乎停滞。
参数轨迹：检查某些参数是否快速稳定而另一些仍缓慢漂移。
后验分配变化：在含类别/聚类的场景，监控各隐变量分配的熵或分布形状是否逐渐“变尖”并长期不再变化。

若出现似然虽单调但增长极慢，可能需要考虑加速或改模型参数化。

4.4 加速思想概览：阻尼、准牛顿与变体（方法学层面）

为缓解EM固有的慢速问题，常见加速方向包括：

阻尼（damping）：对更新进行混合，避免更新过度或过保守造成的低效率，同时让迭代更平滑。
准牛顿/二阶近似：利用近似曲率信息改良步的尺度或方向，提高局部推进效率。
变体算法：如在下界框架下加入更灵活的优化步骤，使得每轮提升更有效率。

这些方法通常在保持稳定性的同时改善收敛速度，代价是实现复杂度上升或需要额外超参数。

5 改进与工程实践

EM的理论保证与实际性能之间存在差距。工程实践强调稳定性、可重复性与结果质量，因此常结合初始化、正则化、模型结构调整，以及与其他优化思路的互补。

5.1 多重初始化与结果聚合

多重初始化的基本流程是：从多个初始参数出发运行EM，每次迭代使用相同停机准则，最终选取对数似然最大的结果，或进行加权/聚类式聚合（在存在对称性的情况下先做等价对齐）。该策略能够显著降低初值导致的偶然失败概率。

5.2 正则化与约束：稳定性与泛化的权衡

正则化通常用于两类目的：

防数值退化：例如限制方差下界、限制权重极端化，避免出现“某分量把所有点都解释掉且方差趋零”的不合理解。
提升泛化：加入先验或惩罚项，使参数估计不只拟合训练样本，也更稳健。

代价是偏差增大，因此需要在稳定性与模型表达之间权衡。

5.3 模型设定调整：简化/重参数化的效果

当EM表现不佳，可能与模型参数化方式有关。通过简化结构或引入更适合的参数化（例如减少冗余自由度、改用更稳定的统计量表示），可以让后验分布更平滑、更新更有效。重参数化的目标通常是改善数值条件，使得期望与最大化步骤不至于频繁遭遇极端值。

5.4 与其他方法的对照：梯度法、变分法的互补性

EM与梯度法、变分法并非互斥关系：

梯度法：适合直接对对数似然进行优化，但可能需要较多步与合适学习率。
变分法：在下界框架下更灵活，可能提供更细致的近似控制。
EM：以单调性和稳定迭代见长，尤其当E步后验计算可行时。

实践中也可采用“EM预训练 + 梯度精修”或“变体下界优化加速”等组合策略。

6 例子与直观图景（概念性）

以下以常见场景帮助理解“收敛到哪里、为何会慢、失败通常长什么样”。重点放在概念层面的现象，而非特定模型的严格推导。

6.1 高斯混合模型中的EM：局部最优的常见来源

在高斯混合模型中，隐变量通常表示每个样本属于哪个分量。局部最优常来自：

初始分量位置与真实簇差异较大，导致EM先把数据“硬分配”到错误分量，再难以纠正；
分量间重叠程度影响后验的清晰度，使得更新信息不足；
方差趋小带来的退化（若无正则或约束），会制造对数似然的极端峰值。

这些因素共同决定了EM为何会在某些局部结构中停留或出现异常。

6.2 隐含变量分类任务中的收敛现象

在含隐分类变量的模型中，后验的“尖锐程度”往往决定收敛速度：后验越极端，E步产生的期望越接近硬分配，M步更新可能迅速改变某些参数但整体提升变小，从而进入慢速阶段。若后验长期接近随机（高熵），则参数更新幅度也会降低，形成另一类停滞。

6.3 失败案例的“症状表”与排查思路

典型症状包括：

似然单调但几乎不升：可能是初值不佳或模型过于复杂导致更新受限。
似然上升很快但泛化差：可能存在退化解或过拟合，需检查正则与约束。
数值发散或出现NaN：常与方差下界、概率计算下溢/上溢有关，需要检查实现细节与数值稳定处理。

排查时通常从三处入手：数据预处理、初值策略与数值防护；再考虑模型结构与正则项。

6.4（轻松梗）“差一点就全局最优”：为什么EM不许你走捷径

EM的“捷径”错觉通常来自单调性：似然一次次上升，于是看起来“已经快到全局最优了”。但优化地形本就不是单调的全局旅程——EM每次只在当前后验确定的下界里加码，因此它能保证的是“不退步”，而不是“总能走到最高峰”。所以当你觉得“差一点就全局最优”，往往意味着你已经到达了某个吸引域中的局部高点：再坚持下去可能只是慢慢贴边，而不是跨越到另一座更高的山头。

7 术语与常见误解

该部分用于澄清读者在理解收敛与最优性时最常踩的坑，并梳理相关概念的正确使用方式。

7.1 “单调不减 ≠ 全局最优”的澄清

EM保证的是某个目标（通常是对数似然或紧下界）在迭代间不下降。单调不减并不排除早早进入局部极大：一旦被困在较低峰值附近，后续只会继续“往上爬一点点”，但不会跳到全局峰顶。因此评价结果时应区分“改进发生了”与“改进足够好”。

7.2 “收敛到最优”与“收敛到驻点”的差别

很多人把“迭代停止”直接等同于“找到最优解”。然而停机准则可能只表明增量很小，未必意味着全局最优；即使接近驻点，也可能是局部极大或鞍点附近。只有在额外条件（例如凸性或全局性质）成立时，驻点才可进一步保证最优性。

7.3 目标函数含义：对数似然、下界与等价性

在EM理论表述中经常同时出现对数似然与ELBO下界。两者在E步选择后验后会出现紧关系，使得最大化下界等价于改进对数似然。但在具体推导是否严格等价、数值实现是否使用了近似，取决于模型与实现方式。因此更安全的理解是：EM在下界框架中进行迭代改进，而目标函数的“可替代性”需要结合具体设定。

7.4 何时需要重新建模而不只是换初值

当反复多初始化后结果差异仍很大，或似然虽提升但表现一直不稳定，可能说明问题并非只是初值选得不够好，而是模型结构与数据机制不匹配。例如：

模型表达能力不足或假设过于强；
隐变量设计导致不可辨识或严重退化；
缺失数据机制或噪声假设不合理。

此时继续调初值只是“在错误盆地里找更合适的位置”。更合适的做法往往是调整模型设定、引入约束或重设计隐变量结构。