1 历史与发展
马尔可夫链蒙特卡洛的形成，建立在蒙特卡洛随机模拟与马尔可夫链理论两条线索的交汇之上。前者解决“如何用随机数近似计算”的问题，后者提供“如何让随机过程稳定地指向某一分布”的数学框架。两者结合后，复杂积分、概率分布采样和后验推断等问题获得了可操作的数值路径。
1.1 蒙特卡洛方法的起源
蒙特卡洛方法最初源于以随机试验求解数值问题的思想，其名称常与20世纪中叶的计算研究联系在一起。早期应用多见于统计物理、核科学和工程计算，用随机抽样代替直接求积或枚举，从而处理解析方法不易应对的复杂系统。随着电子计算机的发展，这类方法逐渐从实验性技巧演化为成熟的数值工具。
1.2 马尔可夫链理论的发展
马尔可夫链理论起源于对随机序列依赖关系的研究，其核心特征是“下一步状态只依赖当前状态”。这一性质使得复杂随机过程可以通过转移规则逐步构造。随着遍历性、平稳分布和收敛理论的发展，马尔可夫链不仅成为概率论的重要分支，也为后来的随机模拟算法提供了可证明的理论基础。
1.3 MCMC 的提出与普及
MCMC 的关键突破在于，将目标分布嵌入一个可模拟的马尔可夫链中，再利用链的长期样本近似目标分布。早期相关思想在统计物理中已出现，之后随着 Metropolis 算法、Gibbs 采样等方法的系统化，MCMC 迅速扩展到统计推断领域。其普及与计算能力提升密切相关，也与贝叶斯方法在实际问题中的广泛采用直接相连。
1.4 现代贝叶斯计算中的角色
在现代贝叶斯分析中，MCMC 常被视为核心计算引擎之一。许多模型的后验分布无法写出封闭形式，或即使能写出，也难以直接积分求边际量、可信区间和预测分布。MCMC 通过生成样本序列，使复杂后验推断转化为统计估计问题，因此在实务建模、层次模型和高维参数估计中占据重要地位。
2 基本概念
MCMC 的理解建立在概率分布、随机采样与马尔可夫链的基本语言之上。其目标不是直接求出分布的解析表达，而是借助样本近似地恢复分布特征，如均值、方差、分位数和尾部行为。
2.1 概率分布与随机采样
概率分布描述随机变量取值的规律，而随机采样则是从该规律中生成样本的过程。若分布简单，采样通常较为直接；若分布具有高维、相关性强或归一化常数未知等特点，直接抽样便会变得困难。MCMC 的价值就在于为这类目标分布提供间接采样方案。
2.2 马尔可夫链
马尔可夫链是一种离散时间随机过程，其演化遵循当前状态决定下一状态的原则。它不要求每一步都独立，相反正是通过局部依赖累积出全局分布特征。
2.2.1 状态空间
状态空间是马尔可夫链可能取值的集合，可以是离散集合，也可以是连续空间。对于 MCMC 而言，状态往往对应参数向量、隐变量配置或系统微观状态。状态空间越复杂，越需要依靠构造良好的转移机制来探索。
2.2.2 转移概率
转移概率描述从一个状态跳到另一个状态的可能性。它决定了链的运动方式，也决定了样本在状态空间中的覆盖效率。合理设计转移概率，是构造有效 MCMC 算法的关键环节。
2.2.3 平稳分布
平稳分布是指在链的转移作用下保持不变的概率分布。若某个马尔可夫链以目标分布为平稳分布，并且满足适当条件，则链在长时间运行后可近似反映该目标分布。MCMC 的基本思路正是让“想要抽样的分布”成为这种稳定极限。
2.3 蒙特卡洛积分
蒙特卡洛积分利用样本均值近似积分结果。若能够从某个分布中抽得样本，则积分可转化为期望估计。MCMC 中的样本通常不是独立同分布，但在满足收敛与遍历条件时，样本均值仍可用来逼近目标量。
2.4 目标分布与近似推断
目标分布通常指研究者真正关心的概率分布，例如贝叶斯后验分布或某个高维模型的隐状态分布。近似推断则是用数值方法替代解析求解。MCMC 的作用，在于用可生成的样本序列提供对目标分布的近似认识，从而估计难以直接计算的统计量。
3 核心原理
MCMC 的核心在于构造一个“容易模拟、长期又服从目标分布”的随机过程。算法的每一步都可能只进行局部修改，但经过足够长的迭代后，整体样本会逐渐呈现目标分布的特征。
3.1 构造平稳分布的马尔可夫链
构造 MCMC 的首要任务，是设计转移规则，使目标分布成为平稳分布。常见做法包括满足详细平衡条件，或采用其他保证稳定性的设计。只要链的结构恰当，起始位置并不决定最终分布，只影响前期过渡阶段。
3.2 通过样本逼近分布性质
MCMC 不直接给出分布的封闭表达，而是借助大量样本估计期望、概率和区间等性质。例如，可用样本均值近似后验均值，用样本分位数构造可信区间。对于复杂模型，这种“以样本代替公式”的方法通常更可行。
3.3 相关性与样本独立性
MCMC 产生的样本通常彼此相关，这是其与独立抽样的重要区别。相关性并不意味着样本无用，但会降低信息增量，使得少量样本的有效价值下降。因此，链的混合程度和样本间相关强弱，是评价算法质量的重要因素。
3.4 长期收敛与遍历性
长期收敛指链在足够迭代后，其分布接近目标分布。遍历性则意味着时间平均可代表分布平均，是样本均值有效性的理论基础。对 MCMC 来说，收敛保证“走到正确的地方”，遍历性保证“在那里取样有代表性”。
4 常见算法
MCMC 并非单一算法，而是一系列共享思想的采样技术。不同方法在提议机制、接受规则、变量更新方式和对梯度信息的利用上各有特点。
4.1 Metropolis 算法
Metropolis 算法是最经典的 MCMC 方法之一。它通过从当前状态提出候选点，并按一定概率决定是否接受，从而形成满足目标分布的随机游走过程。该方法结构简洁，具有重要的历史地位。
4.2 Metropolis-Hastings 算法
Metropolis-Hastings 算法是 Metropolis 方法的推广，适用于更一般的提议分布。它允许候选生成过程具有方向性，从而在更复杂的状态空间中实现灵活采样。
4.2.1 提议分布
提议分布决定从当前状态生成候选状态的方式。它的选择直接影响链的效率：步长过小会导致移动缓慢，步长过大则可能频繁被拒绝。好的提议分布应在探索范围与接受率之间取得平衡。
4.2.2 接受-拒绝机制
接受-拒绝机制用于校正提议分布与目标分布之间的差异。即使候选点由较简单的规则产生，只要接受概率设计合理，最终得到的样本仍可服从目标分布。该机制是 MCMC 能够“借助简单模拟实现复杂抽样”的关键。
4.2.3 对称与非对称提议
当提议分布对称时，接受概率形式较为简洁；若提议分布非对称，则需额外考虑前向与反向跳转的比例。非对称提议虽然公式更复杂，但在许多问题中更便于贴合目标分布结构，因而在效率上可能更有优势。
4.3 Gibbs 采样
Gibbs 采样通过依次更新各个变量或变量块的条件分布来生成样本。它特别适合条件分布易于抽取的模型，常见于层次模型、潜变量模型和图模型。
4.3.1 条件分布更新
在 Gibbs 采样中，每一步都固定其他变量，仅对某一变量按其条件分布抽样。这样做的好处是局部计算简单，且无需构造复杂的整体提议分布。若各条件分布都可方便采样，该方法通常十分高效。
4.3.2 块更新与逐分量更新
块更新一次更新一组相关变量，逐分量更新则按坐标顺序依次调整单个变量。前者更利于处理强相关结构，后者实现较为直接。实际应用中，更新方式的选择常取决于模型耦合程度和计算代价。
4.4 Hamiltonian Monte Carlo
Hamiltonian Monte Carlo 借助物理中的哈密顿动力学思想，通过引入辅助变量和模拟轨迹来提高高维采样效率。它尤其适用于连续参数空间，并能缓解传统随机游走方法步子小、相关性强的问题。
4.4.1 动量变量
动量变量是 HMC 引入的辅助随机量，用于扩展状态空间。它与位置变量共同构成系统状态，使采样过程具有更稳定的运动趋势。借助这一设计，链可以在较远距离上保持较高接受率地移动。
4.4.2 梯度信息利用
HMC 通过目标分布的梯度信息引导采样方向，使搜索不再完全依赖盲目试探。梯度能够告诉算法“往哪里更可能有高概率质量”，因此在高维问题中通常比纯随机游走更有效。
4.4.3 数值积分与轨迹模拟
HMC 需要通过数值积分近似模拟连续动力学轨迹。积分步长和轨迹长度会影响精度与效率：步长过大可能破坏能量守恒，过小则增加计算开销。因而这类方法对数值实现要求较高。
4.5 其他变体
除经典算法外，MCMC 还发展出多种与特定问题结构相适配的变体，以提高采样效率或增强对复杂分布的适应能力。
4.5.1 Slice sampling
Slice sampling 通过引入辅助变量，将对复杂密度的抽样转化为在“水平切片”上选点。其优点是通常较少依赖复杂提议分布，使用上较为直观，尤其适合一维或低维局部结构较复杂的问题。
4.5.2 Rejection sampling 的对比关系
拒绝采样直接从易采分布中生成候选，再按某种条件筛选样本；而 MCMC 则通过状态转移形成依赖样本序列。前者得到独立样本，但在高维或复杂目标下往往效率低下；后者样本相关，却更适合难以包络的目标分布。
4.5.3 Annealed / Sequential Monte Carlo
退火或序贯蒙特卡洛方法通过逐步改变目标分布或递推更新权重，在更复杂的采样任务中提升稳定性。它们常被视为与 MCMC 相关的扩展框架，尤其适用于多峰分布、动态系统和在线推断场景。
5 收敛性与理论性质
MCMC 的理论分析主要关注链是否能够稳定到目标分布，以及这种稳定过程在有限样本下带来何种误差。收敛并非只看“跑得久不久”，还涉及状态空间结构、转移机制和样本相关性。
5.1 不可约性
不可约性意味着链有能力从任意状态到达状态空间中的相关区域。若链被限制在某个局部子集内，就难以全面反映目标分布。对于复杂模型，这一性质是避免“采样卡在一角”的基本要求。
5.2 非周期性
非周期性要求链不会以固定节律机械循环。若状态转移存在严格周期，长期样本的代表性会受到影响。实际算法通常会通过随机接受或多样化转移机制来避免这种问题。
5.3 正再生性
正再生性刻画链回到某些状态区域的时间行为，反映其长期稳定程度。结合不可约性和非周期性，这一性质有助于保证链存在唯一平稳分布，并支持后续的收敛分析。
5.4 遍历定理
遍历定理说明，在合适条件下，时间平均可以逼近期望值。对 MCMC 而言，这意味着只要链运行足够长，样本均值就能近似目标分布下的数学期望。这是 MCMC 能用于数值积分与统计估计的理论核心。
5.5 误差与偏差分析
MCMC 的误差来源包括有限样本误差、链相关性带来的方差膨胀，以及尚未充分收敛时的偏差。分析这些误差有助于判断结果可信度，也帮助解释为什么“样本很多”并不总等于“估计很准”。
5.6 Burn-in 与初始化影响
Burn-in 指采样初期用于“热身”的迭代阶段，通常在分析时被舍弃。初始化点若离高概率区域较远，前期样本可能带有明显偏差。Burn-in 的设置并无统一标准，通常需结合模型结构、链的混合情况和实际诊断结果判断。
6 计算实现
MCMC 的实际效果不仅取决于理论设计，也强烈依赖实现细节。更新策略、提议机制和参数设定都会影响采样效率与数值稳定性。
6.1 状态更新策略
状态更新策略决定变量是同时更新还是分步更新，是否采用局部块，是否引入辅助变量等。不同策略在计算量和混合速度上差别明显。对于强相关参数，合适的分块方式往往能显著改善表现。
6.2 提议分布的选择
提议分布需要兼顾可实现性与探索能力。过于保守会导致样本黏滞，过于激进则增加拒绝概率。实际中常依据经验、预实验或自动调节方法选择提议结构，并针对不同参数维度分别设定尺度。
6.3 参数调优
参数调优包括步长、轨迹长度、提议方差、更新顺序等设置。许多 MCMC 算法对这些参数较敏感，尤其在高维情况下更明显。良好的调参通常能明显提高接受率、降低自相关并改善总体效率。
6.4 采样效率与链长设计
链长设计需要在计算预算与估计精度之间取得平衡。样本数不足会导致统计量波动较大，而过长则可能消耗大量算力。评价链长通常不能只看迭代次数，还要结合有效样本量、收敛情况和目标统计量的重要性。
6.5 并行化与加速方法
MCMC 的并行化可以体现在多链并行运行、局部更新并行计算、梯度评估加速等方面。某些算法天然更适合现代硬件环境，例如在向量化计算和批量梯度场景中表现更好。加速技术通常旨在减少单次迭代成本或提高整体信息利用率。
6.6 数值稳定性问题
数值实现中常见的问题包括下溢、上溢、浮点误差和梯度计算不稳定。对于高维或尖峰分布，似然比和接受概率的计算尤其容易出现数值困难。工程上常借助对数形式、重参数化和稳定的矩阵运算加以处理。
7 诊断与评估
MCMC 输出的样本序列并不自动意味着结果可靠，必须通过诊断工具检查收敛、相关性和混合情况。评估的重点是判断链是否真正代表目标分布，以及结果误差是否可接受。
7.1 收敛诊断
收敛诊断旨在观察链是否进入稳定阶段，并评估不同初值下的样本是否趋于一致。常见做法包括图形诊断与统计量检测相结合。
7.1.1 Trace plot
Trace plot 是将样本值随迭代次数绘制出来的轨迹图。它能直观显示链是否出现漂移、卡顿或频繁跳跃。若轨迹在稳定区域内上下波动且覆盖较均匀，通常被视为较好的信号。
7.1.2 自相关分析
自相关分析衡量样本之间的时间依赖程度。高自相关意味着相邻样本提供的信息高度重叠，实际有效信息较少。通过观察自相关衰减速度，可以粗略判断链的混合快慢。
7.1.3 Gelman-Rubin 统计量
Gelman-Rubin 统计量通过比较多条链的链内方差与链间方差，评估是否已达到相近分布。若多链从不同初始点出发，最终表现一致，则说明收敛的可能性更高。该指标常用于多链诊断场景。
7.2 有效样本量
有效样本量是衡量相关样本“相当于多少独立样本”的指标。它反映了链中信息冗余的程度，数值越高，说明同样迭代次数下可用于统计推断的实际信息越多。该指标常被用于比较不同算法的实际效率。
7.3 混合速度
混合速度描述链在状态空间中扩散并覆盖目标分布的快慢。混合快的链能更快访问不同区域，较少陷入局部停留。对多峰分布或强相关模型而言，混合速度往往是决定算法成败的关键因素之一。
7.4 采样偏差检测
采样偏差检测关注样本是否系统性偏离目标分布。若链长期停留于某些区域、对某些状态访问不足，估计结果可能明显失真。此类问题常通过分布比较、重采样检验或模型预测一致性检查来发现。
7.5 多链比较
多链比较通过运行多条独立链观察其结果一致性。若不同链最终给出相近的统计量和分布图形，通常说明采样较为稳定。多链策略也有助于揭示单链可能忽略的局部陷阱。
8 应用领域
MCMC 的应用范围极广，几乎覆盖所有需要对复杂概率模型进行推断的场景。其优势在于将抽样问题转化为通用的算法问题，因而可以嵌入不同学科的建模流程中。
8.1 贝叶斯统计
在贝叶斯统计中，MCMC 几乎是处理复杂后验推断的标准工具之一。它可以支持参数估计、模型选择和预测分析等多种任务。
8.1.1 参数估计
通过 MCMC 得到后验样本后，可以直接计算参数的后验均值、中位数、区间估计等。对于层次模型和高维参数系统，这种方式比传统解析推导更灵活。
8.1.2 模型比较
模型比较常涉及边际似然、后验概率或信息准则等量。MCMC 生成的样本能够帮助近似这些量，从而支持不同模型之间的相对评估。实际应用中，模型比较往往与预测性能一起考虑。
8.1.3 后验预测
后验预测利用后验样本对未来观测进行模拟，评估模型的预测能力与不确定性。它不仅给出单点预测，还能形成预测区间和分布形态，是贝叶斯分析的重要组成部分。
8.2 机器学习
在机器学习中，MCMC 常用于概率建模、隐变量推断和不确定性量化。它为复杂模型提供了比点估计更丰富的后验信息。
8.2.1 概率图模型
概率图模型中的节点依赖结构复杂，MCMC 可用于对隐藏状态和参数进行联合采样。尤其在图结构较大、局部条件分布明确时，Gibbs 类方法很常见。
8.2.2 潜变量模型
潜变量模型依赖不可观测变量解释数据生成过程。MCMC 能够在潜变量与参数之间交替采样，从而完成完整的数据解释与推断任务。此类模型常见于主题模型、混合模型和因子分析等场景。
8.2.3 神经网络中的贝叶斯推断
在神经网络的贝叶斯化处理中，MCMC 可用于参数后验采样，以获得模型预测的不确定性表达。由于网络参数规模通常很大，这类应用对算法效率与数值稳定性提出了较高要求。
8.3 物理与化学模拟
MCMC 在物理与化学中常用于研究系统的平衡态性质、构型分布和统计行为。其思想与粒子系统、能量面搜索以及热平衡模拟密切相关。
8.3.1 统计物理
统计物理中的许多问题需要对大量微观状态进行加权平均。MCMC 能在不显式枚举所有状态的前提下，近似计算热力学量和相变相关性质，因此应用十分广泛。
8.3.2 分子动力学相关问题
在某些分子体系分析中，MCMC 可用于构型采样或自由能估计等任务。它与分子动力学并不相同，但在处理复杂能量景观时常具有互补关系。两者结合时，往往能更有效地探索罕见状态。
8.4 生命科学与医学
在生命科学与医学研究中，MCMC 常用于处理带不确定性的统计模型，尤其适合样本量有限或变量关系复杂的情形。
8.4.1 生物信息学
生物信息学中的序列分析、谱系推断和结构建模，常需要面对高维且噪声较强的数据。MCMC 可以帮助估计隐含参数与不确定区间，从而提升推断的稳健性。
8.4.2 流行病学建模
流行病学模型中常含有传播参数、观测误差和未观测状态。MCMC 能在这些复杂结构下进行后验推断，支持风险评估和情景模拟。其结果通常用于辅助理解模型不确定性，而非替代数据本身。
8.5 金融与工程
在金融与工程领域，MCMC 常用于风险建模、参数校准、可靠性分析和不确定性传播。对于结构复杂、误差来源多样的问题，MCMC 能提供较完整的概率描述。
9 优势与局限
MCMC 的地位之所以重要，源于它在可用性与适应性之间取得了很好的平衡。但它并非万能工具，实际使用中既有显著优点，也有明显限制。
9.1 优势
9.1.1 适用于复杂高维分布
MCMC 不要求目标分布具有简单的解析形式，因此尤其适合高维、非标准或多峰分布。只要能构造合适的转移机制，许多看似难以抽样的问题都能被转化为可计算任务。
9.1.2 理论基础较强
MCMC 具备较完善的概率论和马尔可夫链理论支撑，收敛性、遍历性和误差分析均有明确的研究基础。这使它不仅能“做出结果”，也能在一定程度上解释结果为何可信。
9.1.3 灵活性高
MCMC 可与多种模型结构结合，包括层次模型、隐变量模型和动态模型。不同算法可按问题特点定制，因此在方法论上具有较强的适配能力。
9.2 局限
9.2.1 计算成本较高
MCMC 往往需要大量迭代才能获得足够稳定的估计，尤其在高维或复杂模型中，单次迭代的成本也可能较大。若每一步都要计算昂贵的似然或梯度，整体开销会更加明显。
9.2.2 收敛速度可能较慢
某些问题中链会出现缓慢混合、局部停留或跨模态困难，导致达到稳定分布的时间较长。这使得 MCMC 在大规模或实时任务中并不总是首选方案。
9.2.3 调参依赖经验
虽然有不少自动化策略，但许多 MCMC 方法仍需要人工选择步长、提议结构和更新顺序。经验不足时，算法可能表现不佳，甚至给出看似平稳却实际质量不高的结果。
9.2.4 相关样本带来的信息冗余
由于样本间通常存在相关性，表面上大量输出并不等于独立信息充足。若忽略这一点，容易高估结果精度。有效样本量往往比原始迭代数更能反映真实信息含量。
10 相关概念与比较
MCMC 与多种随机数值方法和统计推断技术密切相关。理解其区别，有助于明确它在数值计算体系中的位置。
10.1 与传统蒙特卡洛方法的关系
传统蒙特卡洛方法通常依赖独立抽样，而 MCMC 则通过马尔可夫依赖生成样本。两者都用于随机模拟和积分估计，但 MCMC 更适合难以直接独立采样的目标分布。可以说，MCMC 是蒙特卡洛思想在复杂分布场景中的延伸。
10.2 与重要性采样的比较
重要性采样通过权重修正从易采分布得到目标估计，而 MCMC 通过构造链直接生成目标分布附近的样本。前者在权重不稳定时容易出现方差过大，后者则会受到样本相关性的影响。二者各有优势，适用场景并不完全相同。
10.3 与变分推断的比较
变分推断把推断问题转化为优化问题，通过寻找一个易处理的近似分布来逼近目标后验。相比之下，MCMC 更偏向随机模拟，通常能给出更直接的分布样本，但计算成本可能更高。前者强调速度，后者强调近似质量与分布信息完整性。
10.4 与优化算法的区别
优化算法关注寻找函数的极值点，而 MCMC 关注从概率分布中抽样。尽管某些采样方法借用了优化中的梯度或数值积分技术，但两者目标并不相同：一个追求“最好点”，一个追求“整片分布”。
10.5 与随机过程的联系
MCMC 本质上就是一种特殊的随机过程，其状态演化遵循概率规律。它与随机游走、扩散过程和其他随机动力系统之间存在密切联系。正是这种随机演化的结构，使其能够将复杂静态分布转化为动态采样问题。