1 基本概念
1.1 定义与核心思想
Hamiltonian Monte Carlo，简称 HMC，中文常称“哈密顿蒙特卡洛”，是一类用于随机采样的算法。它以哈密顿动力学为灵感，把目标概率分布视作一个能量地形，在其中引入辅助动量变量，再通过模拟粒子运动轨迹来生成新样本。
与直接在参数空间中随机跳跃不同，HMC 借助梯度信息沿着更有方向性的路径移动，因此通常能够更高效地穿越高维空间。其基本目的，是在尽量保持正确分布的前提下，减少采样之间的强相关性。
1.2 与传统蒙特卡洛方法的区别
传统蒙特卡洛方法多依赖独立抽样或简单随机游走，前者要求分布形式足够简单，后者则容易在高维问题中出现“走得慢、重复多”的情况。HMC 的特点在于，它不是单纯依赖随机扰动，而是结合了确定性的动力学演化与随机接受机制。
这种设计使得样本更容易朝着目标分布的高概率区域移动，并减少无效往返。相较于普通随机游走型马尔可夫链方法，HMC 往往能在更少迭代中获得更高质量的样本。
1.3 适用问题类型
HMC 主要适用于连续型参数的采样任务，尤其是在分布形状复杂、维度较高、变量之间关联明显时表现较好。它在贝叶斯推断、参数估计和概率建模中应用广泛。
1.3.1 高维连续参数空间
在高维空间中，随机游走常因维度增加而效率下降。HMC 通过使用梯度信息来引导移动方向，因而更适合处理维度较高的连续变量问题。
1.3.2 复杂后验分布
对于形状弯曲、尺度差异明显或局部结构复杂的后验分布，HMC 能利用能量梯度进行更平滑的探索，通常比朴素采样策略更稳定。
1.3.3 多峰或强相关分布
当分布存在多个峰值，或参数之间相关性很强时，普通方法可能容易停留在局部区域。HMC 并不能彻底消除这一困难，但在不少情况下可以比简单方法更有效地跨越相关结构。
2 理论基础
2.1 哈密顿力学基础
HMC 的思想来源于经典力学中的哈密顿力学。该理论用位置、动量和能量来描述系统状态，并通过微分方程刻画其演化过程。
2.1.1 位置变量与动量变量
在 HMC 中，目标参数可视为“位置变量”，而额外引入的“动量变量”则作为辅助量。两者共同构成扩展空间，使采样过程可以借助物理系统的运动规律进行模拟。
2.1.2 哈密顿量与能量守恒
哈密顿量通常表示系统总能量，由势能与动能组成。理想情况下，系统沿轨迹演化时总能量保持不变；在数值计算中，由于离散近似会产生少量误差，因此需要再通过接受-拒绝步骤加以修正。
2.2 概率分布与目标密度
HMC 的目标并不是直接模拟物理系统本身，而是将待采样的概率密度映射为一个能量函数。通常，目标分布的负对数密度会对应势能项，因此高概率区域就相当于低能量区域。
这样一来，采样问题就被转化为在能量景观中寻找合适轨迹的过程。最终保留下来的样本，其边缘分布与原始目标分布一致。
2.3 辅助变量思想
辅助变量思想是 HMC 的关键设计之一。通过引入额外的动量维度，原本难以直接处理的分布采样问题被扩展到更容易模拟的动力系统中。
这些辅助变量在完成一次轨迹模拟后通常会被重置或边缘化，不会改变目标分布本身，却能显著提升探索效率。
3 算法原理
3.1 动量变量的引入
HMC 在每次迭代开始时，为当前参数状态随机抽取一个动量变量。该动量一般来自某个简单分布，例如高斯分布。
动量的引入使采样过程不再只是“向四周试探”，而是可以在惯性作用下沿某个方向持续推进，从而减少短距离反复震荡。
3.2 轨迹模拟与梯度更新
在得到位置和动量后，算法根据哈密顿方程对系统进行若干步数值模拟。每一步都会利用目标分布的梯度来更新状态，使轨迹尽量贴近真实动力学。
3.2.1 位置更新
位置更新反映的是粒子在动量驱动下的移动。其变化与当前动量有关，因此当动量较大时，位置在下一步通常会有更明显的位移。
3.2.2 动量更新
动量更新则由势能的梯度决定。直观上看，梯度指向概率变化最快的方向，动量会据此发生调整，从而使轨迹在能量地形中发生弯曲。
3.3 Metropolis 接受-拒绝步骤
由于数值积分并不完全精确，模拟轨迹结束后得到的新状态不一定严格满足目标分布要求。为保证采样正确性，HMC 会使用 Metropolis 接受-拒绝步骤。
如果新旧状态之间的能量差较小，新状态更容易被接受；若误差较大，则可能被拒绝并保留原状态。这个机制补偿了离散模拟带来的偏差。
3.4 数值积分方法
哈密顿方程通常没有简单的解析解，因此需要借助数值积分近似轨迹。HMC 最常用的是对称且较稳定的积分方案。
3.4.1 Leapfrog 算法
Leapfrog 算法是 HMC 中最经典的数值积分方法。它交替更新位置和动量，具有较好的可逆性与近似保能特性，因此非常适合用于马尔可夫链采样。
3.4.2 步长选择
步长决定每一次更新的跨度。步长过大时，轨迹误差增加，接受率可能下降；步长过小时，单次移动太细，计算成本则会上升。
3.4.3 轨迹长度设置
轨迹长度控制一次动力学模拟持续多久。若轨迹过短，样本之间的相关性可能较强；若过长，则会带来额外计算负担，且不一定继续提升效果。
4 算法流程
4.1 初始化
算法首先选择初始参数值，并设定基本超参数，如步长、轨迹步数或积分长度。初始化的质量通常会影响前期收敛速度。
4.2 采样动量
在每轮迭代中，系统会为当前参数随机生成一个动量向量。该动量相当于推动粒子前进的瞬时“推力”。
4.3 模拟哈密顿动力学轨迹
接下来，利用数值积分方法沿哈密顿动力学方程推进若干步，得到候选新状态。这个过程会结合梯度信息，使轨迹尽量沿较合理的方向展开。
4.4 接受或拒绝新状态
轨迹模拟完成后，根据能量变化计算接受概率，并据此决定是否将候选状态纳入链中。若被拒绝，则样本保持为原先状态。
4.5 重复迭代生成样本
以上步骤不断循环，最终形成一条马尔可夫链。经过足够长的运行后，链中的状态可视为来自目标分布的样本集合。
5 参数与调优
5.1 步长参数
步长是 HMC 中最敏感的参数之一。它直接影响数值精度、接受率和轨迹质量，通常需要结合问题规模与梯度平滑程度进行调整。
5.2 轨迹长度参数
轨迹长度决定单次提议探索的范围。适当的长度有助于跳出局部区域，但若设置不合理，也可能导致重复绕行或计算浪费。
5.3 质量矩阵
质量矩阵用于刻画动量变量的尺度和相关结构。合理设定后，可以让不同方向上的探索更均衡，缓解各维度尺度不一致的问题。
5.3.1 对角质量矩阵
对角质量矩阵只对各维参数的尺度进行独立调整，结构简单，计算代价较低，适合多数常规场景。
5.3.2 完整质量矩阵
完整质量矩阵允许不同维度之间存在相关项，表达能力更强，但计算和估计成本也更高，通常用于结构复杂的问题。
5.4 采样效率与相关性
HMC 的调优目标之一，是在计算量可接受的前提下尽量提高有效样本数量，并降低相邻样本的自相关。参数设置若得当，链的探索效率会明显改善。
5.5 自适应调参策略
实际应用中，常会在预热阶段采用自适应策略估计步长或质量矩阵。此后再固定参数进入正式采样，以兼顾稳定性和效率。
6 常见变体与扩展
6.1 NUTS 算法
NUTS，即 No-U-Turn Sampler，是 HMC 的重要改进版本。它能自动决定轨迹何时停止，避免人工设定轨迹长度，因而更适合实际使用。
6.2 自适应 HMC
自适应 HMC 指在采样过程中根据当前表现动态调整部分参数的做法。常见目标包括提高接受率、改善数值稳定性和提升整体效率。
6.3 Riemannian Manifold HMC
这种方法将参数空间视为带有几何结构的流形，并根据局部曲率调整运动方式。它在复杂几何或尺度变化显著的问题中具有一定优势。
6.4 分层与块状 HMC
分层 HMC 和块状 HMC 会把变量按层次或分组方式处理，以减少耦合带来的困难。这类方法常用于结构较复杂的大模型。
7 性能与优缺点
7.1 优势
HMC 的突出特点，是在很多高维连续问题中能够取得较高采样效率。由于使用了梯度和惯性信息，它往往比简单随机游走更具方向感。
7.1.1 高维效率较高
在维度上升时，HMC 通常比朴素方法更不容易陷入低效移动，因此在大规模参数空间中表现较好。
7.1.2 样本自相关较低
相较于频繁的小幅抖动，HMC 产生的样本序列通常相关性更弱，这意味着更少的样本也可能提供更有用的信息。
7.1.3 对复杂后验更友好
对许多形状复杂的后验分布，HMC 能更充分地利用局部几何信息，使探索过程更平滑、连贯。
7.2 局限性
尽管性能出色，HMC 也有明显限制。它对目标函数的可微性和梯度质量较为敏感，且参数设置并不总是简单。
7.2.1 依赖梯度可得性
如果目标密度无法方便求导，或梯度计算代价过高，HMC 的适用性就会受到限制。
7.2.2 参数调优复杂
步长、轨迹长度、质量矩阵等都可能影响结果，初学者在实践中常需要花费较多精力进行调试。
7.2.3 对非光滑分布不够适用
当目标分布存在尖点、断裂或不可导区域时，基于梯度的动力学模拟可能难以稳定运行。
8 应用领域
8.1 贝叶斯统计
HMC 最经典的应用场景是贝叶斯统计中的后验采样。它常用于参数估计、模型比较以及不确定性量化。
8.2 机器学习
在机器学习中，HMC 可用于贝叶斯神经网络、概率图模型和超参数推断等任务，帮助模型更好地表达预测不确定性。
8.3 物理模拟
由于其灵感来自物理动力学，HMC 也常见于统计物理和粒子系统模拟中，尤其适合与能量函数相关的采样任务。
8.4 计算生物学
在计算生物学领域，HMC 可用于分子构象、系统参数推断和生物统计建模等问题，尤其适合处理维度较高且相关性较强的数据结构。
9 实现与工具
9.1 数值计算要求
HMC 需要较稳定的梯度计算和较可靠的数值积分。实践中通常还会关注浮点误差、计算效率以及并行化能力。
9.2 常用软件与框架
许多现代统计和机器学习框架都提供了 HMC 或其变体的实现。它们通常同时支持自动微分、预热、自适应调参和诊断输出，便于实际使用。
9.3 诊断指标
为了判断采样是否可靠，通常需要配合若干诊断指标一起观察，包括链是否收敛、样本是否足够独立，以及接受机制是否合理。
9.3.1 收敛性检查
收敛性检查用于判断马尔可夫链是否已进入稳定状态。常见做法包括观察轨迹图、比较多链表现以及检视是否存在明显漂移。
9.3.2 有效样本量
有效样本量用于衡量样本序列中真正提供信息的独立程度。它越高，说明在相同计算成本下获得的有效信息越多。
9.3.3 接受率分析
接受率反映候选状态被保留的频繁程度。接受率过低往往意味着步长过大或轨迹误差较高；过高则有时说明步子偏小，探索效率可能不足。
10 相关概念
10.1 马尔可夫链蒙特卡洛
马尔可夫链蒙特卡洛是一大类依靠马尔可夫链进行抽样的方法。HMC 是其中的重要成员，属于利用状态转移构造目标分布样本的技术路线。
10.2 Metropolis-Hastings 算法
Metropolis-Hastings 是经典的 MCMC 方法之一，HMC 的接受-拒绝机制与其思想相通，但 HMC 在提议分布构造上更具结构性。
10.3 朗之万动力学
朗之万动力学同样结合了随机扰动与连续动力系统思想，常用于概率采样。它与 HMC 在利用梯度信息方面有一定相似之处。
10.4 NUTS 与现代 HMC 实现
NUTS 是现代 HMC 体系中最常见的自动化改进之一。许多当代实现都会将其与自适应步长、质量矩阵估计等机制结合，以提升易用性与稳定性。