1 基本概念

平稳分布是随机过程长期演化中保持不变的一类概率分布。若系统在某一时刻服从该分布,并按照既定转移规则继续演化,那么经过一步或多步后,其分布形式仍保持一致。它是描述随机系统稳定状态的重要工具,常见于马尔可夫链、排队系统和随机游走等研究中。

1.1 定义

平稳分布的核心含义是“经过演化后分布不变”。具体形式会随离散时间过程与连续时间过程而略有不同,但都体现为分布与转移机制之间的自洽关系

1.1.1 离散时间随机过程中的平稳分布

对于离散时间随机过程,若初始分布记为 \(\pi\),转移算子记为 \(P\),当满足 \(\pi P=\pi\) 时,称 \(\pi\) 为平稳分布。也就是说,系统每推进一步,状态概率的整体分布不发生改变。

1.1.2 连续时间随机过程中的平稳分布

对于连续时间随机过程,平稳分布通常对应于生成矩阵或速率矩阵所满足的平衡条件。若某分布在任意时刻传播后都保持不变,则可视为该过程的平稳分布。它反映的是系统在长期时间尺度上的稳定概率结构。

1.2 直观理解

从直觉上看,平稳分布可以理解为随机系统“长期停留比例”的描述。虽然单条样本路径会不断波动,但从整体统计上看,各状态出现的频率会趋向某种稳定比例。

1.2.1 长期状态占比

如果一个状态在长期运行中大约有固定比例的时间被访问,那么这个比例常由平稳分布给出。它不关注某一瞬间的具体状态,而强调足够长时间内的平均占比。

1.2.2 分布不变性

平稳分布的另一个直观特征是“不变”。把它看作一张状态概率表,经过系统规则更新后,这张表仍然保持原样,因此它像是随机演化中的平衡点

1.3 与相关概念的区别

平稳分布与若干相近概念相关,但含义并不完全相同。区分这些概念有助于避免在随机过程分析中混淆“分布稳定”与“过程稳定”。

1.3.1 平稳分布与平稳过程

平稳分布指的是某一时刻的概率分布满足不变条件;平稳过程则强调随机过程在时间平移下的整体统计性质保持一致。前者是“分布层面”的概念,后者是“过程层面”的概念。

1.3.2 平稳分布与稳态分布

在许多应用场景中,平稳分布与稳态分布常被近似视为同义词,但严格来说,稳态分布更强调系统进入长期稳定运行后的状态分布,而平稳分布更偏向数学定义中的不变分布。

1.3.3 平稳分布与极限分布

极限分布是指系统在时间趋于无穷时分布的收敛结果,而平稳分布是满足不变性的分布。若过程从任意初始分布出发最终收敛到某个分布,则该极限分布在许多情形下就是平稳分布,但二者并不总是自动等同。

2 马尔可夫链中的平稳分布

在马尔可夫链中,平稳分布是最常研究的对象之一。由于未来状态仅依赖当前状态,平稳分布可通过转移矩阵直接刻画,并与链的长期行为紧密对应。

2.1 转移矩阵与不变分布

马尔可夫链的转移矩阵记录了状态之间的跳转概率。平稳分布就是与该矩阵相容的概率向量,满足一次更新后保持不变。

2.1.1 左特征向量表示

从线性代数角度看,平稳分布可视为转移矩阵特征值为 1 的左特征向量。即若 \(\pi P=\pi\),则 \(\pi\) 是对应特征值 1 的左特征向量,反映了分布在转移作用下的固定性。

2.1.2 归一化条件

由于概率分布必须满足各状态概率非负且总和为 1,因此在求出满足不变方程的向量后,还需进行归一化。只有满足总概率为 1 的解,才是合法的平稳分布。

2.2 存在性与唯一性

平稳分布是否存在、是否唯一,与状态空间结构和转移性质密切相关。不同类型的马尔可夫链,其结论可能截然不同。

2.2.1 有限状态空间情形

在有限状态空间中,马尔可夫链通常更容易讨论平稳分布。许多有限链至少存在一个平稳分布,但若链可分解为多个互不连通的部分,则平稳分布可能不唯一。

2.2.2 不可约链与遍历条件

若链不可约,表示任意两个状态之间在某些步数下都可互相到达。若再满足适当的遍历条件,通常可保证平稳分布的唯一性,并使长期行为与该分布一致。

2.2.3 周期性对平稳分布的影响

周期性主要影响收敛方式,而不一定破坏平稳分布的存在。即便链具有周期,只要平稳分布存在,仍可通过不变方程求得;但样本分布未必会简单地逐步收敛到它。

2.3 常见求法

平稳分布的求法多样,既可通过解析手段,也可借助数值算法。具体方法通常取决于状态空间大小和模型结构。

2.3.1 解线性方程组

最直接的方法是将 \(\pi P=\pi\) 改写为线性方程组,再结合归一化条件求解。这种方法适用于状态数较少的模型,结果清晰明确。

2.3.2 幂迭代法

幂迭代法通过反复乘以转移矩阵,逐步逼近平稳分布。若链满足适当条件,迭代序列会趋向稳定,常用于大规模问题的近似计算。

2.3.3 特征值方法

特征值方法利用矩阵谱性质寻找特征值 1 对应的特征向量。该方法在理论分析中较常见,也适合与线性代数工具结合使用。

3 理论性质

平稳分布不仅是一个静态对象,还与不变性、平衡关系和收敛行为密切相连。围绕这些性质,可以建立对随机系统长期特征的完整理解。

3.1 不变性

不变性是平稳分布最基本的性质,即分布在转移作用下保持自身形式。这个性质既可在一步更新下表达,也可推广到多步演化。

3.1.1 一步不变性

一步不变性指经过一次状态转移后,分布仍与原分布相同。这正是平稳分布定义中的核心条件,也是判断其是否成立的直接标准。

3.1.2 多步不变性

若分布在一步转移下不变,则在任意多步转移后也保持不变。因为连续多次作用本质上仍由同一转移机制复合而成,因此不变性会自然延伸。

3.2 平衡条件

平衡条件是描述平稳分布的一类等式关系,用来反映状态之间流入与流出的协调状态。它是构造和验证平稳分布的重要手段。

3.2.1 全局平衡方程

全局平衡强调每个状态的总流入概率等于总流出概率的统计平衡。对于平稳分布而言,这种整体守恒关系是最常见的表达方式之一。

3.2.2 细致平衡条件

细致平衡比全局平衡更强,要求任意两个状态之间的概率流在平衡时两两相等。满足细致平衡的系统通常更易分析,并常见于可逆马尔可夫链。

3.3 收敛性

平稳分布往往与“从任意初始状态出发最终会不会靠近它”这一问题相关。收敛性质决定了平稳分布在长期行为中的实际意义。

3.3.1 收敛到平稳分布

若马尔可夫链满足足够的遍历条件,则初始分布经过足够长时间演化后,会逐渐收敛到平稳分布。这说明平稳分布不仅是不变解,也代表长期极限。

3.3.2 混合时间

混合时间描述分布接近平稳分布所需的时间尺度。混合越快,系统越早表现出稳定统计特征;混合越慢,短期偏差就越明显。

3.3.3 初始分布的影响

初始分布会影响早期状态的演化轨迹,但在满足收敛条件时,这种影响会随时间逐渐减弱。长期来看,系统更受平稳分布支配,而非初始设置。

3.4 遍历性

遍历性连接了时间平均与概率平均,是平稳分布在样本路径层面的重要体现。它说明单条长轨道也能反映整体统计规律。

3.4.1 时间平均与空间平均

时间平均是沿着一条样本路径统计状态出现频率,空间平均则是根据分布对各状态加权平均。若系统遍历,则两者在长期上趋于一致。

3.4.2 遍历定理

遍历定理说明在适当条件下,长时间观测得到的平均结果会收敛到平稳分布对应的期望值。它为“用时间样本估计总体性质”提供了理论依据。

4 典型模型与例子

平稳分布在多种经典随机模型中都能找到具体体现。通过这些例子,可以更直观地理解不变分布的结构及其计算方式。

4.1 有限状态马尔可夫链

有限状态链是平稳分布最基础的例子。由于状态数有限,常可通过直接计算得到明确的概率分配。

4.1.1 两状态模型

两状态链的平稳分布通常可由两个转移概率直接解出。若从状态 A 到 B 的概率与从 B 到 A 的概率不对称,长期占比也会相应偏向某一状态。

4.1.2 三状态模型

三状态链的平稳分布比两状态模型更具结构性,常需要解一个三元线性方程组。此类模型常用于演示状态间流量平衡的基本思想。

4.2 随机游走

随机游走是研究平稳分布的经典模型之一。它通过一步步随机移动来刻画状态变化,尤其适合展示图结构对分布形态的影响。

4.2.1 有限图上的随机游走

在有限图上,随机游走的平稳分布往往与顶点度数有关。连接更多的节点通常具有更大的长期访问概率,因此结构特征会直接反映在分布上。

4.2.2 环形结构上的平稳分布

在环形结构中,各位置通常具有对称性,因此平稳分布往往是均匀的。每个节点在长期运行中的访问频率大致相同,体现出结构均衡的特点。

4.3 排队系统

排队系统中的平稳分布用于描述队列长度、等待人数等随机变量的长期行为。它对系统负载和服务能力分析非常重要。

4.3.1 到达-服务模型

到达-服务模型将顾客到来与服务完成视作随机事件。若到达率与服务率满足一定条件,系统的状态分布可能达到稳定形式,从而形成平稳分布。

4.3.2 稳态队长分布

稳态队长分布描述长期来看队列长度处于各个数值的概率。它可以用于评估拥堵程度,并为资源配置提供依据。

4.4 经典随机过程

一些经典随机过程具有非常标准的平稳分布结构,常作为理论分析与算法设计的基础范例。

4.4.1 birth-death 过程

birth-death 过程描述状态只允许向上或向下相邻变化的随机系统。其平稳分布常可通过递推关系逐级求出,形式简洁且可解释性强。

4.4.2 置换链与抽样链

置换链和抽样链常用于构造复杂分布的采样机制。若设计得当,其平稳分布正是目标分布,因此在随机模拟中具有重要价值。

5 计算与算法

实际问题中,平稳分布往往需要通过计算获得。根据模型规模与精度要求,可选用解析法、迭代法或随机估计方法。

5.1 解析计算

解析计算依赖明确的方程结构,适用于模型较小或具有特殊对称性的情形。它能够直接给出表达式,便于理论分析。

5.1.1 直接求解法

直接求解法是将平稳条件和归一化条件联立后求解。对于状态数不多的系统,这是一种最稳妥、最直观的方法。

5.1.2 递推法

递推法利用相邻状态之间的关系逐步推出分布。若模型具有链式结构或局部平衡性质,递推计算通常更高效。

5.2 数值方法

当状态空间较大时,数值方法通常比手工解析更实用。它们强调近似精度、稳定性和计算成本之间的平衡。

5.2.1 迭代收敛

迭代收敛方法通过不断更新分布向量来逼近平稳解。只要算法满足收敛条件,就能在可接受误差内获得结果。

5.2.2 蒙特卡洛估计

蒙特卡洛估计通过模拟长样本路径统计状态频率,从而近似平稳分布。该方法特别适合高维或难以显式求解的系统。

5.3 近似与误差分析

在工程和计算场景中,平稳分布常只能获得近似值,因此需要评估误差来源与近似可靠性。

5.3.1 截断近似

截断近似将无限或过大的状态空间限制在有限范围内计算。该方法实现方便,但需要谨慎处理被截掉部分对结果的影响。

5.3.2 数值稳定性

数值稳定性关注在有限精度运算下结果是否可靠。若方程病态或迭代过慢,便可能出现误差积累,影响平稳分布的准确性。

6 应用

平稳分布的应用范围十分广泛,既包括物理系统的长期平衡,也涵盖计算机与运筹领域中的性能评估和随机模拟。

6.1 统计物理

在统计物理中,平稳分布常用来描述系统处于热平衡时的概率结构。它为微观状态与宏观现象之间建立了桥梁。

6.1.1 热平衡模型

热平衡模型中,系统经过长时间演化后会达到稳定的概率分配。该分配可用于解释不同微观状态的出现频率。

6.1.2 能量分布解释

平稳分布常与能量状态的占比相关。能量较低或更易访问的状态,往往在平稳分布中具有更高权重。

6.2 机器学习

在机器学习中,平稳分布是随机采样和生成模型的重要基础,尤其在需要从复杂目标分布中取样时尤为关键。

6.2.1 马尔可夫链蒙特卡洛

马尔可夫链蒙特卡洛方法通过构造以目标分布为平稳分布的马尔可夫链,间接生成所需样本。这类方法在高维统计推断中应用广泛。

6.2.2 随机采样与稳态分布

随机采样过程若设计合理,长时间运行后得到的样本分布会接近目标稳态分布。此时样本频率可用于估计复杂概率模型。

6.3 计算机科学

平稳分布在搜索、网络分析和随机算法中都很常见,尤其适合处理大量状态之间的转移关系。

6.3.1 网页排名模型

网页排名模型将网页之间的链接关系视为转移结构,平稳分布可用来表示页面长期被访问的相对重要性。这类思想在网络排序中非常典型。

6.3.2 随机算法分析

随机算法常通过重复随机选择来运行,其长期行为有时可借助平稳分布分析。这样能帮助评估算法在平均意义下的表现。

6.4 运筹与排队论

在运筹学和排队论中,平稳分布用于刻画系统长期运行状态,并据此评估服务效率与资源利用情况。

6.4.1 系统负载评估

系统负载评估常关注某一时刻系统处于高负载状态的概率。平稳分布可提供长期平均视角,帮助判断资源是否充足。

6.4.2 长期平均性能指标

长期平均性能指标,如平均等待时间、平均队长和吞吐率,往往可由平稳分布推导或近似计算。它们是系统优化的重要依据。

7 扩展主题

平稳分布的思想并不限于有限状态、齐次马尔可夫链,还可推广到连续空间、时间非齐次过程以及带吸收结构的系统中。

7.1 连续状态空间

在连续状态空间中,平稳分布通常不再用有限维向量表示,而以密度函数或测度形式出现,处理方式更偏向分析与积分方程。

7.1.1 密度形式的平稳分布

若状态变量是连续的,平稳分布可用概率密度来描述。此时各区间上的概率由密度积分给出,形式更适合连续模型。

7.1.2 积分方程表示

连续状态系统的平稳条件常可写为积分方程。它表达的是转移核作用前后分布保持一致的关系。

7.2 非齐次过程

非齐次过程的转移规则会随时间变化,因此经典平稳分布未必直接适用。但仍可引入更广义的稳定概念来研究其长期行为。

7.2.1 时间依赖转移规则

当转移概率依赖时间时,系统在不同阶段表现可能不同。这类过程通常不满足简单的不变分布条件,分析也更复杂。

7.2.2 广义稳态概念

广义稳态概念用于描述在时间变化环境下的近似稳定行为。它不一定严格不变,但可以在某种尺度上保持相对稳定。

7.3 吸收与准平稳分布

当系统存在吸收状态时,普通平稳分布未必能反映有意义的长期行为。此时准平稳分布提供了另一种描述方式。

7.3.1 准稳态分布定义

准稳态分布描述的是在尚未被吸收的条件下,系统状态的条件分布保持稳定。它关注的是“尚存活部分”的长期结构。

7.3.2 与吸收状态的关系

在带吸收状态的系统中,随着时间增长,过程最终可能落入吸收态。准平稳分布则刻画了到达吸收前的中间稳定形态,与普通平稳分布有明显区别。