1 基本概念
1.1 定义
因子图是一种二分图，用于描述一组变量与若干局部因子之间的依赖关系。它将整体模型拆分为多个较小的函数或约束，使复杂系统能够以更清晰的结构呈现。与直接写出完整联合分布相比，因子图更强调“局部作用”的组织方式，因此常被用作推断与优化的表示工具。
1.2 图结构组成
1.2.1 变量节点
变量节点表示模型中的未知量或状态量，通常对应随机变量、离散取值或连续参数。它们是图中需要求解、估计或跟踪的对象。
1.2.2 因子节点
因子节点表示作用在一个或多个变量上的局部函数。该函数可以是概率意义上的权重，也可以是满足约束时取值为1、否则为0的限制条件。因子节点决定了变量之间的相互关系如何被编码进模型。
1.2.3 边的含义
边连接变量节点与相关因子节点，表示该变量参与了该因子的计算。边本身不承载数值，而是体现依赖关系和信息传递路径。
1.3 二分图特征
因子图具有明显的二分结构，变量节点与因子节点不会直接相连于同一类节点内部，只能通过异类节点建立联系。这种形式有助于清楚地区分“对象”与“约束”两类元素，也便于在图上执行消息传递类算法。
1.4 与联合分布的关系
因子图通常对应某个联合分布的分解形式。整体联合分布可表示为若干局部因子的乘积，再通过归一化得到概率模型。因子图的核心价值就在于：把全局结构转化为局部组合，从而使表示和计算都更灵活。
2 数学表示
2.1 联合概率分解
2.1.1 乘积形式
若随机变量集合为 \(x_1, x_2, \dots, x_n\)，则联合分布常可写成多个因子之积： \[ p(x_1,\dots,x_n)=\frac{1}{Z}\prod_{a} f_a(x_a) \] 其中每个 \(f_a\) 只依赖于部分变量。这样的分解方式是因子图的数学基础。
2.1.2 归一化常数
归一化常数 \(Z\) 用于保证整体分布的总和或积分为1。它通常难以直接计算，但在许多推断任务中并不是首要目标。因子图的一个重要作用，正是帮助在不显式展开全部状态的情况下处理这种全局归一化问题。
2.2 局部函数与约束
2.2.1 概率因子
概率因子用于表示局部概率偏好或局部似然信息。例如，某个观测与若干变量之间的关系可以被编码为一个局部似然函数。多个概率因子组合后，便形成完整的概率模型。
2.2.2 非概率因子
非概率因子主要用于表达约束条件，例如等式、逻辑关系或可行性限制。此类因子不一定直接对应概率意义上的量，但可以通过“满足为1、不满足为0”之类的方式参与统一建模。
2.3 与势函数的联系
在无向图模型中，因子常与势函数具有相近含义，二者都用于描述局部配置的相对偏好。不同之处在于，因子图将这种局部作用显式拆开并单独成节点，因此结构往往更清楚，也更容易与算法流程对应。
3 图模型中的位置
3.1 概率图模型分类
3.1.1 贝叶斯网络
贝叶斯网络以有向边表示条件依赖关系，强调变量之间的生成顺序。它适合描述因果式或分层式结构，而因子图则更强调分解后的局部函数组合。
3.1.2 马尔可夫随机场
马尔可夫随机场属于无向图模型，侧重变量之间的对称依赖。其局部相互作用可以自然地转写为因子图中的因子节点，因此两者之间联系紧密。
3.2 因子图与其他图模型的转换
3.2.1 从贝叶斯网络到因子图
贝叶斯网络中的每个条件概率分布都可以视为一个因子。将这些条件分布逐一拆出后，再把变量与对应因子连接起来，就能得到等价或近似等价的因子图表示。
3.2.2 从马尔可夫随机场到因子图
马尔可夫随机场中的团势函数或局部势函数可以直接作为因子。由于无向模型本就强调局部邻域关系，因此转换通常较为自然。
3.3 表达能力与优势
因子图的表达能力很强，既能表示概率模型，也能表示约束满足问题。与只用单一图模型相比，它在统一刻画概率、逻辑与优化结构方面更有弹性，因此在算法设计中常被视为通用中间表示。
4 推断方法
4.1 消息传递算法
4.1.1 变量到因子消息
变量到因子消息表示某个变量节点根据除目标因子外的其他信息，向该因子传递当前信念的过程。它通常是邻接消息的组合结果，反映了变量在局部范围内的状态倾向。
4.1.2 因子到变量消息
因子到变量消息则由因子节点发出，表达该因子对某一变量可能取值的约束或支持程度。其计算一般需要对因子涉及的其他变量进行求和或取最大，从而把局部信息压缩后传回。
4.2 和积算法
4.2.1 边缘概率计算
和积算法用于近似或精确求取变量的边缘分布。通过在图上反复交换消息，可以逐步将局部信息汇总到各个变量节点，得到其边缘概率估计。
4.2.2 局部一致性
在树形结构中，和积算法能够保证局部一致性，即相邻节点之间的边缘结果彼此协调。对于含环图，这种一致性往往只是近似成立，但在实践中仍具有很高的实用价值。
4.3 最大积算法
4.3.1 最大后验估计
最大积算法与和积算法形式相似，但将“求和”替换为“取最大”，目标是找到后验概率最大的配置。它常用于最大后验估计问题，尤其适合需要输出单一最优解的场景。
4.3.2 最优配置搜索
在组合优化中，最大积算法可视为搜索高得分配置的方法。通过局部信息传播，算法逐渐缩小候选空间，最终得到满足约束且代价较低的解。
4.4 收敛性与精度
在树结构上，消息传递通常具有良好的收敛性与精确性；而在存在环路时，收敛速度和结果精度会受到影响。实际应用中常结合迭代停止准则、松弛策略或近似修正方法来提高稳定性。
5 理论性质
5.1 有向与无向表示的区别
因子图本身不强调变量间的方向性，而是通过因子来组织依赖。与有向图相比，它更接近一种计算导向的表示；与无向图相比，它又把局部函数显式拆分出来，便于分析结构和执行算法。
5.2 环与树结构
5.2.1 树形因子图
树形因子图不存在回路，因而消息传递通常可以一次自底向上、一次自顶向下地完成。此时很多推断问题可以精确求解，计算过程也相对简单。
5.2.2 含环因子图
含环因子图更接近真实复杂系统，但推断往往只能依赖近似算法。环的存在会使信息在图中反复循环，既可能帮助传播更全面的局部信息，也可能带来振荡与误差积累。
5.3 可分解性
因子图的一个核心理论特征是可分解性，即整体函数能够拆成多个局部项。这种性质使得高维问题可以借助低维子问题来处理，从而显著降低建模和运算难度。
5.4 马尔可夫性质
在合适条件下，因子图可以体现局部马尔可夫性质：某个变量的状态主要受其邻接因子与相关变量影响，而不必显式依赖远处全部节点。正因为如此，局部消息就足以承载大量全局信息。
6 构建与表示方法
6.1 变量分组方式
构建因子图时，首先要确定变量如何分组。单个变量可独立成节点，也可将具有紧密联系的状态打包处理。分组方式会影响图的规模、稀疏度以及后续算法的效率。
6.2 因子分解策略
因子分解策略决定了模型被拆成多少个局部函数。分得过细会增加节点数量，分得过粗则会削弱局部性。实际建模时通常需要在表达清晰与计算效率之间取得平衡。
6.3 高阶因子的处理
高阶因子涉及多个变量，能准确描述复杂关系，但计算代价也更高。常见处理方式包括引入辅助变量、进一步分解因子，或采用近似计算来减轻复杂度。
6.4 稀疏表示
在很多问题中，大部分变量只与少数因子相连，图结构呈现稀疏性。稀疏表示有利于减少内存占用，也能让消息传递在大规模模型中更可行。
7 应用领域
7.1 统计推断
在统计推断中，因子图常用于估计隐变量、计算边缘概率和进行模型比较。它将复杂分布拆成局部部分后，推断步骤更容易实现和解释。
7.2 机器学习
在机器学习里，因子图可用于结构化预测、序列标注和参数学习等任务。它特别适合那些既有观测数据、又带有明显依赖结构的问题。
7.3 信号处理
信号处理常涉及噪声抑制、状态估计与多源融合。因子图能够把观测模型和动态模型统一到一张图上，便于进行递推式推断。
7.4 图像处理
图像中的像素、超像素或特征块之间往往存在局部关联。因子图可用于去噪、分割、立体匹配等任务，尤其适合表达邻域平滑与边缘约束。
7.5 编码理论
在编码理论中，因子图广泛用于描述校验关系和译码过程。经典的低密度校验结构就与因子图形式高度一致，因此消息传递译码往往可以直接在图上实现。
7.6 组合优化
许多组合优化问题都可写成约束满足或代价最小化形式。因子图能够将目标函数和约束条件统一表示，再通过最大积或近似算法寻找可行解与近似最优解。
8 相关算法与扩展
8.1 置信传播
置信传播是一类在因子图上执行的近似推断方法，常用于含环图。它通过迭代更新信念和消息，在实践中常能取得较好的效果。
8.2 变分推断中的应用
因子图与变分推断结合后，可把复杂后验近似为较易处理的分布族。此时图结构帮助描述目标函数的分解，而变分框架则负责寻找近似解。
8.3 近似推断方法
当精确推断代价过高时，常采用采样、局部截断、松弛优化或其他近似方法。因子图为这些方法提供了统一的结构载体，便于比较不同近似策略。
8.4 因子图的学习与参数估计
除了在既定模型上做推断，因子图还可用于学习结构和估计参数。通过数据驱动方式调整因子形式或其参数，模型能更好地贴合实际观测。
9 优缺点
9.1 优势
9.1.1 结构清晰
因子图把变量与局部关系分开表示，图形结构直观，便于理解复杂模型的组成。
9.1.2 易于算法实现
由于消息传递规则与图结构高度对应，因子图特别适合编写成可迭代的计算流程，工程实现较为方便。
9.1.3 适合局部计算
很多全局问题可以拆成若干局部运算，再通过消息汇总完成整体推断。这使得因子图在大规模场景中具有较强可扩展性。
9.2 局限性
9.2.1 含环图上的近似误差
在存在回路的图中，标准消息传递通常不再保证精确结果，误差大小还可能随结构复杂度增加而上升。
9.2.2 计算复杂度问题
若因子涉及变量过多，单次消息计算就可能变得昂贵。随着维度和连接数增加，整体计算压力也会明显上升。
9.2.3 模型构建依赖经验
把实际问题合理拆成因子并非总是直接可得，往往需要建模者对领域结构有较强理解。分解方式不当时，可能影响推断质量与效率。
10 历史与发展
10.1 理论起源
因子图的思想来源于概率论、图论和编码理论等多个方向的交汇。它并非凭空出现，而是对局部因子分解思想的系统化表达。
10.2 发展脉络
随着消息传递算法的发展，因子图逐渐成为统一表述概率推断与约束求解的重要工具。其应用也从早期的编码和统计推断，扩展到更广泛的工程和智能计算场景。
10.3 现代应用趋势
现代研究中，因子图常与优化、学习和近似推断相结合，并在大规模数据处理、结构化建模和多模态融合中继续发挥作用。其价值主要体现在：既能保留模型结构，又能支持高效计算。