1 概念与背景
1.1 广义线性模型的提出动机
传统线性回归假设响应变量在给定解释变量下满足正态分布、且误差方差常数。面对“响应变量类型不止一种”的现实数据，研究者需要一种更统一的建模方式：既能保留“解释变量以线性方式进入模型”的可解释性，又能允许响应变量呈现不同分布形态（如计数、比例、正连续量等）。广义线性模型由此发展为一种将分布假设与线性结构解耦的框架：先选定响应的概率分布与方差结构，再通过链接函数把线性预测子映射到条件期望上，从而实现对更广泛任务的统一建模。
1.2 与线性回归的关系与推广方式
线性回归可视为广义线性模型在特定设定下的退化情形：当响应服从正态分布、链接函数取恒等映射时，模型就回到经典的线性回归形式。推广的关键不在于解释变量是否仍“线性进入”，而在于：
1 概念与背景
2 模型形式
3 统计性质与估计
4 诊断与检验
1.3 与其他回归框架的对比概览
相较于仅依赖均值平方误差的回归形式，GLM在分布层面引入了更贴近数据生成机制的假设；相较于完全非参数或强依赖特定结构的模型，GLM保留了清晰的参数化结构与可解释性，同时通过更换分布与链接函数覆盖多类数据类型。与广义可加模型等更灵活的框架相比，GLM的“灵活性主要来自分布与链接选择”，而不是来自对解释变量函数形式的任意曲线化；因此在需要清晰解释与稳健建模时常作为基础方案。
2 模型形式
2.1 随机成分：响应变量的分布假设
在GLM中，响应变量的条件分布通常假设属于指数族形式。指数族结构使得模型能在统一代数框架下表达不同分布（例如二项、泊松、伽马等），同时保证了估计与推断所需的关键数学性质。随机成分的作用是：明确响应在给定解释变量后的概率结构，从而规定方差如何随均值变化，并影响估计权重与诊断指标的定义。
2.2 系统成分：线性预测子
系统成分将解释变量以线性方式组合，形成线性预测子，常记作 \[ \eta = X\beta, \] 其中 \(X\) 为设计矩阵（包含截距与各类特征），\(\beta\) 为系数向量。该结构保留了线性可解释性的优势：不同解释变量通过其系数影响“预测空间”中的位置，而其对响应均值的实际作用还需通过链接函数再映射。
2.3 链接函数与期望的映射
链接函数用于把线性预测子 \(\eta\) 与条件期望 \(\mu = \mathbb{E}(Y\mid X)\) 建立关系，通常写作 \[ g(\mu) = \eta, \] 或等价地 \(\mu = g^{-1}(\eta)\)。链接函数的选择决定了均值在不同数据支持域上的合理性约束：例如概率需要落在0到1之间，计数均值需为非负，正连续量的均值亦需保持正值。因而链接函数不仅是“数学变换”，也是保证模型与数据物理/统计约束相容的设计环节。
2.4 参数化与充分统计量视角（指数族）
在指数族表述下，分布可写成形式上包含自然参数与充分统计量的表达。该视角提供两层意义：第一，指数族的统一结构使得对似然、方差函数以及估计方程的推导可以复用；第二，充分统计量强调“数据中真正与参数相关的信息如何被压缩”，从而解释为何很多GLM的估计在不同分布设置下具有相似的算法与理论框架。
3 统计性质与估计
3.1 极大似然估计的基本思路
在GLM中，参数估计常以极大似然为目标：给定观测数据 \(\{(y_i, x_i)\}\)，构造条件对数似然并对 \(\beta\) 最大化。由于响应均值通过链接函数依赖于 \(\beta\)，一般情形下得到的方程是非线性的，因此无法直接获得闭式解。极大似然的价值在于：它将分布假设、链接函数与参数共同纳入同一目标函数，并在大样本下支持渐近推断。
3.2 迭代加权最小二乘（IRLS）算法
由于极大似然导致的方程通常非线性，实践中常使用IRLS。直观上，IRLS把原问题转化为一系列“加权的最小二乘子问题”：每次迭代基于当前参数估计均值与权重，然后求解一次加权线性近似。随着迭代进行，线性预测子逐步更新，目标函数逐渐改善。IRLS的核心是权重与方差函数、链接函数导数之间的关系，它反映了不同观测在当前模型下的重要程度。
3.3 估计量的近似性质与渐近推断
在正则条件与大样本近似下，最大似然估计量通常呈现渐近正态性。由此可以使用信息矩阵或其可估计形式构造标准误、进行显著性检验并建立置信区间。对GLM而言，渐近推断依赖于：模型是否贴合数据生成过程（或至少在可接受误差范围内）、数值求解是否收敛，以及方差结构与链接选择是否合理。需要注意的是，若出现显著方差结构偏离或过度离散，标准误可能需要修正或采用更稳健策略。
3.4 似然与偏差度量（deviance）概念
GLM中常用偏差（deviance）作为拟合优度的度量。偏差可理解为：当前模型的对数似然（或与之等价的目标）相对饱和模型的差异程度。由于其定义基于似然结构，偏差与模型的分布假设相一致，便于跨不同分布设定比较在同一数据类型上的拟合改进。偏差也常用于分析残差模式与拟合不足，作为诊断工具之一。
4 诊断与检验
4.1 残差与拟合优度评估
残差在GLM中并非只是一种“差值”，而通常以与似然与均值结构相容的方式定义，例如偏差残差或标准化残差等。它们用于检查模型假设是否成立、均值结构是否充分解释了系统性偏离、以及是否存在方差随均值变化但模型未捕捉到的迹象。拟合优度通常通过偏差、检验统计量或伪 \(R^2\) 类指标辅助理解，但应避免把所有指标都解释为与线性回归完全同构的意义。
4.2 参数显著性检验与置信区间
系数的检验通常基于估计的协方差矩阵进行，例如使用Wald检验或似然比检验形成显著性判断。置信区间则利用标准误与相应的近似分布给出范围。解释上需区分两层：统计显著性反映在模型假设下的证据强度，而业务意义还取决于效应大小、单位尺度、以及链接函数下对响应均值的映射强度。
4.3 过度离散与方差结构偏离
当响应的实际波动明显大于模型所假设的方差结构时，常见表现是标准误偏小、检验过于乐观，以及诊断中残差呈现系统性模式。过度离散在计数模型中尤其常见，此时需要考虑更合适的方差函数或扩展设定以吸收额外变异。该问题的要点是：偏差不是“不能拟合”的唯一表现，方差结构偏离会影响推断的可信度，即使点估计看似合理。
4.4 影响点与杠杆效应的识别（概念层面）
部分观测可能对参数估计产生不成比例的影响（例如杠杆高或残差异常）。影响点的识别通常结合杠杆度、残差与参数变化幅度等概念进行：即检查当移除或更改某些观测后，系数估计是否显著波动。此类诊断强调“数据质量与模型稳健性”，不仅用于找出异常值，也用于评估是否存在建模遗漏、分组不一致或测量误差等情况。
5 公式化计算要点
5.1 设计矩阵与特征工程的建模位置
GLM把解释变量以矩阵形式引入，因此特征工程（如编码分类变量、加入交互项、构造非线性特征但仍保持线性预测子结构）在GLM中具有决定性地位。只要这些特征仍能线性组合进入 \(\eta=X\beta\)，就能保持GLM的结构。实践中应确保尺度合理、编码一致，并避免在不合适的分组条件下混入不相容的特征含义。
5.2 标准误的获得与数值稳定性
标准误通常由估计协方差矩阵得到，而协方差矩阵依赖于信息矩阵或其数值近似。数值稳定性受多因素影响：设计矩阵是否病态、迭代过程中是否出现步长过大或接近不可逆的矩阵，链接函数导数在某些区域是否导致权重异常等。常见做法包括变量标准化（在不改变含义的前提下）、检查共线性、以及对算法设置更稳健的收敛策略。
5.3 共线性与可识别性问题
当解释变量高度相关或线性依赖时，系数估计可能不稳定，表现为标准误增大、置信区间变宽、甚至数值求解失败。可识别性问题还可能来自于编码方式或参考水平选择不当。诊断上通常关注：是否存在近似冗余列、矩阵条件数是否过高、以及迭代过程中是否出现异常权重或极端更新。
5.4 模型选择：信息准则与交叉验证（方法概览）
模型选择可从“解释变量集合”与“链接/分布选择”两条线入手。信息准则（如基于对数似然的惩罚形式）常用于比较嵌套模型或在一定条件下近似比较非嵌套模型。交叉验证则以预测误差为导向衡量泛化能力，更贴近实际使用。由于GLM的输出依赖于链接与分布假设，进行模型选择时应同时关注诊断结果，而不仅依赖单一数值指标。
6 常见分布与链接函数搭配
6.1 二项分布：logit / probit 等
当响应表示成功/失败或比例（在合适建模方式下）时，二项分布常被使用。常见链接包括 logit 与 probit：二者都把概率映射到线性预测空间，并确保均值落在0到1之间。选择哪一种链接通常取决于拟合表现、可解释偏好（如logit的优势）、以及数据是否呈现更匹配的非线性形状。
6.2 泊松分布：log 链接的计数建模
当响应是计数且事件发生具有相对自然的计数过程解释时，泊松模型常作为起点。log 链接把计数均值约束为非负，并使得线性预测子以乘法方式作用于均值（从而便于理解“相对变化”）。在实践中若观察到方差显著大于均值，则需警惕过度离散并考虑扩展模型或方差校正。
6.3 伽马分布与正连续数据
对于正连续且偏态较强的数据（例如等待时间、尺度类量的某些测量），伽马分布配合常见链接可实现均值始终为正的建模。链接函数的选择影响均值-线性预测之间的响应曲线形状；通过检查残差与拟合优度，可以判断哪种映射更能贴合数据的系统性波动与方差趋势。
6.4 正态分布退化为线性模型的情形
当响应近似正态、且使用恒等链接时，GLM退化为经典线性回归。此时“链接函数与期望的关系”变为直接线性对应，模型的复杂度主要体现在误差方差假设上。该退化关系有助于理解GLM与传统回归的连续关系：当数据满足更简单假设时，GLM不会增加不必要的灵活度。
7 扩展与相关模型
7.1 计数与零膨胀的思路（概念引入）
在计数数据中，如果出现大量零值且零的产生机制可能与其他计数不同，常引入零膨胀等思想：模型不只描述“计数的条件均值如何随协变量变化”，还考虑“额外的零生成过程”。该类扩展可以在保留可解释性的同时缓解泊松模型对方差与零比例的失配。
7.2 复合误差与方差函数的扩展（概念层面）
GLM通常由方差函数刻画均值与方差的关系。扩展的方向之一是更灵活地表达方差结构，例如通过缩放参数或更一般的方差函数来吸收偏差。目的在于改善推断准确性与诊断表现：当数据的波动随均值变化方式与基础模型不一致时，调整方差结构往往比仅更换均值映射更能解决问题。
7.3 混合效应的引入：广义线性混合模型（概览）
当数据具有分组结构或重复测量等情形，仅用固定效应可能不足以描述相关性。广义线性混合模型通过引入随机效应，把“组间差异”纳入模型，使同一组内观测具有更合理的依赖结构。该框架仍继承GLM的随机成分与链接映射思想，只是系统成分包含随机成分，估计与诊断也因此更复杂。
7.4 广义估计方程的定位（与相关性）
广义估计方程（GEE）是一类强调稳健估计与相关结构处理的方法框架。其核心思想是：即使对相关结构的精确指定不完全准确，也可以通过一致性准则获得有用的估计。相较于依赖完整似然的最大似然策略，GEE更偏向于在相关数据情境下保证推断的可靠性，但其实现与解释方式与GLM有一定差异。
8 应用场景与实务流程
8.1 从数据类型选择分布与链接
实务起点是识别响应变量的类型与取值支持域：是否为二元、计数、正连续、或近似正态；随后根据数据的均值-方差关系与约束需求选择分布与链接。经验上，链接的选择常用于保证均值映射后的取值合理，而分布选择用于匹配波动特征。若诊断提示系统偏离，就需要回到“分布或链接是否选得合适”的问题上迭代调整。
8.2 公式设定、参数估计与收敛检查
建模时通常先构造设计矩阵并确定公式（固定效应与可能的交互项），再选择初始值与求解器进行估计。收敛检查关注目标函数是否稳定、IRLS或其他迭代是否达到预设容忍度，以及是否存在数值警告（例如权重极端、矩阵接近奇异）。当收敛困难时，应优先排查共线性、异常数据、或链接导致的数值区域问题。
8.3 结果解释：系数、边际效应与尺度
GLM系数的直接解释取决于链接函数的形式：在log链接下系数更接近“对均值的乘法比例影响”，在logit等链接下系数对应“对对数几率的线性影响”。为了让解释更贴近直觉，常进一步报告边际效应或在特定基准点计算响应变化。实践中也需说明所使用的尺度：同一组系数在不同链接下含义不同，因此报告时应确保读者能理解映射关系。
8.4 可视化与报告规范（可解释性导向）
常见可视化包括：预测均值曲线、分组的预测概率或期望值对比、置信区间带以及残差诊断图。报告规范上，建议清晰给出：使用的分布、链接函数、变量编码方式、估计方法、收敛与诊断结果，以及关键参数的效应呈现方式。可解释性导向的可视化能减少读者对模型“数学细节”的依赖，提高对结论的理解速度。
9 关键概念速览与“梗”化记忆
9.1 “线性在前、非线性在后”：一句话抓住要点
把线性预测子当作“输入的直线”，链接函数当作“输出的弯”，GLM就能用一句话理解：解释变量以线性方式进入 \(\eta\)，但响应均值 \(\mu\) 通过链接映射后呈现非线性形态。
9.2 常见搭配口诀（分布—链接—任务）
可以用口头口诀记住常见组合：二项配合logit/probit处理概率类问题；泊松配log做计数建模；伽马配合适合的链接处理正连续量。口诀的作用在于快速形成候选模型，再用诊断与验证决定最终选择。
9.3 误区提醒：把链接函数当作“可选装饰”
链接函数并非随意替换的装饰品。它与均值的支持域约束、效应解释方式以及数值权重结构强相关。更换链接等同于改变“线性预测如何影响期望”的机制，因此需要以数据表现与诊断结果为依据，而不是只追求形式上的便利。
9.4 调参思路：从诊断到改模型
当残差模式异常、偏差未改善或出现过度离散时，建议按顺序排查：是否变量选择或交互项不足；是否分布与方差结构不匹配；是否需要调整链接或使用扩展模型。把改动定位到“最可能导致诊断失配的环节”，通常比盲目地在多个方向同时大幅调整更高效。