1 概念与定义
1.1 基本思想：以概率为权重的平均
概率加权期望是对随机变量“可能结果”的一种平均方式：并非所有取值同等重要，而是依据其出现的可能性大小赋予不同权重。结果可理解为：如果不断重复实验或采样，那么随机变量在长时间尺度上的平均表现，会与这种“按概率加权的平均”相一致。
从形式上看，它把“随机性带来的不确定结果”转化为一个可用于分析与比较的集中度量；从直觉上看，它回答的是“在所有情形中，典型的平均会落在哪里”。
1.2 离散型随机变量的定义
若随机变量 \(X\) 只可能取有限个或可数个值 \(\{x_i\}\)，且其概率质量函数为 \[ P(X=x_i)=p_i, \] 则概率加权期望（通常直接称为期望值）定义为 \[ \mathbb{E}[X]=\sum_i x_i\,p_i, \]
| 前提是该求和在适当意义下收敛（例如 \(\sum_i | x_i | p_i<\infty\)）。 |
|---|
1.3 连续型随机变量的定义
若随机变量 \(X\) 具有概率密度函数 \(f_X(x)\)，则期望以概率密度加权的积分形式给出： \[ \mathbb{E}[X]=\int_{-\infty}^{\infty} x\,f_X(x)\,dx, \]
| 其适用条件同样要求积分存在（例如 \(\int | x | f_X(x)\,dx<\infty\)）。在连续情形中，“概率密度”并不等同于概率本身，它需要与区间长度共同理解；但在积分中，它作为权重的角色成立。 |
|---|
1.4 一般情形：分布层面的统一表达
更一般地，期望可以表述为对随机变量的函数 \(g(X)\) 在其分布上的加权平均。若 \(X\) 的分布为某种概率测度，统一表达可以写作 \[ \mathbb{E}[g(X)]=\int g(x)\,dF_X(x), \] 其中 \(dF_X\) 表示由分布产生的“加权元素”。该写法同时覆盖离散与连续等情形：离散时对应求和，连续时对应积分。
1.5 常见记号与约定（期望算子、条件期望前提等）
- 期望算子通常记为 \(\mathbb{E}[\cdot]\)。
- 条件期望相关记号常见为 \(\mathbb{E}[X\mid \mathcal{G}]\) 或 \(\mathbb{E}[X\mid Y]\)，其中 \(\mathcal{G}\) 表示给定信息（\(\sigma\)-代数），\(Y\) 是用于条件化的随机变量。
| 3. 为保证期望存在，往往需要可积性条件，例如 \(\mathbb{E}[ | X | ]<\infty\)。在百科意义上，这一条件强调“加权平均不会发散”。 |
|---|
2 数学性质
2.1 线性性质
期望具有基本的线性结构。对常数 \(a,b\) 与可积随机变量 \(X,Y\)，通常有 \[ \mathbb{E}[aX+bY]=a\,\mathbb{E}[X]+b\,\mathbb{E}[Y]. \] 这一性质使得在建模时可以把复杂量拆分为更简单的组成部分，再逐项平均。
2.2 单调性与界定
若几乎处处成立 \(X\le Y\)，且它们的期望都存在，则有 \[ \mathbb{E}[X]\le \mathbb{E}[Y]. \] 另外，若随机变量满足上界或下界，例如 \(X\le c\)，则期望也会被相应地限制：\(\mathbb{E}[X]\le c\)。这体现了“加权平均不会超出值域的外边界”的直觉。
2.3 非负性与零期望的判别直觉
若 \(X\ge 0\) 且期望存在，则 \[ \mathbb{E}[X]\ge 0. \] 当 \(X\ge 0\) 且 \(\mathbb{E}[X]=0\) 时，通常可推出 \(X=0\) 在几乎处处意义下成立。直觉上：一个非负量如果平均下来为零，就意味着它几乎没有“正的贡献”。
2.4 可加性与方差相关的基本关系
虽然期望本身不等于方差，但期望与方差之间有基础联系。常见恒等式包括：
- 对平方的期望：
\[ \mathrm{Var}(X)=\mathbb{E}\big[(X-\mathbb{E}[X])^2\big]=\mathbb{E}[X^2]-(\mathbb{E}[X])^2. \]
- 对独立情形下的可加性（这里是方差层面的性质）：
若 \(X,Y\) 独立且方差存在，则 \[ \mathrm{Var}(X+Y)=\mathrm{Var}(X)+\mathrm{Var}(Y). \] 这些关系体现了期望作为“中心”在随机波动度量中的作用。
2.5 Jensen 不等式的启发性联系（用于理解加权平均的上下界）
Jensen 不等式指出：对凸函数 \(\varphi\)，有 \[ \varphi(\mathbb{E}[X])\le \mathbb{E}[\varphi(X)]. \] 它可以视为“加权平均与函数作用顺序”的比较原则：先加权平均再代入凸函数，结果不会超过先对每个取值代入再加权平均。该思想有助于理解期望作为加权平均的“上下界行为”，并在风险评估与误差界中经常出现。
3 计算方法
3.1 直接求和（离散分布）
离散型随机变量可直接套用求和公式。步骤通常是：
- 列出所有可能取值 \(x_i\)；
- 查明对应概率 \(p_i\)；
- 计算 \(\sum_i x_i p_i\)。
当可取值较多时，需注意求和是否收敛，以及数值计算中可能出现的精度问题。
3.2 积分求解（连续分布）
连续型情形使用积分定义。实践中往往依赖密度函数已知且积分可计算。典型步骤为：
- 确认 \(f_X(x)\)；
- 计算 \(\int x f_X(x)\,dx\)。
若分布对称且期望函数为奇函数，也可能利用对称性快速简化计算。
3.3 由分布函数/密度变换计算
有时密度不易获得，但分布函数 \(F_X(x)\) 更容易使用。期望可在某些情形下通过分部积分或与尾分布表达的联系计算。该方法的核心是：仍然遵循“按分布权重平均”的原则，只是把权重以更适合已知信息的形式写出来。
3.4 变量变换与 Jacobian（连续情形常见技巧）
当随机变量以变换方式出现，例如 \(Y=g(X)\)，且希望计算 \(\mathbb{E}[Y]\) 或 \(\mathbb{E}[h(Y)]\)，常见做法是进行变量替换以获得新的积分表达。对于多维情形，通常需要使用 Jacobian 行列式修正密度，从而保证积分权重正确传递。
3.5 级数展开与数值近似的思路（概念层面）
当解析形式难以得到时，可用近似策略把期望表达为可计算的级数或数值积分。例如：
- 对可微函数进行展开，再在期望算子下逐项处理（需满足交换求和与期望的条件）；
- 使用数值积分或采样估计（在后续“方法学视角”中更容易理解其来源）。
这些做法强调：计算期望的核心仍是“加权平均”，只是把权重评估成更可操作的形式。
4 条件与扩展
4.1 条件概率加权期望（条件期望）
条件期望刻画在“已知某些信息”条件下随机变量的平均水平。形式上，\(\mathbb{E}[X\mid \mathcal{G}]\) 是一个随给定信息而变化的随机量，其在满足可积性条件下被定义为与“给定信息的可测函数”之间的最佳平均一致性对象。
直觉上，条件期望相当于：把样本空间按给定信息分组，然后在每个组内做概率加权平均，再把组别结果组合起来。
4.2 全期望公式（迭代求平均的思想）
全期望公式（也常称迭代期望）指出在适当条件下： \[ \mathbb{E}[X]=\mathbb{E}\big[\mathbb{E}[X\mid \mathcal{G}]\big]. \] 它说明：先在条件层面完成一次“加权平均”，再对条件结果做一次外层加权平均，最终回到无条件期望。这强化了期望运算作为“平均”的一致性。
4.3 条件期望的“再加权”解释
条件期望可以理解为通过条件概率改变了权重。例如在给定事件 \(A\) 的条件下，某些取值的权重变为 \(P(X=x\mid A)\)。因此条件期望是“用条件概率重新分配权重后的平均”，它与无条件期望的区别主要体现在权重分布被更新。
4.4 多变量情形：联合分布加权
对多变量随机变量 \((X,Y)\)，期望可通过联合分布进行加权。例如 \[ \mathbb{E}[X]=\int x\, dF_{X}(x) \] 等价地也可以从联合分布出发计算。若需要计算 \(\mathbb{E}[g(X,Y)]\)，则权重来自联合分布： \[ \mathbb{E}[g(X,Y)]=\iint g(x,y)\, dF_{X,Y}(x,y). \] 当只关心某个变量时，通常会通过边缘化把联合分布“投影”为该变量的分布，再做加权平均。
4.5 其他加权形式：重要性采样视角（作为方法学理解）
重要性采样是一类用于估计期望的技术：它并不改变“目标期望”定义，而是改变采样分布以提高计算效率。核心思想可以概括为：在不同分布下采样时，每个样本需要用权重（通常与密度比相关）进行校正，才能恢复到目标分布的“正确概率加权平均”。在方法学意义上，它是概率加权思想的计算实现变体。
5 应用场景
5.1 随机收益/损失的平均评估
在风险与绩效评估中，收益或损失常被视为随机变量。期望值提供一个集中度量：把各种可能结果按其发生可能性加权后，得到长期平均表现。它常作为基准指标被用来比较不同方案或策略。
5.2 风险度量中的“加权平均”直觉
期望相关指标常用于风险分析框架中，例如通过对损失函数的加权平均得到某种“平均风险”视角。尽管真实风险评估往往还会考虑尾部波动，但期望作为加权平均基础，为更复杂的风险度量提供起点。
5.3 统计估计与模型预测的汇总
在统计建模与机器学习中，模型输出的随机性（例如参数不确定性、观测噪声）可通过期望进行汇总：预测结果可被表示为随机变量的分布，再以期望形成“预测的中心估计”。如果模型提供了完整分布信息（而非单点预测），期望尤其便于解释与对比。
5.4 排队/排程等随机过程中的平均指标
排队系统、作业调度、网络流量等场景往往包含随机到达时间与服务时间。通过对等待时间、队长规模、完成时间等随机量求期望，可以获得系统在长运行下的平均水平。这类指标常用于容量规划、性能评估与参数调优。
5.5 决策论与策略评价中的期望效用框架（中性表述）
在决策分析中，策略的效果可被建模为随机效用或随机回报。若把效用函数视为随机变量的函数，则期望效用等价于对效用按结果概率进行加权平均。由于效用函数的形状可反映对高低结果的偏好（例如风险厌恶或偏好），该框架中期望运算承担“把随机结果汇总为单一评价”的作用。
6 常见误区与澄清
6.1 概率加权期望 ≠ 简单算术平均
简单算术平均假设各取值权重相同；而概率加权期望要求权重等于发生概率（或概率密度所对应的权重）。当分布不均匀时，两者结果可能明显不同。
6.2 忘记密度/概率质量的差异
在连续情形中，不能把密度 \(f_X(x)\) 当作“点概率”；正确做法是在积分里让密度作为权重参与计算。许多混淆来自于把离散概率 \(p_i\) 与连续密度直接类比，但二者在含义上并不相同。
6.3 期望存在性：可积性条件的忽略
| 并非所有随机变量都能定义有限期望。若 \(\mathbb{E}[ | X | ]=\infty\)，则 \(\mathbb{E}[X]\) 可能不存在或不可用。忽略这一点会导致计算看似进行下去但结果不合理，或出现发散。 |
|---|
6.4 条件期望中的“条件对象”选错
条件期望依赖你“给定了什么信息”。例如 \(\mathbb{E}[X\mid Y]\) 与 \(\mathbb{E}[X\mid \mathcal{G}]\) 可能在信息粒度上不同，结果也会变化。把条件对象理解错，等同于对权重分组方式产生错误，从而得到偏差结论。
6.5 对极端尾部分布的直觉偏差
对偏态或重尾分布，少量极端取值可能对期望产生显著影响。仅凭“多数情况看起来不大”会低估尾部权重；反过来，某些分布甚至导致期望不存在。理解这一点有助于避免把期望当作总能代表“典型结果”的单一描述。
7 相关概念索引
7.1 方差与标准差（与平均的互补度量）
方差度量围绕期望的离散程度，标准差提供与原量同量纲的波动指标。它们与期望共同构成“中心位置 + 波动幅度”的常用组合。
7.2 协方差与相关性（联合权重的延伸）
协方差刻画两个随机变量共同变化的方向与强度，相关系数在归一化后便于跨量纲比较。它们可视为联合分布加权信息的延伸表达。
7.3 生成函数/矩（用来组织期望信息）
矩是对随机变量取幂后进行期望加权的结果；生成函数则在更抽象层面系统组织这些矩。通过这些工具，可以更结构化地研究期望及其更高阶统计量。
7.4 边缘分布与投影（多变量加权的来源）
边缘分布来自对联合分布的边缘化，即对其他变量进行“汇总平均”（本质上也是加权思想的应用）。在多变量问题中，它解释了为何对单变量求期望往往可以从联合结构推导。