1 概念与定义
1.1 基本含义
预测编码是一类解释认知与信息处理过程的理论框架，强调系统会依据已有经验主动生成对外界输入的预期，并将真实输入与预期结果进行比较。若两者存在差异，系统便会借助误差信号调整内部表征，从而使后续预测更贴近实际情况。该概念既可用于描述大脑的信息加工，也可扩展到一般计算与建模方法。
1.2 核心思想
其核心在于“先预测、再校正”。系统并非被动等待信息到来，而是持续构建对环境的假设，并用新输入检验这些假设的有效性。通过不断迭代，内部模型能够逐渐提高对外部世界的适应程度。
1.2.1 预测与误差比较
预测编码强调对输入进行前置估计，再将估计结果与感知信号进行对照。差异越大，说明原有预测越不准确，系统越需要更新内部模型。此过程使信息处理带有明显的比较和筛选特征。
1.2.2 反馈修正机制
当预测与实际输入不一致时，系统会利用反馈将偏差传回上层表征结构，并据此修正下一轮预测。反馈修正并不总是改变全部模型，而通常针对误差来源进行局部调整，以提高整体效率。
1.3 相关术语辨析
1.3.1 预测模型
预测模型是用来估计未来状态或未知输入的表征系统，强调对结果的提前计算。它可以是统计模型、认知模型，也可以是算法中的推断模块。
1.3.2 预测误差
预测误差指预测结果与真实观测之间的差值，是系统更新的重要依据。误差既可能反映模型偏差，也可能反映外部环境变化。
1.3.3 生成模型
生成模型更侧重于描述数据如何由潜在结构产生，常用于解释感知中的主动构建过程。与单纯分类模型相比，它不仅判断“是什么”，还试图说明“为何会这样出现”。
2 理论基础
2.1 信息处理视角
从信息处理角度看，预测编码把认知系统视为一个持续压缩、推断和更新信息的装置。有限资源下，系统通过保留关键结构并忽略冗余部分来提升处理效率。
2.1.1 自上而下处理
自上而下处理指高层经验、背景知识或情境信息对低层感知的影响。预测编码认为，高层结构不断向下发送预测，以约束对局部信号的解释。
2.1.2 自下而上输入
自下而上输入是由感官通道传入的原始数据或局部特征。它为高层判断提供校验基础，并在出现偏差时触发模型修正。
2.2 认知科学基础
预测编码与认知科学中的感知、注意、学习等议题关系密切。它试图说明大脑如何在不完整信息中形成稳定判断，并在变化环境里保持灵活性。
2.2.1 感知推断
感知并非简单复制外界，而是包含推断成分。系统会结合线索、情境和历史经验，对刺激源进行解释，这使得知觉具有一定的补全与选择性。
2.2.2 先验经验的作用
先验经验为当前判断提供初始方向，能够缩短处理时间并提高识别效率。经验越丰富，预测往往越稳定，但在新奇情境中也更容易出现偏差。
2.3 贝叶斯框架
预测编码常与贝叶斯推断联系在一起，因为两者都强调在不确定条件下更新信念。系统会综合先验概率与新证据，形成对当前状态的更优估计。
2.3.1 概率预测
概率预测不是给出单一确定结果，而是评估不同结果出现的可能性。这样可以更好地处理模糊输入和不完整信息。
2.3.2 误差信号更新
误差信号被视为更新信念的重要依据。新证据若与原有判断差距较大，模型参数就会朝更能解释观测数据的方向调整。
3 工作机制
3.1 内部模型生成
预测编码依赖内部模型来表示外部环境。该模型通常由经验积累而来，并随着输入变化不断被重建和细化。
3.1.1 环境表征
环境表征是对外部世界结构的抽象编码，通常包含对象属性、关系模式与时序规律。它使系统能够在不直接接触全部细节时仍作出推断。
3.1.2 未来状态估计
未来状态估计是基于当前信息对下一时刻结果进行推演。此类估计有助于系统提前准备响应，并降低对突发变化的处理成本。
3.2 误差检测与传递
当现实输入进入系统后，预测结果会被检验。若出现差异，误差会被检测并传递到相关层级，作为重新计算的依据。
3.2.1 预测不一致
预测不一致表示实际观测没有满足当前假设。它既可能出现在细节层面，也可能出现在整体结构层面，是模型更新的重要触发点。
3.2.2 误差放大与抑制
系统会根据误差的重要程度对其进行放大或抑制。重要偏差通常会被优先处理，而无关波动则可能被过滤，以避免资源浪费。
3.3 模型校正
模型校正是预测编码循环中的关键环节。通过不断调整表示方式，系统逐步提高预测精度和适应性。
3.3.1 参数调整
参数调整指对权重、连接强度或其他模型变量进行修正。它通常反映系统对新信息的吸收程度。
3.3.2 学习速率变化
学习速率决定系统更新的快慢。在稳定环境中，较低学习速率有助于保持结构一致；在变化频繁的环境中，更高的更新速度则可能更合适。
4 主要应用领域
4.1 感知与知觉
预测编码最常见的应用领域之一是感知研究。它用于说明大脑如何从不完整信号中提取意义，并对复杂场景做出快速反应。
4.1.1 视觉预测
视觉系统会根据已有场景结构预估即将出现的图像内容，因此对熟悉物体的识别往往更快。若实际画面与预期差异明显，注意就更容易被吸引过去。
4.1.2 听觉预测
听觉处理中也存在对节奏、音高和语音模式的预期。人们能够在噪声环境中辨认熟悉语句，部分原因就在于大脑会利用上下文补全信息。
4.2 学习与记忆
预测编码可解释学习如何通过误差积累发生，也可说明记忆为何会偏向保留与预测相关的内容。
4.2.1 模式学习
系统在反复接触样本后，会提炼其中的重复结构与变化规律。模式越清晰，后续预测越容易，也越能减少冗余处理。
4.2.2 经验积累
经验积累为未来判断提供基础，使系统逐渐形成稳定偏好。随着经历增加，某些常见情境下的反应会变得更自动化。
4.3 人工智能与机器学习
在人工智能中，预测编码思想常用于构建能利用上下文进行推断的模型。它特别适合处理序列数据和需要持续更新的任务。
4.3.1 序列预测
序列预测关注时间上连续的数据变化，如文本、语音或传感器流。模型通过前文信息估计后续内容，从而提高生成或识别效果。
4.3.2 异常检测
当输入明显偏离模型习惯模式时，可被视为异常。预测编码式方法常利用这种偏差来识别故障、罕见事件或数据污染。
4.3.3 自监督学习
自监督学习依赖数据内部结构自动构造训练目标，与预测编码在“用已知部分预测未知部分”的思路上较为接近。它能够减少对人工标注的依赖。
4.4 信号处理
在信号处理领域，预测编码被用于提高传输与存储效率。其关键是利用信号的可预测部分减少需要显式编码的信息量。
4.4.1 噪声抑制
通过建立信号的规律性预测，系统可以将随机扰动与真实结构区分开来。这样有助于降低噪声对结果的干扰。
4.4.2 数据压缩
数据压缩常借助预测器先估计后续样本，再只记录与预测相关的差异。若信号具有较强连续性，这种方法通常能显著减少冗余。
5 神经机制与生理基础
5.1 神经元活动模式
神经科学研究发现，神经活动常呈现出与预期相关的动态变化。预测编码将这种变化解释为预测与误差在不同神经群中的分工表达。
5.1.1 放电预测
部分神经元活动会随预期刺激提前变化，表现出对即将到来信息的准备性响应。这种现象被视为预测加工的生理基础之一。
5.1.2 误差信号编码
另一些神经元则更可能对偏差作出强烈反应，负责传递“不符合预期”的信息。误差信号的强弱往往与偏差程度有关。
5.2 脑区参与
预测编码通常不是单一脑区完成的，而是多个区域协同参与。不同层级的脑区分别负责较粗略或较细致的处理。
5.2.1 感觉皮层
感觉皮层在处理局部输入和基本特征方面具有重要作用。它不仅接收外部刺激，也会受到来自更高层区域的调节。
5.2.2 联合皮层
联合皮层更擅长整合多种信息，形成更复杂的场景解释。它常被认为在高层预测和上下文整合中发挥较大作用。
5.3 神经递质与调节
神经递质和相关调控机制会影响预测编码的效率与灵活性。它们决定系统对新信息的敏感度以及对误差的反应方式。
5.3.1 注意调节
注意会改变信息在系统中的优先级，使重要输入获得更强权重。这样一来，预测误差更容易被放大并进入后续处理。
5.3.2 奖赏相关调控
与奖赏相关的调控机制能够影响学习更新的幅度。若某类结果被反复证明有价值，系统往往会更积极地保留相关预测结构。
6 经典模型与方法
6.1 预测编码网络
预测编码网络是将理论具体化的一类模型，通常由多个层级构成，并在层间传递预测和误差信息。
6.1.1 分层结构
分层结构使较抽象的表征位于上层，而局部细节则由下层处理。每一层既接收来自下层的输入，也向下层发出预测。
6.1.2 循环反馈
循环反馈是该类网络的重要特征。信息在层间反复往返，使模型得以不断修正并逐步收敛。
6.2 主动推断
主动推断将感知与行动视为统一过程，强调系统不仅预测世界，也会通过行为改变所处情境，以减少不确定性。
6.2.1 感知行动整合
该方法认为感知和行动并非彼此独立，而是共同服务于误差最小化。行动可以改变输入条件，感知则为行动提供依据。
6.2.2 目标导向更新
系统会围绕目标状态更新自身估计，并选择有利于接近期望结果的策略。这样的更新方式使行为具有更强的方向性。
6.3 层级贝叶斯模型
层级贝叶斯模型为预测编码提供了较规范的数学表达。它通过多层概率结构来描述从低级数据到高级假设的推断过程。
6.3.1 多层先验
多层先验表示不同层级都有各自的背景假设。高层先验通常更抽象，低层先验则更贴近具体输入。
6.3.2 逐层推断
逐层推断指模型从底层证据逐步上升到高层解释，再将高层结果反向约束低层判断。此过程有助于形成一致的整体解释。
7 实验研究与验证
7.1 行为实验
行为实验主要观察人在刺激变化下的反应差异，用以检验预测编码是否能解释实际表现。
7.1.1 反应时研究
反应时研究发现，对可预测刺激的反应往往更快，而对意外刺激的反应通常更慢。此类结果支持系统会预先准备较可能的答案。
7.1.2 期待违背效应
当实验材料打破既有预期时，参与者常出现更强注意、更长停顿或更明显错误率变化。这说明预测失配会显著影响行为输出。
7.2 神经影像研究
神经影像技术用于观察不同脑区在预测与误差处理中的活动模式，为理论提供生理层面的证据。
7.2.1 功能磁共振成像
功能磁共振成像能够显示与预测、匹配和误差相关的脑区激活差异。研究者常据此分析层级信息处理的分布情况。
7.2.2 脑电与事件相关电位
脑电与事件相关电位具有时间分辨率高的特点，适合捕捉刺激出现后快速变化的误差信号。它们常被用于研究期待形成与违背时的瞬时反应。
7.3 计算模拟
计算模拟通过建立形式化模型来检验理论假设是否合理，并评估不同参数设定下的表现。
7.3.1 模型拟合
模型拟合关注理论输出与实际数据之间的一致程度。若拟合较好，说明该模型能够较有效地刻画观测规律。
7.3.2 参数比较
参数比较用于分析不同设定对结果的影响，从而判断哪些机制更符合数据。它有助于区分近似解释与更有约束力的解释。
8 争议与局限
8.1 理论可证伪性
预测编码的一个常见争议在于其解释能力较强，但有时也因此显得边界不够清晰。若理论能够解释太多现象，便可能难以明确反驳。
8.1.1 解释范围过宽
由于预测、误差和更新几乎可用于描述很多认知现象，理论有时会被认为过于包容。范围过宽会削弱其作为严格假说的辨识度。
8.1.2 预测不足问题
一些批评指出，该理论在具体实验情境下未必总能给出足够明确、独特的前瞻性预测。缺少精确预言时，验证难度会增加。
8.2 与其他理论的关系
预测编码并不总是取代其他认知理论，而是与多种模型存在重叠或互补关系。
8.2.1 传统感知理论
传统感知理论更强调刺激驱动的加工路径，而预测编码则突出内部预期的作用。两者差异在于对主动推断与被动接收的权重分配不同。
8.2.2 强化学习模型
强化学习模型主要关注奖赏、选择和价值更新，预测编码则更侧重感知误差与模型修正。二者在某些任务中可以结合使用，但关注点并不完全一致。
8.3 适用边界
预测编码在许多稳定任务中表现良好，但在某些复杂场景下，其解释力可能受到限制。
8.3.1 高噪声环境
在噪声极强、可辨识结构很弱的环境中，系统难以形成稳定预测。此时误差信号可能过于分散，导致更新效果不明显。
8.3.2 复杂动态系统
面对高度动态、规则频繁变化的系统时，旧经验可能迅速失效。模型若更新不够及时，便容易出现持续偏差。
9 相关概念
9.1 预测处理
预测处理是与预测编码密切相关的一组思想，强调认知系统通过持续预测来组织信息流。
9.1.1 预测脑理论
预测脑理论将大脑描述为主动建构预测的器官，认为其核心任务之一是通过最小化意外来提升适应性。
9.1.2 自由能原理
自由能原理尝试用更一般的数学框架说明系统如何避免长期的高不确定状态。它与预测编码在思想上高度相容。
9.2 误差驱动学习
误差驱动学习指根据预测偏差来调整模型参数的学习方式，是许多机器学习和认知模型的基础机制。
9.2.1 监督学习
监督学习依赖已知标签或目标值，通过输出误差优化模型。其更新过程与预测编码中的误差校正具有相似性。
9.2.2 增量更新
增量更新强调在每次接触新数据后小幅修正模型，而非一次性重建。这样更适合连续环境中的在线学习。
9.3 先验与后验
先验与后验是概率推断中的基本概念，常用于解释预测编码如何结合经验与新证据形成判断。
9.3.1 统计推断
统计推断通过样本信息估计总体状态，与预测编码中的信念更新逻辑相通。两者都重视不确定条件下的合理估计。
9.3.2 经验依赖性
经验依赖性说明当前判断往往受到过往经历的影响。预测编码正是把这种影响制度化为可更新的内部模型。