1 基本概念
1.1 定义
多保真优化是指在优化过程中同时利用不同精度、不同成本的模型或数据源，以较低的整体代价逼近高质量解的方法。其基本思路并非完全依赖昂贵的高精度评估，而是借助廉价近似模型进行广泛搜索，再用高精度模型进行关键验证与修正。
1.1.1 保真度的含义
保真度通常用来描述模型对真实系统的逼近程度。保真度越高，模型越接近实际情况，计算往往也越耗时；保真度越低，模型通常更简化，速度更快，但误差也更大。不同保真层之间常在网格密度、物理细节、仿真时长或数据质量上存在差异。
1.1.2 多保真优化的核心目标
多保真优化的核心目标是在可接受的资源约束下，尽可能提高最终解的质量。它强调在“成本”和“精度”之间进行协调：低保真模型用于快速探索，高保真模型用于确认趋势、修正偏差并获得可靠结果，从而减少高成本评估的数量。
1.2 与单保真优化的区别
单保真优化通常只使用一种模型或一种数据精度，流程较为直接，但当该模型计算代价很高时，整体搜索会变得缓慢。多保真优化则通过引入多个层级的近似，扩展了搜索策略的灵活性。
1.2.1 计算成本差异
在单保真框架中，每一次评估都需要调用同等成本的模型，因此总开销与评估次数高度绑定。多保真方法允许大量使用低成本评估，把昂贵的高保真调用集中在最有价值的候选点上，因而更适合仿真复杂或实验昂贵的场景。
1.2.2 精度与效率权衡
单保真优化更强调一致性，结果解释较为简单；多保真优化则需要同时处理不同模型间的偏差与相关性。前者在问题规模较小、评估不昂贵时较为直接，后者在资源受限、搜索空间较大时通常更具优势。
1.3 典型应用场景
多保真优化常出现在计算代价高、试错成本大的领域。其优势在于能够把粗略探索与精细验证结合起来，提升整体搜索效率。
1.3.1 工程设计优化
在工程设计中，常见的流体仿真、结构分析和热管理问题都可能需要大量计算。多保真方法可利用简化模型快速筛选设计方案，再通过高精度仿真确认最终参数。
1.3.2 机器学习模型调参
在机器学习中，训练一次完整模型可能耗时较长。多保真优化可通过少量训练轮次、子数据集或简化结构进行预估，再逐步提升到完整训练，以更少成本完成超参数搜索。
1.3.3 材料与药物筛选
材料筛选和药物候选评估往往涉及复杂模拟或实验验证。多保真策略可以先用计算便宜的近似指标进行初筛，再对少数候选进行高精度计算或实验测试，从而提高筛选效率。
2 理论基础
2.1 保真模型的类型
多保真优化的前提，是存在多个层级的模型或数据来源，并且这些层级之间具有一定相关性。不同类型模型在成本、精度和适用范围上各不相同。
2.1.1 低保真模型
低保真模型通常结构简单、计算快，适合用于广泛探索。它可能基于粗网格、简化物理假设、较少训练轮次或少量样本构建，虽然误差较大，但能较早提供方向性信息。
2.1.2 高保真模型
高保真模型更接近真实系统，能够提供更准确的评估结果，但计算费用通常显著更高。它常被视为优化目标的最终参考标准，用于校正低保真模型的偏差。
2.1.3 中间保真模型
中间保真模型位于两者之间，既比低保真模型更精细，又比高保真模型更经济。引入这一层级有助于平滑不同精度之间的过渡，提升信息利用效率。
2.2 模型相关性
多保真方法能否有效工作，关键在于不同层级之间是否存在稳定的相关关系。如果低保真输出与高保真结果缺乏一致性，多保真融合的收益就会明显下降。
2.2.1 误差结构
误差结构描述的是各保真模型偏差的形式与规律。例如，低保真模型可能总体趋势正确，但在局部区域存在系统性偏移。识别这种误差结构，有助于设计更有效的修正机制。
2.2.2 相关性建模
相关性建模用于刻画不同保真层之间的映射关系，常见方式包括线性相关、非线性变换以及层级条件建模等。其目标是把低成本信息转化为对高保真目标有用的先验知识。
2.3 优化目标与约束
多保真优化不仅关注目标函数本身，也要考虑资源、可行性和多目标权衡等因素。不同问题往往需要不同的建模形式。
2.3.1 单目标优化
单目标优化以一个性能指标为核心，例如最小化能耗、误差或成本。此类问题中，多保真策略主要用于加速寻找最优点。
2.3.2 多目标优化
多目标优化同时处理多个相互制约的指标，如性能、稳定性与成本。多保真方法可帮助更快地逼近帕累托前沿，提高候选解筛选效率。
2.3.3 约束优化
约束优化要求解满足特定条件，例如安全边界、结构强度或资源上限。多保真框架可将可行性判断与目标评估分层处理，以减少对高成本约束检查的依赖。
3 方法框架
3.1 代理模型方法
代理模型用于以较低代价近似原始目标函数，是多保真优化中的重要工具。它能够将有限观测推广到更大搜索空间，并配合不确定性估计指导采样。
3.1.1 高斯过程
高斯过程因具备良好的不确定性表达能力，常被用于多保真优化。它不仅能给出预测值，还能估计预测方差，从而帮助判断下一步应在哪一层模型上进行查询。
3.1.2 多层代理模型
多层代理模型将不同保真层分别建模，再通过层间关系进行耦合。这样既保留了各层信息特点，也便于在不同精度之间传递知识。
3.1.3 误差校正模型
误差校正模型直接学习低保真输出与高保真结果之间的差值或映射。它能够把低成本预测修正为更接近高保真答案的估计，常用于提升低保真模型的实用价值。
3.2 贝叶斯优化
贝叶斯优化适用于目标评估昂贵、样本数量有限的场景。其基本流程是利用代理模型拟合目标，再通过采集函数决定下一次最值得评估的位置。
3.2.1 采集函数设计
采集函数用于平衡探索与利用，决定应优先尝试潜在最优区域，还是去不确定性较高的区域获取新信息。在多保真场景中，采集函数还需考虑不同评估层级的成本差异。
3.2.2 低成本预筛选
低成本预筛选是一种常见策略，即先用廉价保真层生成大量候选，再对表现较好的少数方案进行高保真检查。这样可减少无效高成本查询，提高资源利用率。
3.2.3 多级查询策略
多级查询策略根据当前信息状态决定调用哪个保真层。某些情况下先查询低保真以缩小范围，再视结果决定是否升级到高保真，这种逐级推进的方式较为灵活。
3.3 采样与实验设计
采样策略直接影响多保真优化的效率与质量。合理的实验设计可以在有限预算下尽快获取有价值的信息。
3.3.1 自适应采样
自适应采样会根据当前模型不确定性、候选点表现或历史数据动态选择下一批样本。它比静态采样更能针对问题关键区域进行加密。
3.3.2 主动学习
主动学习强调“让模型决定该问什么”。在多保真优化中，算法会优先选择最能减少不确定性或最可能改善目标的位置进行评估。
3.3.3 拉丁超立方采样
拉丁超立方采样是一种常用的空间覆盖采样方法，适合在初期获得较均匀的样本分布。它常被用于构建初始数据集，为后续的多保真建模提供基础。
3.4 信息融合方法
信息融合的任务，是将不同保真层提供的结果整合为统一的决策依据。融合方式决定了多保真系统如何吸收各层优势并抑制偏差。
3.4.1 加权融合
加权融合按照各模型的可信度或成本分配不同权重，将多个预测结果组合起来。权重可固定，也可随数据更新而动态调整。
3.4.2 层级融合
层级融合通过自下而上的方式逐步整合信息，常见于递归建模或级联预测结构。该方法有助于保持各保真层之间的逻辑一致性。
3.4.3 协同建模
协同建模强调各保真层共享部分结构信息，同时保留差异化表达。它能够把相关但不完全相同的数据源联合利用，增强整体建模能力。
4 典型算法
4.1 基于协同克里金的算法
协同克里金是多保真建模中较经典的方法之一，适合处理层级相关且高保真数据稀缺的情况。它以相关结构为基础，将低保真信息引入高保真预测。
4.1.1 经典协同克里金
经典协同克里金通常假设高保真响应可由低保真响应经过线性缩放和残差修正得到。该方法实现相对清晰，常作为多保真代理建模的基础框架。
4.1.2 递归协同建模
递归协同建模将多个保真层按顺序串联，每一层都在前一层结果基础上继续修正。它适合层级较多的场景，能够逐步提升预测精度。
4.2 基于多保真贝叶斯优化的算法
这类算法将多保真模型与贝叶斯决策机制结合，重点在于利用有限预算做出更划算的查询选择。它们尤其适合评估代价高且样本稀缺的问题。
4.2.1 多信息源优化
多信息源优化把不同来源的观测视为可联合使用的信息渠道。算法会根据各来源的可信度、成本和当前收益，决定调用哪一种信息源。
4.2.2 成本敏感优化
成本敏感优化显式把评估费用纳入决策过程，不只追求预测更好，也追求单位成本下的信息增益更高。它是多保真贝叶斯优化中常见的设计思想。
4.3 基于多层神经网络的算法
多层神经网络可用于学习不同保真层之间的非线性映射关系，尤其适合复杂系统中难以手工刻画的偏差结构。其优势在于表达能力较强。
4.3.1 特征共享结构
特征共享结构让不同保真层共同使用部分隐藏表示，从而捕捉共性信息。这样可以减少重复建模，并提升样本利用效率。
4.3.2 误差修正网络
误差修正网络专门学习低保真结果到高保真结果之间的残差。它常与基础预测器配合使用，通过后续修正提高最终输出质量。
4.4 基于进化计算的算法
进化计算方法适合搜索空间复杂、目标函数不易解析的问题。结合多保真机制后，可在群体进化过程中使用不同层级评估提升搜索速度。
4.4.1 多保真遗传算法
多保真遗传算法在选择、交叉和变异过程中引入不同精度的评价方式。低保真评估可用于早期筛选，高保真评估则用于确认优良个体。
4.4.2 多层粒子群优化
多层粒子群优化通过多种粒子更新规则或多层评价机制来加速收敛。它适合连续参数优化，也常用于需要快速定位优值区域的问题。
5 算法设计要点
5.1 保真层选择
保真层选择关系到算法是否能够在成本与精度之间取得合理平衡。层级设置过少可能难以发挥多保真优势，过多则会增加管理复杂度。
5.1.1 保真层数量确定
保真层数量通常取决于模型可获得性、层间差异和预算规模。实际设计中，应优先考虑是否存在足够稳定且有成本梯度的层级结构。
5.1.2 成本分配策略
成本分配策略决定各保真层应投入多少评估次数。常见做法是将大部分预算放在低成本层进行探索，将较少预算留给高成本层做验证。
5.2 采样预算管理
预算管理是多保真优化中的核心实践问题。即便模型设计合理，如果采样分配不当，也可能导致整体效率下降。
5.2.1 评估预算约束
评估预算约束包括时间、计算资源和实验材料等限制。算法设计需要在这些约束下尽可能提高信息获取效率，而不是单纯追求样本数量。
5.2.2 动态预算调整
动态预算调整允许算法根据中途结果重新分配资源。例如，当某一层已经提供足够信息时，可减少其采样比例，把预算转向更有潜力的评估对象。
5.3 相关性估计
相关性估计决定多保真信息能否有效互补。若层间关系估计偏差较大，融合结果可能失真，甚至影响搜索方向。
5.3.1 先验相关性分析
先验相关性分析通常基于历史数据、领域经验或少量预实验结果，用于初步判断各层之间的耦合强弱。它可为模型结构选择提供依据。
5.3.2 在线相关性更新
在线相关性更新会随着新样本加入不断修正层间关系估计。这样可以让模型适应系统变化，避免早期假设长期主导决策。
5.4 收敛与稳定性
收敛与稳定性是评价多保真算法是否可靠的重要方面。一个方法即使初期效率较高，也需要在后期保持稳定改进能力。
5.4.1 全局收敛性
全局收敛性关注算法是否能够在足够多迭代后逼近全局最优区域。多保真框架中，由于存在层间误差，证明这一性质往往更具挑战。
5.4.2 鲁棒性分析
鲁棒性分析主要考察算法对噪声、偏差和模型失配的敏感程度。对于实际应用而言，能够在信息不完整或数据波动下维持稳定表现尤为重要。
6 评价指标
6.1 优化性能指标
优化性能指标用于衡量最终结果是否足够接近理想解，以及搜索过程是否高效。
6.1.1 最优值逼近误差
最优值逼近误差表示当前解与真实最优值之间的差距。该指标越小，说明算法找到高质量解的能力越强。
6.1.2 收敛速度
收敛速度反映算法达到较优解所需的迭代次数或时间。对于多保真方法而言，快速收敛往往意味着低保真信息得到了有效利用。
6.2 计算效率指标
计算效率指标强调在有限资源下完成优化任务的能力，是多保真方法区别于传统方案的重要维度。
6.2.1 评估次数
评估次数记录模型被调用的总数量，尤其要关注高保真评估的数量。由于高保真通常最昂贵，因此减少其调用次数是常见目标。
6.2.2 总计算成本
总计算成本综合考虑不同保真层的单次费用与调用频率。它比单纯的样本数更能真实反映多保真优化的资源消耗。
6.3 模型质量指标
模型质量指标主要用于衡量代理模型或融合模型本身的可靠程度。
6.3.1 预测精度
预测精度描述模型对目标函数的拟合能力。较高的预测精度通常有助于更准确地筛选候选点，但并不总是等同于最优优化效果。
6.3.2 不确定性估计
不确定性估计用于量化模型对预测结果的把握程度。在多保真优化中，这一指标常直接影响下一轮采样策略的选择。
7 应用领域
7.1 航空航天设计
航空航天设计通常涉及高成本仿真与严格性能要求，因此很适合采用多保真优化提升设计迭代效率。
7.1.1 气动外形优化
气动外形优化旨在改善升阻比、稳定性或能耗表现。多保真策略可先用简化流体模型快速筛选外形，再用更精细仿真进行确认。
7.1.2 结构参数优化
结构参数优化关注材料分配、厚度配置和连接方式等问题。多保真方法可在保持安全裕度的前提下，减少高精度结构分析的次数。
7.2 能源系统优化
能源系统中存在大量复杂耦合问题，评估成本与试验周期通常较高，多保真优化因此具有较强实用性。
7.2.1 风机布局优化
风机布局优化需要平衡发电效率、尾流影响和场地约束。低保真气流模型可用于快速搜索布局方案，高保真模拟则用于精细校核。
7.2.2 电池材料筛选
电池材料筛选涉及性能、稳定性与成本等多个指标。多保真方法可结合计算模拟、简化实验和精细测试，提升筛选效率。
7.3 机器学习与数据科学
在机器学习任务中，训练和评估成本常随模型复杂度显著增加，多保真优化因此成为常用的加速工具。
7.3.1 超参数搜索
超参数搜索是多保真优化的典型应用之一。通过少量训练轮次或子样本评估候选配置，可以更快找到较优参数组合。
7.3.2 神经网络结构选择
神经网络结构选择涉及层数、宽度、连接方式等决策。多保真策略可借助较小网络或短训练过程进行初筛，再对少数结构进行完整训练。
7.4 生物医药与化学
生物医药与化学领域常需要面对大量候选对象和高昂验证成本，因此多保真优化有助于加速早期发现流程。
7.4.1 分子性质优化
分子性质优化关注溶解度、稳定性和活性等指标。多保真模型可将粗略计算结果与高精度模拟结合，用于指导分子设计。
7.4.2 药物候选筛选
药物候选筛选通常需要从大量化合物中挑出少数有前景者。多保真方法能先用低成本评估缩小范围，再集中资源分析重点对象。
8 挑战与发展
8.1 理论挑战
多保真优化在理论上仍有不少未完全解决的问题，尤其是关于模型偏差、收敛保证和层间关系刻画的部分。
8.1.1 保真偏差建模
保真偏差往往具有非线性、局部性和问题依赖性，难以用统一形式表达。如何准确建模这种偏差，是提升方法可靠性的关键。
8.1.2 收敛理论完善
多保真算法的收敛性分析比单保真情形更复杂，因为不同层级会共同影响搜索路径。构建更一般的理论框架仍是研究重点。
8.2 实践挑战
在实际应用中，多保真方法不仅要有效，还要易用、稳健并能适应复杂环境。
8.2.1 高维问题处理
当参数维度较高时，搜索空间迅速扩大，低保真信息的利用也会变得更困难。如何在高维条件下保持采样效率，是实际部署中的难点之一。
8.2.2 噪声与缺失数据
真实数据常带有噪声，且不同保真层之间可能存在缺测或不对齐现象。算法需要具备处理不完整信息的能力，才能稳定运行。
8.3 发展方向
多保真优化未来的发展，通常围绕更强的建模能力、更自动化的决策流程以及更紧密的系统集成展开。
8.3.1 与深度学习结合
深度学习可增强多保真模型对复杂非线性关系的表达能力，尤其适合高维输入和复杂数据结构。两者结合有望提升特征提取与误差修正效果。
8.3.2 与自动化实验平台结合
与自动化实验平台结合后，多保真优化可以形成“建模—决策—实验—反馈”的闭环流程。这样能够进一步减少人工干预，加快新材料、新配方和新结构的探索速度。