1 基本概念
1.1 定义与核心思想
定点实现是指将数值以固定的小数点位置进行编码和运算的一类实现方式。与“数值本身带有明确的小数点”不同，定点系统通常在内部用整数存储，再通过约定的小数位数来解释其实际含义。换言之，它的核心思想是“用整数承载带缩放关系的实数”。
这种方式的优势在于结构简单、运算开销低、结果可预测，适合资源受限且需要稳定时延的场合。其设计重点不在于追求极宽的数值范围，而是在给定位宽内尽量平衡精度、动态范围与实现成本。
1.2 定点数与浮点数的区别
定点数与浮点数最显著的差别在于小数点的位置是否可变。浮点数通过尾数和指数共同表示数值，能够覆盖较大的范围；定点数则使用固定的小数位置，范围相对有限，但硬件实现通常更直接。
在运算层面，浮点实现更强调通用性和数值鲁棒性，代价是电路复杂、功耗较高、运算延迟较大。定点实现则更适合重复、规则且可预先分析的数据流，尤其在乘加密集、实时要求高的任务中更有优势。
1.3 定点实现的适用场景
定点实现常见于嵌入式系统、控制器、音视频编解码、传感器采集以及某些边缘端推理任务。这些场景通常具有计算资源有限、成本敏感或功耗受控等特点。
此外，当算法本身对精度要求并非极端苛刻，但对响应速度和实现稳定性要求较高时，定点实现也很合适。对于信号处理中的滤波、卷积和相关运算，定点化往往能够获得较高的性价比。
1.4 相关术语
定点实现涉及若干基础术语，它们共同描述数值在位级上的组织方式与误差特征。理解这些术语，有助于把握定点设计中的缩放、范围和精度问题。
1.4.1 小数点位置
小数点位置是定点表示中最关键的约定之一。它决定了某一位宽数据中，哪些位用于表示整数部分，哪些位对应小数部分。该位置一旦确定，运算和解释方式就随之固定。
1.4.2 缩放因子
缩放因子是将真实数值映射为定点整数时所使用的倍率。通常会把实数乘以某个系数后再取整存储，解码时再除以同样的系数恢复近似值。缩放因子选取得当与否，直接影响可表示范围和精度。
1.4.3 精度与量化误差
精度描述的是定点表示对真实数值的近似能力，通常与小数位数相关。量化误差则是实际值与定点近似值之间的差异，是由有限位宽和舍入规则共同引起的。位数越多，通常误差越小，但资源开销也会增加。
2 数值表示方法
2.1 定点格式分类
定点格式可以按照是否带符号、整数与小数的位数分配方式等进行分类。不同格式适用于不同的数据类型和计算需求，实际设计中往往要结合业务范围进行取舍。
2.1.1 无符号定点表示
无符号定点表示只用于非负数，通常用于计数、亮度值、概率值或归一化后的信号幅度。由于不需要预留符号位，同样位宽下可获得更大的正数表示范围。
2.1.2 有符号定点表示
有符号定点表示可以表达正负数，常采用补码形式存储。它适用于绝大多数需要双向数值范围的计算，例如控制量、误差信号和滤波器内部状态。
2.1.3 纯整数型表示
纯整数型表示可视为不显式引入小数位的特殊定点形式。它常见于计数、索引和离散量运算中，也可作为缩放定点的基础承载格式。其优点是实现最直接，但对连续数值的刻画能力有限。
2.2 数值范围与分辨率
数值范围指在给定位宽下能够表示的最小值与最大值之间的区间，分辨率则表示相邻可表示数之间的最小间隔。一般来说，位宽越大，范围越宽，分辨率也越高，但具体表现还取决于整数位和小数位的分配。
在定点设计中，范围和分辨率往往需要平衡。若小数位过多，精度提升但可表示最大值变小；若整数位过多，则范围扩大但细节分辨能力下降。
2.3 量化与截断
量化是把连续实数映射到有限离散集合的过程，定点实现中通常表现为将运算结果转换成指定格式。截断则是最常见的一种简化处理方式，即直接舍弃超出保留位的部分。
截断实现简单，但误差往往具有方向性，容易引入系统偏差。因此在精度敏感的应用里，截断通常会与更合理的舍入方式配合使用。
2.4 舍入规则
舍入规则决定了在保留有限位数时，如何处理被舍弃部分。不同规则会影响误差分布、统计偏差以及累积结果，在长链路计算中尤为重要。
2.4.1 向零舍入
向零舍入是将数值朝零的方向取整。它实现简单，常用于资源受限的场景，但对正负数都会产生一定偏差。对于长时间累计的计算，这种偏差可能逐渐显现。
2.4.2 四舍五入
四舍五入是最直观也最常见的舍入方式之一。它根据被舍弃部分是否达到半个单位来决定进位与否，通常能够比直接截断获得更小的平均误差。
2.4.3 舍入到偶数
舍入到偶数是一种在统计上更均衡的规则，常用于减少大量重复舍入带来的偏置。它在边界值处会优先保留偶数结果，因此在某些数值处理链中更有利于抑制长期累积偏差。
3 运算机制
3.1 加法与减法实现
定点加法和减法通常可以直接在相同格式下完成，运算本质上接近整数加减。关键在于确保两个操作数的小数位对齐，否则结果的实际含义会发生偏移。
在实现时，若参与运算的数据缩放系数不同，往往需要先统一格式，再进行计算。对有符号定点数而言，还需注意符号扩展与位宽增长带来的边界问题。
3.2 乘法实现
定点乘法会使结果的小数位数相加，因此乘积通常需要重新缩放或截位。与加减相比，乘法更容易产生中间位宽扩张问题，若处理不当，便可能导致溢出或精度损失。
常见做法是在乘积后保留高位并舍弃部分低位，同时结合舍入规则减少误差。对于乘加链路，乘法结果的格式统一尤为重要。
3.3 除法实现
定点除法比加减和乘法更复杂，因为除法结果的小数位可能更长，且需要控制精度损失。通常会通过预缩放、迭代近似或查表等方式实现，以维持可接受的计算效率。
在实际工程中，除法常被改写为乘以倒数，尤其在可预先计算分母倒数的场景中更为高效。不过，这种方法会引入近似误差，需要结合应用容差进行权衡。
3.4 移位运算与缩放调整
移位运算是定点实现中最常见的缩放手段之一。左移和右移分别对应数值放大与缩小，能够用较低代价完成乘除二的幂次操作。
3.4.1 左移放大
左移会使数值按二的幂次扩大，常用于提高某些运算前的有效位利用率，或在进行固定倍率变换时替代乘法。若左移过多，则可能突破表示上限并引发溢出。
3.4.2 右移缩小
右移通常用于缩小数值并恢复到目标格式。它常出现在乘法后的小数位回收、尺度统一或结果归一化过程中。右移时若直接丢弃低位，也会带来量化误差。
3.5 溢出处理
定点运算由于表示范围有限，溢出是必须面对的问题。其处理方式会直接影响结果可靠性、数值连续性以及系统稳定性。
3.5.1 截断溢出
截断溢出是将超出范围的高位直接舍去，结果在位级上回落到可表示区间内。这种方法实现简单，但可能产生明显失真，尤其在边界附近会出现跳变。
3.5.2 饱和溢出
饱和溢出则是在数值越界时将结果固定为最大值或最小值。它的行为比截断更直观，也更便于控制系统分析，因此在音频处理和工业控制中较为常见。
4 设计与优化
4.1 定点化设计流程
定点化设计通常不是简单替换数据类型，而是一个从算法分析到参数落地的系统过程。其目标是在可接受误差范围内，获得更高的执行效率和更低的实现成本。
4.1.1 模型分析
模型分析阶段主要识别算法中的关键变量、敏感环节和动态范围特征。设计者需要了解哪些中间量最容易产生溢出，哪些路径对精度最敏感，以便后续分配合适的位宽。
4.1.2 精度分配
精度分配是根据各变量的重要性和误差容忍度，为其安排整数位与小数位。通常关键路径会分配更多小数位，而对误差不敏感的分支则可适当压缩位宽，以节省资源。
4.1.3 参数标定
参数标定是将理论上的缩放关系和实际输入输出范围对齐的过程。它往往需要结合样本数据、测试工况和边界条件进行反复调整，确保定点模型在真实环境中保持稳定。
4.2 误差分析
误差分析用于评估定点实现相对于原始数值模型的偏离程度。它不仅关注单次运算的偏差，也关注误差在多步计算中的传播与积累。
4.2.1 绝对误差
绝对误差是近似值与真实值之间的直接差值，反映了单个数值点上的偏离幅度。它便于直观衡量局部精度，也常用于比较不同舍入方法的效果。
4.2.2 相对误差
相对误差是绝对误差与真实值之比，更适合衡量不同数量级下的偏差表现。对于幅值变化较大的信号，相对误差往往比绝对误差更具参考价值。
4.2.3 累积误差
累积误差是多次量化、舍入和截位后逐渐叠加形成的偏差。在线性滤波、迭代算法和长链路计算中，这类误差可能持续放大，因此必须在设计阶段加以控制。
4.3 性能优化
定点实现的优化通常围绕速度、存储和功耗三方面展开。它们彼此相关，实际工程中往往需要综合权衡，而不是单独追求某一指标。
4.3.1 计算速度优化
计算速度优化主要通过减少乘除法、利用移位替代部分运算、合并常量缩放以及降低数据搬运开销来实现。对流水线和并行结构的合理利用，也能显著提高吞吐率。
4.3.2 存储空间优化
存储优化通常通过压缩位宽、减少中间变量以及重用缓冲区来完成。较小的数据宽度不仅节省内存，还能降低总线带宽压力，对嵌入式平台尤其重要。
4.3.3 功耗优化
功耗优化与运算复杂度、存储访问次数和数据位宽密切相关。定点实现因为电路结构更简单，通常在同等任务下具有更好的能效表现，适合电池供电或散热受限设备。
5 硬件与软件实现
5.1 软件层定点实现
软件层定点实现是通过程序语言和软件工具来模拟或直接实现定点运算。它灵活性较高，便于调试、验证和跨平台开发。
5.1.1 语言级实现
语言级实现通常依赖整数类型、位运算以及显式缩放控制来完成。开发者需要手动管理格式转换、溢出边界和舍入逻辑，因此代码可读性和维护性要求较高。
5.1.2 库函数支持
一些数值库或信号处理库会提供现成的定点运算接口，简化开发流程。借助这些库，可以减少重复造轮子，同时提高实现的一致性和可测试性。
5.1.3 编译器优化
编译器优化能够对常量折叠、移位合并、循环展开等进行改写，从而提升定点代码的执行效率。若编译器能够识别特定模式，还可能生成更适合目标平台的机器指令序列。
5.2 硬件层定点实现
硬件层定点实现直接在处理器、专用加速器或可编程逻辑中完成定点运算。由于数据路径可按位宽精确设计，因此通常具有更高的能效和更可预测的时延。
5.2.1 处理器中的定点单元
许多处理器都具备整数运算单元，可天然支持定点计算。通过配合移位、乘加指令和饱和指令，能够较高效地完成常见的定点任务。
5.2.2 DSP中的定点运算
DSP架构通常针对乘加密集型处理进行了优化，适合滤波、频谱分析和编码解码等工作负载。其定点能力往往较强，能在固定时钟预算内维持稳定吞吐。
5.2.3 FPGA中的定点逻辑
FPGA中的定点逻辑可按应用需求定制数据通路和位宽结构。由于硬件并行度高且可配置性强，它常用于需要低延迟、可裁剪和可迭代优化的场景。
5.3 软硬件协同实现
软硬件协同实现强调根据任务特点将计算拆分到不同平台，以便同时兼顾灵活性与性能。它在复杂系统中很常见，尤其适用于既要快速开发又要满足实时约束的项目。
5.3.1 算法划分
算法划分是把适合硬件加速的部分与适合软件控制的部分区分开来。一般而言，规则性强、重复度高的计算更适合下沉到硬件，而控制逻辑和异常处理更适合留在软件侧。
5.3.2 接口与数据格式对接
接口对接关注的是不同模块间的数据格式、缩放规则和时序约定是否一致。若前后端对定点格式理解不统一，即使算法正确，也可能出现输出偏差或系统失配。
6 应用领域
6.1 嵌入式控制
在嵌入式控制中，定点实现常用于执行传感反馈、状态估计和控制律计算。其优势在于运算确定性强，易于满足控制周期和成本约束。
6.2 数字信号处理
数字信号处理是定点技术最传统的应用领域之一。滤波器、变换、调制解调和音频处理等任务，都经常采用定点形式以提升运行效率。
6.3 传感器数据处理
传感器数据处理通常面对连续采样、有限分辨率和实时聚合的需求。定点实现便于在低功耗设备上完成数据校准、滤波和特征提取。
6.4 机器学习模型推理
在部分机器学习推理任务中，定点实现可用于降低算力需求并提高部署效率。尤其在边缘环境下，低位宽计算能够在保持可用精度的同时减少资源占用。
6.4.1 低比特量化
低比特量化是将模型参数或激活值压缩到较小位宽的过程。它能显著减轻存储和计算负担，但对精度控制和误差补偿提出更高要求。
6.4.2 边缘设备部署
边缘设备部署通常受限于内存、功耗和实时响应能力，因此常采用定点或低比特方案。通过合理量化与格式设计，模型可以在小型设备上较稳定地运行。
6.5 实时系统
实时系统强调在规定时间内完成计算与响应，定点实现因其时延更可控而被广泛采用。对于周期性任务和硬实时场景，固定的数据路径往往比高度通用的数值方式更易验证。
7 常见问题与挑战
7.1 精度不足
精度不足是定点实现最常见的问题之一。由于位宽有限，某些细微变化可能被舍入或截断抹去，导致输出与原始模型出现可见差异。
7.2 动态范围限制
动态范围限制会使某些输入在极值附近难以被准确表示。若系统在正常运行中经常接近边界，就需要重新调整缩放策略或扩大位宽。
7.3 溢出与下溢
溢出和下溢分别对应数值超过上界和低于下界。前者可能导致结果跳变，后者则可能使细小量在右移或缩放过程中被压缩为零，从而影响稳定性。
7.4 调试与验证困难
定点系统的调试通常比浮点系统更费工夫，因为误差来源往往分散在多个环节，包括缩放、舍入、移位和溢出处理。为了验证正确性，往往需要构建参考模型并逐步比对中间结果。
7.5 可移植性问题
可移植性问题主要来自不同平台对整数位宽、溢出行为、指令集和编译器规则的差异。若实现时依赖了平台特定特性，代码迁移到其他环境后可能出现结果变化。
8 相关技术
8.1 浮点实现
浮点实现使用指数和尾数组合表示数值，具备更强的动态范围与通用性。它在科学计算和高精度场景中应用广泛，但硬件实现复杂度通常高于定点。
8.2 混合精度计算
混合精度计算结合了不同数值格式的优点，常在关键路径保留较高精度，在非关键路径采用较低位宽。它有助于在性能、资源和精度之间取得折中。
8.3 量化计算
量化计算是把连续或高精度数据映射到离散表示上的一类方法。定点实现可以看作量化计算的重要形式之一，尤其在模型压缩和硬件加速中十分常见。
8.4 数值分析
数值分析关注有限精度条件下的误差传播、稳定性和收敛性问题。它为定点设计提供理论支持，帮助评估算法在有限位宽下是否仍能可靠运行。
8.5 数字信号处理基础
数字信号处理基础涵盖采样、滤波、变换和谱分析等内容，是理解定点实现应用的重要背景。许多定点技术之所以成熟，正是因为其在信号处理链路中具有天然适配性。