1 量子化誤差の定義と基本概念
1.1 量子化とは何か
量子化とは、実数などの連続値を、有限の集合（離散的な段、有限ビット、有限の符号語など）で表す変換である。デジタル信号処理や計測、通信では、得られる信号をそのまま記録できないため、所定の解像度に収める必要がある。この“収め方”が粗いほど情報が失われ、変換後の値は元の値からずれる。そのずれが量子化誤差として捉えられる。
量子化器（量子化デバイス）は、入力値に対して最近の段階の値を選ぶ、あるいはその間を一定のルールで丸めて離散値に写像する。段数やビット数は、表現できる値のきめ細かさを決める基本パラメータである。
1.2 量子化誤差の数学的表現
1.2.1 量子化器の入出力と誤差の定義
入力を連続量 \(x\)、量子化後の表現を \(Q(x)\) とすると、量子化誤差は \[ e(x)=Q(x)-x \] として定義できる。ここで \(Q(x)\) は離散値であり、典型的には量子化ステップ幅 \(\Delta\) に応じて、ある境界のどこに入力が位置するかで出力が切り替わる。
実装では、符号化器がそのまま \(Q(x)\) を返す場合もあれば、一度スケーリングした後に整数化する場合もある。いずれの場合も誤差の意味は「変換された値と元の連続値の差」で統一的に扱える。
1.2.2 代表的な誤差指標（平均・分散・最大値）
量子化誤差は、入力の分布や量子化方式に依存して統計量として評価される。代表的には以下が用いられる。
- 平均誤差（バイアスに相当）: \(\mathbb{E}[e]\)。系統的な偏りの有無を示す。
- 分散: \(\mathrm{Var}(e)=\mathbb{E}[(e-\mathbb{E}[e])^2]\)。ばらつきの大きさを表す。
| - 最大絶対誤差: \(\max | e | \)。最悪ケースの大きさの見積りに用いる。 |
|---|
一様量子化の理想条件（十分に滑らかな入力分布や“位相”の均一性が仮定できる場合）では、誤差がステップ幅に比例して増減しやすい。したがって、\(\Delta\) の調整は分散やSNRに直結する設計変数となる。
1.3 量子化の条件と前提
量子化誤差は単独に決まるのではなく、次の要因で性質が変わる。
第一に、量子化ステップ幅がどの程度に設定されているかである。入力が取りうる範囲（ダイナミックレンジ）に対してステップが粗すぎると情報損失が増える。
第二に、入力の分布と量子化境界との相対関係である。たとえ方式が同じでも、入力がある境界付近に偏ると誤差の統計が理想形から外れることがある。
第三に、丸め規則の選択である（最近値、切り捨て、切り上げなど）。これにより平均誤差の符号や、誤差分布の左右非対称が生じる可能性がある。
以上の点から、評価は「量子化器の仕様」と「入力の統計」を合わせて考える前提で行う必要がある。
2 量子化方式と誤差特性
2.1 一様量子化
2.1.1 符号化幅と量子化ステップ
一様量子化は、入力の範囲を等間隔に分割し、各区間に対応する代表値（段）を出力する方式である。区間の幅が一定となるため、ステップ幅 \(\Delta\) が固定で、誤差のスケールも概ね一定の関係を持つ。
ただし、実装では範囲外の値への扱い（飽和やクリッピング）が必要になる。符号化幅（表現可能な最大・最小）を越えると、入力は境界値に押し付けられ、誤差の性質は量子化本来の“ステップ内誤差”から逸脱しやすい。したがって、ダイナミックレンジ設定は誤差特性に対して支配的になる。
2.1.2 一様量子化での誤差分布の扱い
理想化した条件では、入力が各量子化区間にまんべんなく落ちるとみなせるとき、誤差は区間内でほぼ対称になり、最大値がステップ幅の半分に対応することが多い。代表例として、最近値丸めを用いると誤差は \([-\Delta/2,\ \Delta/2]\) に収まりやすい。
現実には、入力が偏っている、あるいはステップ境界と強い相関がある場合に誤差分布は変形する。分散推定には、単純な理想式だけでなく、その前提が満たされているかを確認することが重要である。特に低振幅領域で入力が特定段に張り付く場合、誤差の見かけの分散が期待値より小さく見えることもある。
2.2 非一様量子化
2.2.1 μ則・A則の考え方（圧縮特性）
非一様量子化では、入力の大きさに応じてステップ幅を変える。代表例として音声符号化などで用いられてきた圧縮則（例：\(\mu\)則やA則）がある。直観的には、小さい振幅では細かく表し、大きい振幅では粗くすることで、知覚的に重要な領域での誤差を抑える狙いがある。
数学的には、入力に対して非線形なスケーリングを施し、その後に一様量子化を行う構造がよく用いられる。これにより、入力空間の等間隔が出力表現空間の等間隔に写像され、誤差の大きさが入力の振幅に依存して変化する。
2.2.2 小さい振幅での量子化精度
非一様方式の中心的な利点は、小振幅領域での表現密度を上げられる点にある。測定や音声のように、信号の有効成分が小振幅側に偏る場合、一定ビット数で同等の平均分散を達成するよりも見かけの劣化を抑えやすい。
一方で、振幅が大きくなる領域では相対的に分解能が低下する。そのため、用途に応じてどの程度の圧縮カーブが適切か、あるいは後段の復号処理が誤差の伝播にどのように影響するかを検討する必要がある。
2.3 量子化の丸め（最近値・切り捨て・切り上げ）
丸め規則は誤差の符号と平均に影響する。最近値丸めは入力を最も近い代表値に写すため、区間内での最大誤差を抑えやすい。切り捨てや切り上げは境界の片側に押し付ける挙動を持ち、結果として平均誤差が0からずれることがある。
また、丸め規則は特定の入力分布に対して誤差が偏りやすくする場合がある。たとえば、境界付近への入力が多いと、切り捨ては常に負方向へのズレを助長しやすくなる。したがって誤差を統計的に“ならす”方針があるなら、丸め選択も含めて設計しなければならない。
3 誤差の評価方法
3.1 系統誤差と偶然誤差
3.1.1 バイアス（平均誤差）の見積り
系統誤差とは、誤差が特定の方向に偏っている状態を指す。量子化誤差では、平均 \(\mathbb{E}[e]\) が0から離れているかが判断基準となる。最近値丸めでは対称性が働きやすく、理想条件ではバイアスが小さくなることが多いが、範囲外のクリッピングや入力偏りがあると無視できなくなる。
平均誤差は、出力の基準値やスケーリングの設定にも影響される。従って評価では、単に誤差の理想式だけでなく、実データでの平均ずれを確認する手順が重要になる。
3.1.2 量子化誤差の独立性仮定
誤差評価では、しばしば「誤差と信号が統計的に独立」とみなす近似が使われる。これは扱いを簡略化し、分散からSNR等の指標を導出しやすくするためである。しかし独立性は万能ではなく、入力が量子化段に同期したり、信号が境界近くに偏ったりすると崩れる。
独立性仮定が成り立ちにくい状況として、強い周期性を持つ信号を少数ビットで量子化する場合や、入力の分布が極端に偏る場合が挙げられる。よって、理論値の適用可能性を検証し、必要に応じて統計的推定を併用するのが実務上の要点となる。
3.2 検定・統計的評価
3.2.1 分散推定と理論値の比較
分散推定は、観測された誤差列 \(e[n]\) から \[ \widehat{\sigma^2}=\frac{1}{N}\sum_{n=1}^{N}(e[n]-\overline{e})^2 \] のように計算し、理論モデルと比較する方法である。理論では、量子化ステップと方式により誤差分散が単純な形で表されることがあるが、前提（独立性や入力分布の仮定）にズレがあると誤差が増減する。
比較では、分散だけでなく、平均誤差の大きさや誤差分布の歪みも併せて観察する。分散が一致していても平均がずれていれば系統的なズレが残っている可能性があるためである。
3.2.2 信号への混入の観点
量子化誤差は、復号後の信号に混入する“追加成分”として理解できる。独立性が近似的に成り立つなら、雑音として扱ってSNR推定が可能になる。一方、相関が存在するなら、誤差は単なる雑音ではなく、特定周波数成分や非線形歪みとして観測されることがある。
そのため、周波数領域での評価（スペクトル解析や歪み成分の確認）を行うと、誤差の性質がより明確になる。時間領域の統計だけでは捉えにくい、いわゆる“位相的”な歪みの影響を区別する狙いがある。
3.3 品質指標との関係
3.3.1 信号対雑音比（SNR）
SNRは、信号の平均的な強さに対して誤差成分（量子化誤差＋他の雑音）をどれだけ抑えられているかを示す指標である。理想化された設定では、量子化誤差が雑音として振る舞うため、分散とSNRの関係を導けることが多い。
ただし実環境では、入力信号の統計や飽和の有無、前段のアナログ雑音などがSNRに影響する。したがって、量子化誤差だけを切り分けたい場合は、測定設計（入力レベルの制御、基準雑音の計測）を同時に行う必要がある。
3.3.2 歪み指標（方形誤差的な見方）
量子化誤差は二乗誤差の観点で扱うことが多く、方形（平方）誤差に基づく評価指標が歪み量の代表となる。例えば平均二乗誤差（MSE）は分散と平均の関係を通じて、同一化しやすい。
一様量子化での“箱形”誤差モデルは、平方誤差の期待値を計算するのに都合がよい。非一様方式や丸めの違いではモデルが変わるため、MSEが理論どおりになるかは入力条件への依存度を確認すべきである。
4 誤差低減の設計・実装
4.1 量子化ステップの選び方
4.1.1 ダイナミックレンジの設定
ダイナミックレンジ設定とは、量子化器が扱う最小値と最大値（表現可能範囲）を決めることである。範囲を狭く設定するとクリッピングが増え、誤差がステップ内から逸脱する。一方、範囲を広げすぎるとステップ幅が大きくなり、通常時の分解能が落ちる。
したがって実装では、信号の典型的な振幅分布と、その外れ（スパイクや一時的な増幅）を見積もり、境界に適切なマージンを持たせる設計が必要になる。もし状況が変動するなら、可変レンジや自動調整の導入も検討される。
4.1.2 ビット数と性能のトレードオフ
ビット数は段数を規定し、一般に多ビット化で量子化誤差は減少する。ただしデータ量増加、演算負荷、消費電力、遅延といった制約が同時に生じるため、性能とコストのバランスが問題になる。
また、ビットを増やしても、前段の雑音が支配的なら改善が限定されることがある。このため、単純な“解像度だけの最適化”ではなく、システム全体の雑音源や誤差伝播を考慮した設計が求められる。
4.2 ダイザによる影響低減
4.2.1 量子化誤差を「ならす」発想
ダイザ（dither）は、量子化器の入力に意図的な微小な雑音を加え、量子化誤差の統計を“ならす”考え方である。境界近傍への入力が偏っている場合、誤差が特定の方向やパターンに固定されてしまうことがある。微小雑音を導入すると、その固定が緩和され、誤差がよりランダム化しやすくなる。
理想条件では、誤差が雑音として扱える程度に近づくことで、見かけの歪みが減少しやすい。ただし、加える雑音の大きさや分布、後段処理との関係により効果は変化する。
4.2.2 実装上の注意点
ダイザを採用する際は、加算する雑音が品質指標を悪化させないよう設計する必要がある。雑音振幅が過大なら、量子化誤差の低減を上回る劣化が生じる。さらに、雑音のスペクトル特性が信号帯域と干渉すると、望ましくない成分として現れることもある。
また、ダイザは復号側の想定にも影響するため、実装では同期や生成方式（擬似乱数か真乱数か、再現性が必要か）を整理することが重要になる。
4.3 オーバーサンプリングと再構成
4.3.1 フィルタリングの役割
オーバーサンプリングは、信号を必要より高いサンプリング周波数で量子化し、その後にフィルタリングで帯域制限・再構成を行うことである。量子化誤差が広帯域に散らばる性質を利用し、低域成分だけを抽出することで結果的に有効な誤差を減らせる場合がある。
再構成では、デジタルフィルタやアナログフィルタの選択が重要になる。単純な平均化でも効果が出ることがあるが、厳密には帯域設計と誤差の周波数特性が結びつく。
4.3.2 再構成誤差との切り分け
オーバーサンプリングの利点は量子化誤差の扱いだけでなく、再構成の過程にも影響される。再構成フィルタの設計不備（過渡応答、群遅延、リップル）によって生じる誤差は、量子化誤差とは別の要因として観測される。
したがって評価では、フィルタ設計を固定し、ビット数やダイザ有無、入力レベルを変えながら誤差源を切り分ける方法が有効である。観測上の改善が“量子化の改善”なのか“再構成の改善”なのかを区別することで、設計判断の精度が上がる。
4.4 現場での測定・確認手順
4.4.1 キャリブレーションと検証方法
現場で量子化誤差を管理するには、装置のオフセットやゲインのずれを抑えるキャリブレーションが基礎になる。入力の既知の基準信号を与え、出力が理想的な写像に従うかを確認することで、平均誤差や系統的歪みの寄与を見積もる。
検証では、複数の入力レベル（小振幅から飽和近傍まで）で測定し、誤差指標の依存性を追跡する。これにより、非一様特性や丸め誤差、境界での挙動の違いが判別できる。
4.4.2 代表的なトラブル（飽和・クリッピング）
飽和やクリッピングは、量子化器の表現範囲を越えたときに発生し、誤差は単なるステップ内ではなく境界値への押し付けとして現れる。時間波形では平坦化が起こり、周波数領域では高調波成分が増えやすい。結果として、SNRや歪み指標が急激に悪化する。
トラブルの回避には、入力レベル管理とレンジ設定が基本となる。加えて、過渡的なピーク（短いスパイク）がある場合は、平均値だけでなく最大値の統計を使って境界マージンを決めることが有効である。