1 近似の基本概念
1.1 近似とは何か
1.1.1 真値・近似値・誤差の関係
近似は、ある対象を厳密には扱わず、計算や推定に適した表現へ置き換えることである。対象の本来の値を真値と呼び、近似によって得られる表現を近似値と呼ぶ。両者のずれを誤差として定義し、誤差を数量として追跡することで近似の質を評価できる。
誤差は多くの場合、差（真値−近似値）として扱われるが、対象の性質や目的により別の形で現れる。たとえば確率モデルでは平均的なずれを損失関数で表し、数値計算では打ち切りに由来する項や丸めに由来する成分を分けて考える。重要なのは、近似値を作るだけでなく、誤差の大きさや挙動がどの条件で増減するかを理解する点にある。
1.1.2 目的（計算可能性・推定・予測）
近似を行う理由は一様ではない。第一に、真値の直接計算が困難である場合がある。連続的な関数の厳密評価や複雑なモデルの同定は、計算量や必要データの観点で現実的でないことが多い。
第二に、観測は有限であり、ノイズを含むため、推定対象をそのまま回復できない場合がある。回帰や補間では、観測点の有限性によって真の関数形は特定できず、近似は「観測と整合しつつ、一般化可能な表現」を得るための手段となる。
第三に、未来の挙動を予測するために近似を使う。予測では、真の関数を厳密に復元するよりも、評価指標に対して十分な精度を持つ推定器を構築することが優先される。そのため近似の設計は、計算のしやすさと成果指標の両立を狙う方向で決まる。
1.2 誤差の種類と評価尺度
1.2.1 絶対誤差と相対誤差
誤差評価には複数の尺度がある。絶対誤差は真値と近似値の差をそのまま測るため、目的の量そのもののズレを直観的に示す。一方で絶対誤差は、真値が極端に小さい領域では相対的な重要度を反映しにくいという欠点を持つ。
相対誤差は誤差を真値（または代表スケール）で割り、桁や倍率の観点でズレを表す。大きな値の領域では絶対誤差が大きくなっても相対的には許容できることがあり、相対誤差はその判断を補助する。さらに、真値がゼロ近傍を取り得る場合には分母の扱いが課題となるため、実務では適切なスケーリングを工夫することが多い。
1.2.2 ノルムによる誤差評価
対象が関数やベクトルのように複数成分を持つ場合、各成分の誤差を単一の量へまとめる必要がある。このとき用いられるのがノルムであり、誤差の大きさを幾何学的に評価できる。たとえばユークリッド距離に対応する二乗和のノルムは、平均的なズレの把握に向く。最大成分のズレを反映するノルムは、局所的な最大誤差を抑える設計に有用である。
ノルムは評価だけでなく理論にも直結する。収束性や上界評価は、採用したノルムの性質に依存するため、どの誤差を重視しているかを明確にすることが重要となる。目的に応じてノルムを選ぶことで、実用上の意味を持つ誤差尺度へ結びつけられる。
1.3 近似の精度と計算量のトレードオフ
近似の精度を高めると、一般に計算量や必要メモリが増える。多項式近似の次数を上げるほど表現力は増すが、評価コストや係数の扱いの負担が増え得る。数値積分では分割数を増やすほど精度が上がる可能性がある一方、関数評価回数が増え、打ち切りや丸めの影響も相対的に変化する。
さらに、誤差の種類は一つではない。打ち切り誤差は近似のモデル化に起因し、丸め誤差は有限精度の演算に起因する。精度を上げる過程で、どちらが支配的になるかが変わり、最適点が存在することがある。したがって精度要求と資源制限を同時に考慮し、「どこまで計算しても成果が鈍る領域」を見極めることが近似実務の中心課題となる。
2 近似手法の分類
2.1 関数近似
2.1.1 多項式近似
2.1.1.1 テイラー展開とマクローリン展開
テイラー展開は、関数を局所的に多項式で置き換える代表的手法である。ある点の周りで導関数を用いて級数を構成し、項を打ち切ることで近似値を作る。マクローリン展開は、テイラー展開を基準点ゼロで行った場合を指す。局所領域での振る舞いを捉えるのに適し、誤差は残差（剰余）項として理論的に評価できることが多い。
ただし、収束半径の外側では級数がそのまま有効でないことがある。さらに高次数の項は係数が急に大きくなり得るため、有限精度演算では数値的に不安定になる場合がある。実装では、どの点で展開し、何次数まで取るか、また再評価の安定性をどう確保するかが実用上の焦点となる。
2.1.2 有理式近似
有理式近似は、分子・分母を多項式の比として近似を表す方法である。多項式だけでは表現しづらい関数の極や非滑らかさに対し、分母の導入により柔軟な近似を実現できる場合がある。特に、特異性の近い領域では有理式の方が少ない自由度で良い近似を与えることがある。
一方で、分母がゼロになる点の扱いが重要になる。近似の評価領域内に極が入り込むと、誤差が急増したり計算が破綻したりする。したがって、有理式近似では評価点の配置や分母の挙動を慎重に点検し、数値的な安定性を確認する必要がある。
2.1.3 区分的近似
区分的近似は、全体の入力空間を複数区間に分け、各区間で別の簡易表現を用いる方針である。境界近傍で誤差や不連続をどう扱うかが設計上の鍵となる。区間ごとの多項式近似（例えばスプラインに類する構成）では、局所的な精度を確保しつつ全体の振る舞いを滑らかにできることがある。
区分化は計算上も利点がある。大域的な高次数多項式よりも、局所的な低次数で十分な場合が多く、係数の扱いが穏やかになりやすい。反面、区間境界での接続条件（値や導関数の連続性）を満たすよう設計しないと、推定値の跳びが生じる。
2.2 データ近似・回帰
2.2.1 補間と外挿
補間は、観測点の集合の間を埋めるように関数を構成し、観測値と整合する近似を作る。観測点そのものでは誤差が小さくなるように設計されるが、点の外側や密度の低い領域で誤差が急に増えることがある。特に高次数の補間は、端点付近で振動が強まる場合があり、数値の扱いに注意が要る。
外挿は観測点の範囲を超えて近似を延長する操作で、一般に不確実性が大きくなる。データが有限である以上、真の法則が観測範囲外でも同じ形で続く保証はない。よって実務では、外挿のリスクを見積もり、信頼区間や残差の挙動を通じて慎重に適用することが求められる。
2.2.2 最小二乗法と誤差最適化
最小二乗法は、予測値と観測値の差の二乗和を最小にするようにパラメータを決める手法である。二乗誤差を用いることで、大きな外れに強く反応しつつ、解析的に解を求めやすい場合が多い。線形回帰では、目的関数が二次形式となり、行列計算により解が得られることが一般的である。
ただし、最小二乗法が最適になる根拠はデータの仮定に依存する。誤差分布が重い外れ値を含む場合、二乗損失は過度に影響を受けることがある。そこで、ロバスト回帰や損失関数の変更が検討される。近似の「最適化」は、何を誤差として扱うかを明確にし、その誤差の意味に合った損失関数を選ぶことに帰着する。
2.2.3 正則化と過学習への配慮
過学習は、訓練データへの適合が過度になり、新しいデータでの性能が落ちる現象である。特に柔軟なモデルでは、ノイズまで構造として取り込んでしまうことがある。正則化は、係数の大きさや複雑さに罰則を与えることで、過度な適合を抑える考え方である。
典型的には、係数の二乗和に比例する項を損失へ追加する方法（L2系）や、絶対値の和で抑制する方法（L1系）が用いられる。L1系は疎な解を促す性質を持つ場合がある。正則化強度はハイパーパラメータであり、誤差と汎化性能のバランスを取るように調整する必要がある。
2.3 数値積分・数値微分
2.3.1 台形則・シンプソン則
数値積分は、積分値を解析的に求められないときに、有限回の関数評価で近似する方法である。台形則は、区間を等分し各小区間で曲線を台形として近似する。滑らかさがある関数では、分割数を増やすことで誤差が減少する。
シンプソン則は、より高次の補間（放物線）を用いて各区間を近似し、台形則より高い精度を得られることが多い。ただし、評価点の配置や適用条件を満たさないと期待した改善が得られない場合がある。さらに、関数評価が高コストな問題では、同じ計算予算内でどの手法が優位かを比較する必要がある。
2.3.2 離散化による誤差と次数
数値積分や数値微分は、連続的な操作を離散化することで実現される。このとき誤差は、近似に用いる多項式の次数や離散点の間隔に依存して変化する。一般に、より高次の整合条件を満たす近似ほど誤差が小さくなる傾向があるが、点数が増えると丸め誤差や計算量も増える。
離散化の設計では、刻み幅（ステップ）の選択が重要である。刻み幅が小さすぎると、演算回数の増加に伴う丸め誤差が支配的になり得る。逆に大きすぎると、離散化に起因する打ち切り誤差が大きく残る。したがって「次数」と「刻み幅」を併せて最適化することが誤差制御の要点となる。
2.4 方程式・微分方程式の数値解法
2.4.1 収束する反復法
反復法は、未知量についての更新則を繰り返し適用し、解へ近づける方法である。固定点反復やニュートン法のように、初期値から始めて逐次補正を行う。理論上は、更新写像の性質や導関数の大きさにより収束が保証される条件が整理される。
収束の速度も重要である。ある反復は誤差が線形に減るが、別の反復は二次的に減る場合がある。速い反復は、1回あたりの計算が重いこともあり、全体の計算予算との兼ね合いで選択される。さらに、初期値が悪いと収束しないケースもあるため、実装では初期値選択や停止条件の工夫が必要となる。
2.4.2 離散化（差分法など）と安定性
微分方程式の数値解法では、連続時間や連続空間を離散化し、差分方程式として扱うことが多い。差分法では、導関数を差分で近似して得られる更新則が計算可能な形になる。だが、離散化の仕方が誤差だけでなく安定性にも影響する。
安定性とは、誤差や摂動が時間発展で増幅しない性質である。条件によっては、刻み幅を小さくしないと解が発散し、計算が破綻することがある。したがって、精度向上のために刻み幅や次数を上げるだけでなく、安定性制約を満たす設計が必須になる。結果として、理論的な安定条件と実装上のパラメータ選択が一体で検討される。
3 収束性・誤差評価の理論
3.1 収束の概念
3.1.1 点wise収束と一様収束
収束は「どの意味で近づくか」で分類される。点wise収束は、各入力点について個別に近似値が真値へ近づくことを指す。一方で一様収束は、全体の入力集合にわたり同時に誤差が小さくなる性質を表す。
一様収束は、誤差の最大値を制御するという強い性格を持つため、連続性や積分・極限操作との整合が保たれる場面が多い。点wise収束は成立していても、一様性がないと期待した極限交換ができない場合がある。近似理論では、どちらの収束が保証されるかを理解することが、誤差見積もりの妥当性に直結する。
3.2 誤差評価の枠組み
3.2.1 テイラーの剰余と評価
テイラー展開では、打ち切り後の誤差が剰余項として表せる。剰余の形は平均値定理を用いた評価や、導関数の上界を通じた見積もりなどにより得られることがある。この枠組みにより、次数を増やしたとき誤差がどの程度減るかを定量的に議論できる。
実用では、導関数の大きさを厳密に評価できないことも多い。その場合は上界が仮定や推定に基づくため、誤差見積もりは不確実性を含む。とはいえ、少なくとも「この仮定が成り立つなら誤差はこのオーダーで減る」という形で判断材料を提供する点に価値がある。
3.2.2 最良近似と評価上界
最良近似は、ある近似クラス（たとえば次数が高々nの多項式など）の中で、誤差尺度に関して最も小さいものを選ぶ概念である。実際にその最良近似が計算できない場合でも、理論上の最良近似誤差を参照して、実際の手法の達成度を評価できる。
評価上界は、実手法の誤差が最良近似誤差の定数倍以下に抑えられることを示す形で与えられることがある。こうした結果は、設計上の指針として機能する。たとえば理論が保証する収束速度と、実験で観測される誤差減少率が一致するかを確認することで、手法選択の妥当性が検証できる。
3.3 数値計算における安定性
3.3.1 誤差増幅と条件数
安定性は、計算の途中で生じた誤差が最終結果にどれだけ伝播し増幅するかに関わる。問題の「条件」は入力の微小な変化に対して出力がどれほど敏感かを示す性質であり、条件数として表現されることがある。条件数が大きい問題では、丸め誤差や観測誤差が結果に強く影響しやすい。
このとき、アルゴリズム側の「安定性」（誤差の扱い方）と、問題そのものの条件（感度）を区別する必要がある。条件が悪い場合でも、適切な手法が多少救済することがあり、逆に条件が良くても実装が不適切だと誤差が増える。両面から理解することで、精度の限界を現実的に見積もれる。
3.3.2 有限精度演算の影響
有限精度演算では、丸めにより誤差が生じる。さらに反復の中では、丸め誤差が繰り返し影響し、単に誤差が蓄積するだけでなく、場合によっては特定の誤差成分が優勢になることがある。差分計算では桁落ちの問題が起こりやすく、近い数の減算が精度を損ねることが知られている。
対策としては、スケーリング（量の大きさを調整する操作）や、計算順序の工夫、安定な評価式の採用などが用いられる。加えて、停止条件や許容誤差を適切に設定しないと、必要以上の反復で丸め誤差が支配的になり得る。数値近似では、理論的収束と計算機実装の性質が最終精度を決めるため、双方の整合が必要になる。
4 近似の実践：選び方と実装
4.1 手法選定の指針
4.1.1 データの性質と用途
手法選定は、データがどのような構造を持つかで変わる。滑らかさが高い連続量を対象にするなら、局所多項式や整合性の高い補間が有効になりやすい。離散点が疎である場合は、過度な自由度を避け、区分構造や正則化を通じて外れにくい表現を選ぶことが多い。
用途も重要である。予測では汎化性能を重視し、補間では観測点での整合が重視される。さらに、評価指標（平均二乗誤差、最大誤差、符号の一致など）が異なると、適した損失関数や近似クラスも変わる。したがって「データの性質」と「目的の尺度」を対応づけて選ぶのが実務的な手順となる。
4.1.2 必要精度と計算資源
必要精度が厳しい場合、次数や分割数、自由度の増加が求められることがある。しかし計算資源には限りがあるため、計算時間、メモリ、許容する実装複雑さの制約を踏まえた設計が必要になる。ある場合は高精度な理論を持つ手法でも、実装上のコストが過大で採用できないことがある。
また、精度の要求は単一の数値ではなく、領域ごとに異なることもある。端部や特定の範囲で誤差が許されないなら、区分化や重み付けの導入が有効になる。資源制約の中で目標を満たすように誤差源を見分け、優先順位を付けることが選定の実効性を高める。
4.2 実装上の注意
4.2.1 丸め誤差と打ち切り誤差
実装では、理論上の近似誤差と計算機の誤差が同時に存在する。打ち切り誤差は打ち切り点以降の項を無視したことによるもので、次数や反復回数に依存する。丸め誤差は演算ごとに発生するため、計算の回数が増えるほど蓄積しやすい。
この二つの寄与は、パラメータを動かすと相対的に入れ替わることがある。たとえば反復を続ければ打ち切り誤差は減るが、丸めが支配的になると改善が止まり、場合によっては悪化することもある。したがって、停止基準や次数選択は「理論的改善が可能な段階」と「計算機限界が効き始める段階」を見極めて決める必要がある。
4.2.2 スケーリングと前処理
スケーリングは数値安定性を高める基本手段である。入力の大きさが極端に異なる場合、演算の丸めや条件の悪化が起きやすい。そこでデータや変数を適切な尺度へ変換し、計算中の値のレンジを均一化する。前処理として正規化や標準化を行うのはその一例である。
また、線形代数系では前処理や前条件化が精度と速度に影響する。反復解法では、前処理によりスペクトルの偏りを減らすことで収束を促す場合がある。スケーリングは単なる見た目の整形ではなく、安定性と精度に直接つながるため、近似の実装段階では計算の性格に応じた設計が求められる。
4.3 検証・評価の進め方
4.3.1 クロスバリデーションと再現性
モデルの良さを評価するには、訓練に使っていないデータでの性能確認が重要になる。クロスバリデーションはデータを複数分割し、繰り返し学習と評価を行うことで、汎化性能を見積もる枠組みを与える。これにより、単一の分割に依存する偏りを軽減できる。
再現性は同じ条件で同じ結果が得られるかに関わる。乱数の種、前処理の手順、ハイパーパラメータ選択の基準などを記録しないと、同じ手法でも結果が変わることがある。近似の評価はデータ処理と学習設定の連鎖で決まるため、実験ログの整備が不可欠となる。
4.3.2 残差解析とモデル診断
残差は予測値と観測値の差として定義され、誤差の構造を調べる手段になる。残差がランダムに散らばっていれば、モデルがデータの主要な傾向を捉えられている可能性が高い。逆に、系統的なパターンや特定領域での偏りが見られる場合、モデルの仮定が不十分であることが示唆される。
残差解析では、分散が一定でない（異分散）兆候や、非線形性が残っている兆候などを確認する。必要なら特徴量の見直し、モデルクラスの変更、正則化の強度調整などを行う。診断は単に良否を判断するだけでなく、次の改善に向けた仮説を与える役割を持つ。