1 基本概念
1.1 定義
反復計算は、ある値を出発点として、同一または類似した演算を繰り返し適用し、解や近似値を段階的に改善していく計算法である。閉形式の公式で直接求めにくい問題に対して、実用的な近似解を得る手段として用いられる。
1.2 反復計算の考え方
この方法では、各段階で得られた結果を次の入力として再利用する。したがって、計算は一度で完結するのではなく、逐次的な更新の連鎖として進む。問題の構造に応じて、同じ規則を繰り返すだけで十分な場合もあれば、途中で修正を加えて精度を高める場合もある。
1.3 初期値と更新規則
反復計算の出発点は初期値であり、これが最終結果の収束先や計算時間に影響することがある。更新規則は、前回の値から次の値をどう求めるかを定める式や手順である。適切な初期値と更新規則を選ぶことで、反復の安定性と効率が向上しやすい。
2 数学的性質
2.1 収束
2.1.1 収束の意味
収束とは、反復を重ねるにつれて得られる値が、ある一定の値へ近づいていく性質を指す。極限に近づく過程が見られれば、目的の解に到達したとみなせる場合がある。ただし、近づく先が必ずしも真の解とは限らないため、定義や判定基準を明確にする必要がある。
2.1.2 収束速度
収束速度は、どれだけ少ない反復回数で十分な精度に達するかを表す。速い収束は計算資源の節約につながる一方、遅い収束では多数の反復が必要になる。線形、超線形、二次などの分類があり、方法の性能評価において重要な指標となる。
2.2 安定性
安定性は、入力のわずかな変化や丸め誤差に対して、反復結果が大きく乱れない性質である。不安定な手順では、誤差が増幅して計算が破綻することがある。実装上は、理論的な収束性だけでなく、数値的な振る舞いも含めて検討される。
2.3 誤差解析
誤差解析は、近似によるずれや計算機内部で生じる丸めの影響を評価する分野である。反復では、各段階の誤差が次の段階へ引き継がれるため、累積のしかたを把握することが欠かせない。これにより、必要な精度と計算回数のバランスを判断できる。
3 代表的な反復法
3.1 固定点反復
固定点反復は、関数 f に対して x = f(x) を満たす値を探す方法である。初期値から出発し、x_{n+1} = f(x_n) の形で更新を続ける。構成が単純で幅広い問題に適用できるが、関数の性質によっては収束しないこともある。
3.2 ニュートン法
ニュートン法は、非線形方程式を解く代表的な反復法で、接線の考え方を用いて解を改善する。一般に収束が速いことで知られるが、初期値の選び方に敏感である。導関数を利用するため、微分可能性や計算の安定性も重要になる。
3.3 線形方程式の反復解法
大規模な連立一次方程式では、直接法よりも反復法が効率的な場合がある。行列の性質を利用して、少しずつ解ベクトルを更新することで、計算負荷や記憶量を抑えられる。疎行列や巨大系で特に有用である。
3.3.1 ヤコビ法
ヤコビ法は、各未知数を前回の反復値だけを用いて同時に更新する手法である。並列化しやすい利点がある一方、収束は比較的遅いことが多い。対角成分が十分に優勢な系などで扱いやすい。
3.3.2 ガウス・ザイデル法
ガウス・ザイデル法は、更新済みの値を順次利用しながら未知数を求める方法である。ヤコビ法より少ない反復で収束する場合があるが、更新順序の影響を受けやすい。実装は比較的簡潔で、古典的な反復解法として広く知られている。
3.4 最適化における反復法
最適化では、目的関数を小さくする、あるいは大きくする方向へ少しずつ解を動かす。勾配降下法やその変種は、典型的な反復的手続きである。各段階で改善量を調整しながら、局所最適や実用的な解に近づけていく。
4 応用と実装
4.1 数値解析での利用
数値解析では、方程式の求解、積分、微分方程式の近似などに反復計算が広く使われる。厳密な解析解が得られない場面でも、許容誤差の範囲で信頼できる値を算出できる。理論と計算機実験を結びつける基盤として重要である。
4.2 工学・物理での利用
工学や物理では、構造解析、流体計算、回路解析、平衡状態の推定などで反復手法が用いられる。複雑なモデルは一度で解けないことが多く、繰り返し計算によって近似的に状態を求める。現象の再現性と計算コストの両立が求められる。
4.3 計算機科学での利用
計算機科学では、検索、最適化、機械学習、グラフ計算など多様な場面で反復的更新が採用される。アルゴリズムの設計では、収束判定やデータ構造との相性が性能を左右する。大規模データを扱う処理では、反復の効率化が特に重要である。
4.4 停止条件と計算効率
停止条件は、反復をどの時点で打ち切るかを決める基準である。典型的には、値の変化量、残差、最大反復回数などが用いられる。厳しすぎる条件は計算を長引かせ、緩すぎる条件は精度不足を招くため、目的に応じた設定が必要である。