1 予測区間の概念
1.1 予測区間の定義
予測区間とは、確率モデルにもとづく将来の観測値が取りうる範囲を、統計的な不確実性を反映して区間として表したものをいう。通常、ある信頼水準に対応する確率的な性質をもつように構成され、作成時点で定義されたデータと仮定のもとで、その区間に将来の実現値が入ることが期待される。
1.2 信頼水準と包含確率
1.2.1 解釈の基本(確率としての区間の意味)
信頼水準は、同じ手続きで予測区間を繰り返し作った場合に、真の観測値が区間内に入る割合(包含確率)を意味する。重要なのは、区間そのものが確率をもつという捉え方と、繰り返しにおける被覆の割合で性質を定義する捉え方が区別される点である。前者の直感に引きずられると誤解につながるため、一般には後者の運用イメージが用いられる。
1.2.2 実務での読み取り(「将来の一回」に対する注意)
実務では「次の一回が区間内に入る確率がそのまま信頼水準に等しい」と単純化して理解しがちであるが、厳密には条件づけの置き方に依存する。予測区間の多くは、モデル・誤差構造・推定手順が正しいと仮定したもとでの反復的性質として設計される。そのため、実際の1回の成否を確率として断言するのではなく、手続きとしての被覆性能を評価する発想が適切である。
1.3 推定区間との違い
推定区間は、平均や回帰係数などの「モデルのパラメータ」に関する不確実性を表す。一方、予測区間は、パラメータの不確実性に加えて、将来の観測値に固有のばらつき(誤差や残差のばらつき)まで含めて幅が決まる。結果として一般に、予測区間は推定区間より広くなる傾向を持つ。
2 作成の考え方
2.1 モデル化と不確実性
2.1.1 パラメータ不確実性
予測に必要な回帰係数や分散などは、有限標本から推定されるため誤差を伴う。この誤差は、入力(説明変数)から出される予測値のばらつきとして現れる。モデルを当てはめた時点で、推定量の分布や標準誤差といった量を通じて、予測区間の中心や幅に反映させることができる。
2.1.2 残差(将来観測のばらつき)
将来の観測は、推定した平均構造の周りで誤差により上下する。したがって予測区間には、残差の分散や、その分布の形状(対称性、裾の重さなど)による影響が組み込まれる。残差のばらつきが大きいほど、同じ信頼水準でも区間幅は広がる。また、残差が一定分散を仮定できない場合は、観測条件に応じた変動を扱う必要がある。
2.2 検定・区間推定との関係
2.2.1 仮説検定との対比
区間推定は、パラメータや将来値が「ある範囲から外れている」ことを検出しにくくするように設計される側面を持つ。対応する検定と見ると、予測区間の外側にある値は、モデルの仮定のもとで不整合が大きい可能性が高いという関係で理解できる。要するに、境界に位置する値は統計量の棄却域に関わり、信頼水準と有意水準が相互に対応する。
2.2.2 値の範囲を与える発想
一点推定では予測の不確実性が見えにくい。予測区間は、想定される変動をまとめて可視化し、意思決定に必要なリスク感度を反映させる道具になる。特に、将来の許容範囲や閾値との関係(例:上限を超える確率の管理)を検討する際に、区間という表現が扱いやすい。
2.3 分布仮定と前提条件
2.3.1 分布仮定
多くの標準的な予測区間は、誤差項の分布(しばしば正規性)や、分散の扱い(一定か条件付きか)に依存する。分布仮定が厳密に成り立たない場合でも、中心極限定理による近似が効くことがあるが、裾の厚さや外れ値の影響が強いと被覆率が崩れる可能性がある。区間の根拠となる仮定を把握し、必要に応じて頑健化や再標本化を検討することが重要である。
2.3.2 前提条件
前提条件には、説明変数と誤差の関連(独立性や無相関)、線形性やモデルの形式の妥当性、分散構造の適合などが含まれる。これらが崩れると、区間の中心は妥当でも幅が過小または過大になることがある。したがって、区間推定は「仮定が整っているときに最も正しく働く」手続きであり、診断とセットで運用するのが望ましい。
3 線形回帰における予測区間
3.1 単回帰の場合
3.1.1 予測値の計算
単回帰では、説明変数を \(x\)、目的変数を \(y\) とし、平均関数を一次式で表す。推定された回帰直線に、将来の入力 \(x_0\) を代入して中心となる予測値 \(\hat{y}_0\) を得る。通常の最小二乗法では \(\hat{y}_0\) はデータに基づく点推定であり、ここから不確実性を加えることで区間が形成される。
3.1.2 予測区間の幅の要因
幅は大きく二種類の要素で決まる。第一は回帰直線の推定誤差に由来する部分で、入力 \(x_0\) が平均的な領域から離れるほど大きくなりやすい。第二は将来観測のばらつきで、残差分散に比例する。さらに、統計量の基準分布を導くために自由度に応じた係数が入り、信頼水準が上がるほど両端が離れる。
3.2 重回帰の場合
3.2.1 予測値と分散の構成
重回帰では、説明変数ベクトルを用いて平均構造を記述する。予測値は設計行列に対応する回帰係数の線形結合として計算され、予測区間の中心はその点推定である。幅に関しては、係数推定による誤差と、将来観測に固有の誤差が合算される形で分散が構成される。これにより、単回帰よりも入力の組み合わせに応じた不確実性が反映される。
3.2.2 設計行列と予測の不確実性
設計行列は各観測の説明変数をまとめたものであり、予測したい入力 \(x_0\) の位置は設計行列の幾何学的な情報(行列の逆に相当する量)を通じて不確実性として現れる。具体的には、データが厚く観測されている領域に近いほど推定誤差が小さくなり、観測のない領域に踏み込むほど係数に関する不確かさが増しやすい。加えて、誤差分散の見積もり精度も区間の広がりに影響する。
3.3 予測区間の実装手順
実装では、(1) 回帰モデルを指定し、(2) 最小二乗法などで係数と誤差分散(必要なら分散構造)を推定し、(3) 各入力点に対する予測値を計算する。次に、予測に必要な分散を構成し、信頼水準に対応する臨界値と組み合わせて両端を求める。最後に、区間の妥当性を診断し、残差のパターンや外れ値の有無などを確認する。実装の細部はソフトウェアや仮定により異なるため、出力の定義(片側か両側か、予測か推定か)を必ず確認する。
4 一般化と応用
4.1 分位点回帰・分位点予測
4.1.1 分位点の解釈
分位点回帰は、平均ではなく条件付き分位点を推定する枠組みである。たとえば、条件付きで「上位何%に入るか」を表す境界を直接推定できる。予測区間としては、下側分位点と上側分位点を組み合わせて、観測値がどの範囲に入りやすいかを非対称に表現する方法がある。
4.1.2 非対称な不確実性への対応
誤差分布が対称でない場合、平均中心の区間では不均衡が生じることがある。分位点予測はこの偏りを取り込みやすく、上方向のばらつきが大きいときには上端がより広く、下方向が不確かなら下端が適切に動く。結果として、実データの形状に合う表現が得られる。
4.2 時系列への拡張
4.2.1 予測誤差の伝播
時系列では、誤差が独立でなく、過去の残差が次の誤差にも影響する場合がある。単純な回帰の予測区間をそのまま適用すると、自己相関や季節性を無視して被覆率が崩れる可能性がある。予測誤差の伝播を考慮するため、モデルに応じた状態空間や誤差構造を明示し、将来ステップ先の不確実性増加を反映させる。
4.2.2 モデル更新と区間の更新
データが追加されると、推定値は更新される。オンライン的にモデルを更新しつつ、区間推定も同時に再計算することで、予測の整合性が維持される。運用上は、更新の頻度や履歴の長さが区間の性質(幅や被覆率)に影響し得るため、検証設計を整えて判断する。
4.3 様々な手法(ブートストラップ等)
4.3.1 リサンプリングによる区間推定
ブートストラップは、観測データから疑似データを再標本化し、同じ手続きを多数回繰り返すことで不確実性を近似する方法である。正規性などの強い仮定が不要、あるいは弱められることが多い。予測区間の作り方としては、個々の疑似データで予測分布を作り、分位点として両端を定めるなどの実装が可能である。
4.3.2 外れ値・分布の偏りへの耐性
外れ値が存在すると理論上の分散推定が不安定になり、区間幅が実態とずれる。再標本化では、外れ値の影響をデータ駆動で反映できる場合があるが、再標本の方針次第でバイアスも出る。したがって、外れ値検出や頑健回帰、あるいは再標本化の設計(層別や残差ブートストラップ等)を合わせて検討するのが一般的である。
5 評価と検証
5.1 区間妥当性(カバレッジ)
5.1.1 実データでの包含率の確認
妥当性は、実際の観測に対してどの程度の割合で真の値が区間内に入ったかで評価する。通常はテスト用データや時系列ならブロック化した検証で、作成手続きを繰り返して包含率を測る。理論上の信頼水準と現実の被覆率が一致しているかを確認し、ずれが系統的ならモデル仮定や分散見積もりの再検討につなげる。
5.1.2 観測設計による影響
入力変数の分布や観測の取り方は、区間の性質に強く関わる。データが特定領域に偏っていると、その領域以外では推定が不確かになり、被覆率が低下しやすい。検証設計で実運用に近い入力分布を再現できていない場合、評価結果が過大または過小になりうる。
5.2 幅の評価(精度)
5.2.1 短いほど良いかの判断
区間が狭いことは望ましいが、ただし被覆率が犠牲になっていれば品質は低い。よって、幅の最小化と包含の維持を同時に考える必要がある。実務では損失関数(例:はみ出しのコスト)を設定し、許容可能な被覆不足がない範囲で幅を調整するという方針が採られることが多い。
5.2.2 バイアスとバリアンスのバランス
モデルの誤差は推定のばらつき(バリアンス)と平均的ずれ(バイアス)の合成として現れる。予測区間では、バリアンスを抑えるための過剰な制約が結果的に被覆率を落とす場合がある。逆に保守的な過大調整は幅を広げる。区間性能はこのトレードオフの影響を受けるため、モデル選択や正則化の設計とともに評価する。
5.3 モデル診断との連携
診断は区間推定の前提が満たされているかを確認する作業であり、残差の自己相関、分散の不均一性、分布の歪み、外れ値の存在などを点検する。診断により仮定違反が疑われる場合は、変数変換、分散モデルの導入、頑健推定、再標本化などの改善策を検討し、再計算した区間で包含率と幅の両面を確認する。
6 よくある誤りと注意点
6.1 信頼水準の誤解
信頼水準を「その区間に未来が確実に入る保証」と捉えると誤りになる。区間の設計は確率保証ではなく、定義された手続きを繰り返したときの被覆の度合いを指す。数値が高いからといって毎回成功するわけではないため、運用では包含率と条件の妥当性をセットで確認する必要がある。
6.2 予測区間と信頼区間の取り違え
予測区間は将来の観測値を対象にし、信頼区間(推定区間)は推定対象の平均や係数などを対象にする。両者は同じ数値を共有することもあるが、目的と幅の理由が異なるため、そのまま混同して判断すると誤った意思決定につながる。特に意思決定が「観測値の上振れ」を問題にしている場合、推定区間を用いると過小評価になることがある。
6.3 外挿時の不安定性
入力が学習データの範囲から大きく外れた場所では、推定の根拠が弱まり、区間が信頼できなくなる。理論式上は計算できても、分散の推定やモデル適合が崩れている可能性が高い。外挿が疑われるときは、モデルの妥当性を確認し、場合によっては追加データ収集や別モデル化で対応する。
6.4 仮定の破れへの対処
誤差の正規性や等分散性が破れていると、理論に基づく区間の被覆率がずれる。対処としては、変数変換、分散の条件付きモデリング、頑健な標準誤差、外れ値の影響を抑えた推定、あるいはブートストラップ等の再標本化が挙げられる。対処後は、包含率と幅の両指標で検証し、仮定違反がどれだけ改善されたかを確かめることが重要である。