1 分位点回帰の基本

1.1 分位点概念と条件付き分位

分位点回帰は、目的変数の条件付き分布から特定の分位点を推定する手法である。独立変数共変量)を \(x\) とし、目的変数 \(Y\) の条件付き分布が \(F_{Y\mid X}(y\mid x)\) で表されるとき、確率レベル \(\tau\in(0,1)\) に対応する条件付き分位点は、 \[ Q_\tau(x)=\inf\{y:\;F_{Y\mid X}(y\mid x)\ge \tau\} \] として定義される。ここで \(\tau=0.5\) は条件付き中央値、\(\tau\) が大きいほど上側の分布位置を表す。

分位点は「分布全体のどこに着目するか」を決めるための指標であり、同じ \(x\) の下でも分布が広がったり歪んだりすれば、分位点の位置関係は平均や中央値とは別の形で変化し得る。分位点回帰は、この変化を回帰モデルとして表現する点に特徴がある。

1.2 平均回帰との違い

平均回帰(典型的には最小二乗法に基づく回帰)は、目的変数の条件付き期待値 \(\mathbb{E}[Y\mid X=x]\) を当てることを主眼とする。一方、分位点回帰は \(\mathbb{Q}_\tau(x)\) を当てるため、同じ予測対象でも「中心(平均)」ではなく「位置(分位)」が焦点になる。

この違いは、誤差非対称であったり、分散が条件に依存したり、分布が歪む場合に顕著に現れる。平均は上振れと下振れを対称に相殺しやすいが、分位点は片側のずれをより直接的に反映するため、分布形状の変動に対して解釈整合性を保ちやすい。

1.3 チェック関数と非対称損失

分位点回帰の核心は、損失関数として非対称な誤差コストを用いる点にある。予測値を \(\hat{Q}_\tau(x)\)、誤差を \(u= y-\hat{Q}_\tau(x)\) とすると、損失(チェック関数)は \[ \rho_\tau(u)=u(\tau-\mathbf{1}\{u<0\}) \] で与えられる。誤差が正(予測が低い)と負(予測が高い)でペナルティの重みが異なるため、\(\tau\) が決める「どちら側の誤りをより強く抑えるか」が明確になる。

この非対称性により、最適化の結果は条件付き分位点に一致する性質を持つ。直感的には、\(\tau\) が大きい分位点では、予測が上側に偏りすぎないように調整され、下側の観測が相対的に「許容される余地」が変化する。

1.4 推定したい対象(例:中央値、上側分位)

分位点回帰では、\(\tau\) を選ぶことで推定対象が定まる。例えば以下のような目的に対応する。

  • 条件付き中央値(\(\tau=0.5\))外れ値の影響を受けにくい代表値として用いられることが多い。
  • 上側分位(例:\(\tau=0.8,0.9\)):高い水準での挙動(リスクの高い領域)を捉えたいときに有用である。
  • 下側分位(例:\(\tau=0.1,0.2\)):低い水準での制約や不良条件の傾向を把握する目的に適合する。

単一の平均的関係だけでは説明しにくい「条件によってばらつきや分布位置が変わる」状況で、複数の\(\tau\)を同時に比較すると、分布全体の縦方向の変化が読みやすくなる。

2 定式化と推定

2.1 分位点回帰の目的関数

分位点回帰では、\(\tau\) ごとに目的関数を定義し、その最小化(あるいは最適化)によって条件付き分位点を表す関数を推定する。予測関数を \(f(x)\) とすると、推定は典型的に \[ \min_f \sum_{i=1}^n \rho_\tau\bigl(y_i-f(x_i)\bigr) \] に基づく。

ここでチェック関数が非対称損失として働くため、観測点の上下どちらに対するズレも同じ重みでは扱われない。この結果、最適解は「誤差の符号によって異なる重み付け」を反映した条件付き分位点推定に対応する。

目的関数は絶対値型の不連続性(\(u=0\) 付近の形状)を持つが、凸性(チェック関数の性質)により計算可能な枠組みが提供される。

2.1.1 チェック関数の導出と意味

チェック関数は、\(\tau\) 分位点が損失最小化の解として特徴づけられるよう設計される。直観的には、観測値が予測より大きい場合(\(u>0\))と小さい場合(\(u<0\))で損失の傾きが異なるように設定することで、分位点における「片側の逸脱均衡する点」を探す。

数学的には、損失の部分微分を考えると、最適化条件が「予測の上下に観測がどれほどの確率で分布するか」に結びつく。結果として、最適 \(f(x)\) は \(\tau\) 分位点 \(Q_\tau(x)\) を与える形になる。実務上は、損失関数としての意味がそのまま推定対象の分位に直結する点が利点である。

2.2 線形分位点回帰のモデル化

線形分位点回帰では、予測関数を説明変数の線形結合で表す。例えば \[ f(x)=x^\top\beta \] の形をとると、未知パラメータ \(\beta\) は目的関数 \[ \min_\beta \sum_{i=1}^n \rho_\tau(y_i-x_i^\top\beta) \] を最小化することで得られる。

線形モデルの利点は、係数の符号や大きさを比較しやすいこと、モデル構造が比較的単純で診断しやすいことにある。また、\(\tau\) を変えることで同一の説明変数でも異なる分位で係数がどう変わるかを観察できるため、分布の位置に応じた効果の違いを議論しやすい。

2.2.1 パラメータ推定の考え方

チェック関数は絶対値型であるため、最小二乗のような滑らかな微分可能性は期待しにくい。その代わり、誤差の正負に応じたペナルティが線形的に組み込まれることで、最適化問題を線形計画問題として定式化できる場合が多い。

実際の推定では、各観測の残差を正負に分解し、それぞれに対してチェック関数の重みを適用することで、制約付き最小化として扱う。凸問題としての性質が保たれるため、適切なソルバやアルゴリズムを用いることで安定した解を得やすい。

2.3 非線形・拡張モデルの考え方

2.3.1 汎化の方針(特徴量設計など)

分位点回帰は線形に限らず、非線形関数 \(f(x)\) を用いて拡張できる。方針としては、次のような汎化の工夫が挙げられる。

  • 特徴量設計:交互作用項、非線形変換(対数、二乗など)、スプライン基底の導入により、入力空間の複雑さをモデルに反映する。
  • 正則化:係数の大きさに罰則を設け、過学習を抑える。分位ごとの推定に加えて、複数分位を扱う枠組みでも整合的に使われる。
  • モデルクラスの拡張:木構造、カーネル法、ニューラルネットに基づく損失最小化などが考えられる。目的はチェック損失を最小化できる枠組みに落とし込むことである。

分位点ごとに学習を行うと、\(\tau\) 間で係数や分布位置の整合性が得られない場合もあるため、複数分位同時推定の設計や平滑化なども検討される。

3 数値計算と実装

3.1 最適化手法(線形計画・内点法など)

線形分位点回帰は、チェック関数による目的が凸であるため、一般に効率的な最適化が可能である。特に標準的な構成では、損失を分解して線形計画として扱えることがあり、線形計画ソルバを用いて解く方法がある。

また、線形計画以外にも、内点法や分解法(座標更新、ブロック更新等)をチェック損失に合わせて実装するアプローチがある。現代の実装では、データサイズや特徴量のスパース性に応じて、計算効率の高いアルゴリズムが選ばれることが多い。

3.2 計算上の注意点(収束、計算量)

分位点回帰の最適化では、損失が非滑らかであるため、勾配に基づく手法は工夫が必要になる。反復法を用いる場合でも、解の定義が部分微分に基づくため、収束判定の設計や停止条件が重要である。

計算量は主に、サンプル数 \(n\)、説明変数の次元 \(p\)、および選択した \(\tau\) の数に依存する。複数分位を同時に推定する場合は計算負荷が増えるため、分位点を必要最小限に絞る、初期推定を活用する、あるいは計算資源に応じてアルゴリズムを切り替えるといった戦略が用いられる。

3.3 ソフトウェア・実装の観点

実装上の要点は、(1)チェック損失の取り扱い、(2)設計行列の前処理、(3)数値安定性、(4)出力の解釈である。

  • 前処理:説明変数のスケーリングや欠損値処理は、最適化の挙動に影響する。特に線形計画型の推定ではスケールが数値条件に関係し得る。
  • モデル選択:線形か非線形か、正則化の有無、基底関数の数を選ぶ必要がある。
  • 推定誤差:標準誤差や信頼区間をどう算出するか(ブートストラップなど)も実務で重要になる。

実務では再現性の観点から、乱数に依存する手法がある場合のシード管理や、バージョン差を明示することが求められる。

3.4 分位点選択の実務手順

\(\tau\) の選択は目的に直結するため、以下の手順で決めることが多い。

  1. 分析目的の整理:中心の挙動を見たいのか、上側リスクや下側制約を見たいのかを定める。
  2. 複数分位でのスクリーニング:中央値周辺に加えて、上位・下位の分位点を数点取り、効果の変化を確認する。
  3. 解釈可能性の確認:推定値が極端な外挿になっていないか、標本数が偏っていないかを点検する。
  4. 評価指標による検証:損失値、予測の妥当性、残差の診断などを用い、選んだ分位が目的に合うかを確かめる。

分位点を増やし過ぎると計算負荷と不確実性が増えるため、意思決定に必要な範囲を見極めることが実務上の要点となる。

4 理論的性質と評価

4.1 推定量の頑健性と外れ値への強さ

分位点回帰は平均回帰より外れ値の影響を受けにくい性質を持つことがある。チェック損失は二乗誤差のように大きな残差を強く増幅しにくく、したがって極端な観測が推定を支配しにくい。

ただし、頑健性は万能ではなく、どの分位点を推定するか、外れ値がどの側(上側か下側か)に出るか、説明変数の組合せがどの程度偏っているかで挙動は変化する。とはいえ、平均だけでは説明できない「片側のずれ」を扱う能力が分位点回帰の重要な利点である。

4.2 異分散・歪みへの適応

異分散(条件により分散が変わる)では、平均回帰は誤差構造の変化を同時に表現するのが難しい場合がある。分位点回帰は、分散や歪みが生じていても分位ごとの位置関係を直接モデル化できるため、状況に適応しやすい。

また、分布が歪んでいる場合でも、中央値や上側分位などを対象にすると、分布の非対称性に沿って予測が変化する。結果として、同じ説明変数でも条件付き分布の形状が異なる領域を、比較可能な形で記述できる。

4.3 分位点ごとの解釈

分位点ごとの係数は、同一の説明変数でも「どの位置の分布に効いているか」を示す。例えば、上側分位で係数が大きいなら、その説明変数は高い水準での増減に強く関連していると解釈できる。

一方、中央値と上側で符号が変わる場合は、効果の方向が分布位置によって異なることを示唆する。これは線形平均モデルでは表しにくい含意であり、分位点回帰が「分布全体のどこに注意を払うか」を分析の軸に据える手法であることを反映している。

4.4 評価指標と診断(残差の見方など)

分位点回帰の評価では、分位点推定の妥当性を反映した診断が重要になる。代表的には、チェック損失に基づく予測評価や、検証データでの損失比較が用いられる。

残差の見方としては、単に平均ゼロかどうかを見るのでは不十分である。チェック損失に対応する意味で、ある分位点を基準に観測がどちら側に位置しているかを確認する。具体的には、推定した分位点より観測が上側にある頻度が \(\tau\) に近いか、条件付きで系統的な偏りがないかを調べる。

加えて、説明変数の範囲に対して推定が不安定になっていないか(データの密度不足による外挿など)、複数分位間で挙動が極端に不自然になっていないかを点検することで、実務上の信頼性を高められる。