ロジットの基本
定義（オッズと対数）
オッズの考え方
オッズは、ある事象が「起こる」ことと「起こらない」ことの比として表される量である。二値の結果を考えると、成功確率を p としたとき、成功のオッズは p/(1-p) になる。ここで p は 0 と 1 の間の値を取り、p が大きいほど成功のオッズも増える。オッズは確率と同じ情報を別の尺度で表しており、統計モデリングでは特に「比」の形が扱いやすい場面が多い。
対数オッズとしてのロジット
ロジットは、このオッズの対数として定義される。すなわち logit(p) = log(p/(1-p)) である。対数を取ることで、比の変化が足し算として表現されやすくなるため、説明変数との関係を線形な形に落とし込みやすい。加えて、p が 0 に近づくと p/(1-p) は 0 に近づき、対数は負の方向へ大きく振れる。逆に p が 1 に近づくと対数オッズは正の方向へ発散する。この性質により、ロジット値は実数全体に広がる。
確率との関係
ロジットから確率への変換（逆変換）
ロジットの定義を p について解くことで、逆変換が得られる。x = logit(p) と置くと、x = log(p/(1-p)) より p/(1-p) = exp(x) が成り立つ。したがって p は exp(x) / (1 + exp(x)) によって復元できる。実務上は、モデルが出力する線形予測子（後述）を x とみなし、ロジスティック関数で確率へ変換する。
0〜1の範囲での性質
ロジスティック関数による変換は、入力がどの実数であっても出力が 0 から 1 の範囲に収まる。これは、確率としての整合性を常に満たすことにつながる。線形予測子をそのまま確率として扱うと負や1超過が起こりうるが、ロジットと逆変換の組により、制約条件が自動的に守られる点が中核となる。さらに、確率の変化率は p の値によって異なり、ロジット空間での変化が確率に非線形に反映される。
閾値と解釈
係数が意味する方向性
ロジスティック回帰などでロジットが線形予測子により表されると、係数はロジット空間での増減方向を示す。ある説明変数が 1 単位増えると仮定したとき、その変数に対応する係数が正なら、線形予測子は増える。するとロジットが増加し、逆変換により成功確率は上がる傾向になる。係数が負なら逆方向である。したがって係数の符号は「成功確率を押し上げるか、下げるか」という方向性の手掛かりになる。
しきい値（分類）と確率
分類の実務では、確率に対して閾値（しきい値）を設け、超えた場合を成功、下回った場合を失敗とする。閾値は 0.5 に置かれることが多いが、損失の非対称性やベースレート（頻度）によっては別の値が適切になる。閾値が変わると同じ確率推定でも分類結果は変化する。ロジットの出力は確率に変換されるため、閾値の設定は最終判断の層にあり、モデルの学習目的や評価指標（再現率重視など）と整合させる必要がある。
ロジットと統計モデル
ロジスティック回帰
目的変数が二値の場合
ロジスティック回帰は、目的変数が「起こる／起こらない」のように二値であるときに用いられる代表的な手法である。ここで成功確率 p を、説明変数ベクトル x と結びつける。モデルは、確率 p 自体を線形にしようとはせず、ロジット logit(p) を説明変数の線形結合として表す点が特徴である。これにより、確率の範囲制約を維持したまま、説明変数による影響を線形の形で表現できる。
最尤推定の考え方
未知の係数を推定する際には、通常最尤推定が用いられる。各観測はベルヌーイ分布で表せるので、観測された結果がモデルの出す確率に整合するほど尤度が大きくなるように係数を選ぶ。具体的には、成功した観測には p が、失敗した観測には 1-p が対応し、それらの積（または対数尤度の和）を最大化する。対数尤度は計算上扱いやすく、最適化の手順が標準化されている。
ロジットの線形予測子
ロジットの線形予測子は、係数と説明変数の線形結合として書かれる。一般に logit(p) = β0 + β1 x1 + … + βk xk の形で表現される。ここで β0 は切片であり、βj は各説明変数の寄与を表す。推定後はこの線形予測子をロジスティック関数へ入れて p を得る。重要なのは、「ロジット空間では線形」という構造が、確率空間の非線形な挙動を生むことである。
一般化線形モデル（GLM）での位置づけ
分布とリンク関数
一般化線形モデル（GLM）は、従属変数の分布（確率分布）と、平均（あるいは線形予測子）と分布の平均を結ぶリンク関数を組み合わせて定式化する枠組みである。二値のときにはベルヌーイ分布（あるいは二項分布での拡張）を用い、リンク関数としてロジットリンクが選ばれることが多い。リンク関数により、説明変数の線形結合が平均応答に対応する形になる。
ロジットリンクの利点
ロジットリンクが選ばれる理由の一つは、解釈のしやすさと計算の安定性である。ロジットは対数オッズに基づくため、係数はオッズ比の対数に結びつく。さらに、逆変換がロジスティック関数として閉じた形で得られるため、予測計算が簡潔になる。確率の上限下限が自動的に守られる点も、目的変数が確率として意味を持つ場合に有利である。
他のリンク関数との比較
プロビットとの関係
プロビットは、ロジットと同様に二値応答を扱うGLMで用いられる別のリンク関数である。ロジットが log(p/(1-p)) で結ぶのに対し、プロビットは累積正規分布の逆関数（probit）を用いる。結果として確率曲線の形は似ることが多いが、テールの振る舞いなどで差が生じる。観測データがどちらの仮定に近いかは状況依存であり、明確な優劣が一般に保証されるわけではない。
補完的な使い分け
実務では、どのリンク関数を採用するかは「理論上の妥当性」と「予測性能」の両面から検討される。理論的な理由が弱い場合でも、外部検証により損失や校正の良さを比較することで、適切な選択が行える。なお、同じ説明変数でも学習された係数の数値はリンク関数で変わるため、係数の直接比較よりも、予測の妥当性や解釈の整合性に重心を置くのが一般的である。
推定・評価と実務的観点
モデル診断
当てはまりの確認
ロジスティック回帰では、予測確率が実データの頻度と整合しているかを確認することが重要である。代表的な診断としては、確率をビンに分けて観測された成功率と予測平均を比較する方法がある。うまく当てはまっていれば、ビンごとの観測頻度は予測確率に概ね沿う。過度な乖離は、説明変数の取り込み不足、関数形のミスマッチ、あるいはデータの性質が仮定から外れている可能性を示す。
残差・影響の見方
二値モデルの「残差」は連続回帰ほど直感的ではないが、影響度の評価や、当該観測が推定結果に与える寄与の大きさを見る手法は有用である。たとえば、予測確率が極端に高い（あるいは低い）のに観測結果が逆だった点は、尤度に大きな負担をかけやすい。こうした点が多数あるとき、モデルが分布の異常や入力データの問題を吸収しきれない可能性がある。単発の外れ値と、構造的なズレ（サンプル選別や測定誤差）を分けて理解することが実務上の鍵になる。
検証指標
分類の性能（正解率・再現率など）
閾値を置いたときの分類性能は、正解率だけで判断しないほうがよい。特にクラスの不均衡がある場合、予測が主要クラスに偏ると正解率は高く見えても有用性は低いことがある。再現率（陽性を取り逃さない度合い）や適合率（誤って陽性とした割合の少なさ）、さらにそれらを組み合わせた指標が用いられる。しきい値を動かした評価では、曲線の面積として要約される指標も役立つが、目的に応じた選択が必要である。
確率の性能（校正・損失関数）
確率としての性能は、校正（calibration）を重視することで把握しやすい。校正は「予測した確率に対して実際の成功頻度が一致するか」を問う考え方である。たとえば 0.8 と予測した区間で実際に成功が概ね 80%起きるなら校正が良い。損失関数としては対数損失（対数尤度由来）などが用いられ、確率推定が不確実なときのペナルティを自然に反映する。分類指標よりも、確率の意思決定用途（リスク見積りなど）に適している場合がある。
変数設計と正則化
交互作用・非線形性の扱い
ロジスティック回帰は基本形が線形予測子であるため、現実の関係が非線形であると十分な表現力が得られないことがある。これを補うには、交互作用（掛け合わせ）や多項式特徴、あるいはスプラインなどで説明変数の表現を拡張する。交互作用は「ある変数の効果が別の変数の水準で変化する」状況を表すため、現象の機序に整合する場合に有効である。ただし特徴量を増やしすぎると過学習のリスクが上がるため、検証と組み合わせた設計が必要になる。
正則化（過学習対策）
正則化は、係数の大きさに罰則を与えることで過学習を抑える技法である。代表的には L1（疎な解を促しやすい）や L2（係数を滑らかに抑える）などがある。ロジットに基づく確率推定でも、特徴量が多いときやデータが限られるときに有効である。正則化の強さ（ハイパーパラメータ）は、検証データで性能が最も高くなる値を選ぶのが一般的である。これにより、当てはまりと一般化のバランスを調整できる。
解釈のコツと注意点
係数の直感的な理解
オッズ比への換算
ロジット回帰の係数 β は、オッズ比の対数に対応する。具体的には、ある説明変数 xj が 1 単位増えるとき、オッズ比は exp(βj) になる。exp(βj) が 1 より大きければ成功のオッズが増加し、1 未満なら減少する。ここで重要なのは、オッズ比は確率の差ではなく「比」である点である。確率が同じ程度変わっていても、元の確率の位置（ベースの高さ）によってオッズ比の見え方が変わる。
連続・カテゴリ変数での読み方
連続変数は「どれだけ増えたらオッズ比がどう変わるか」という形で解釈できる。たとえば単位が小さいほど、1単位あたりの効果は控えめに見えることがあるため、解釈の単位を現象スケールに合わせて調整するのが望ましい。一方カテゴリ変数は基準水準との差として解釈する。あるカテゴリの係数は、その基準に比べて成功オッズがどれだけ高い（あるいは低い）かを表す。基準の選び方により係数の数値は変わるが、予測の整合性は保たれる。
バイアスと前提
データの偏り
データが母集団を代表していない場合、係数や予測確率は体系的にずれる。選別（サンプル選択）や測定手順の違い、欠測の扱いなどが偏りの原因になることがある。特に成功事象の定義や取得方法がサブグループで異なると、モデルが学習すべき関係が混ざり合い、推定が不安定になる。診断段階で、ラベル付けの過程や観測の偏りを確認することが重要になる。
完全分離などの問題
説明変数の組み合わせによって、学習データ上で成功と失敗が完全に分離できる場合がある。これを完全分離といい、この状況では最尤推定が発散し、係数が有限値として決まりにくくなる。実務では、推定アルゴリズムが警告を出したり、標準誤差が異常に大きくなったりすることで兆候が見られる。対策としては、正則化を導入する、問題の特徴量を見直す、もしくはデータ収集の再検討を行うなどがある。
よくある誤解
「確率が線形になる」という誤解の回避
ロジスティック回帰で線形なのは確率そのものではなく、ロジット（対数オッズ）である。このため、説明変数を増やしたときの確率の増え方は一定ではない。確率が中域にあると変化が比較的急になり、0 や 1 に近づくと変化が鈍化する。したがって「係数が大きいほど確率は同じ割合で増える」といった素朴な解釈は誤りになりうる。確率に直した上で挙動を確認することが誤解の回避につながる。
ロジットの範囲外での扱い
ロジット変換は定義上、成功確率 p が 0 または 1 に等しい場合に問題を含む。なぜなら log(p/(1-p)) は p=0 で負に発散し、p=1 で正に発散するからである。現実データでは確率が厳密に 0 や 1 になることは珍しくないが、推定過程では観測により極端な確率に押し出されることがある。完全分離が関係することもあるため、推定の安定化や正則化、データの見直しを通じて「極端値への無理な当てはめ」を避ける必要がある。