1.1 定義の基本
統計学において外れ値とは、データセット内の他の観測値から著しく離れた値を指す。外れ値はデータの分布の裾野に位置し、多くの場合、他のデータ点と比較して異常に大きいか小さい値をとる。外れ値の定義はデータの性質や分析目的に依存するが、一般的には統計的な基準やドメイン知識に基づいて判断される。外れ値の存在はデータの代表性や分析結果の妥当性に影響を及ぼすため、その定義はデータ分析の初期段階で明確にしておくことが重要である。
1.2 外れ値の種類
1.2.1 一変量外れ値
一変量外れ値は、単一の変数において他の値から極端に離れた観測値である。例えば、テストの点数が0点から100点の範囲にあるデータセットにおいて、単一の1000点という値は一変量外れ値とみなされる。このタイプの外れ値は、変数の分布を可視化するヒストグラムや箱ひげ図によって容易に検出できる。一変量外れ値は測定誤差やデータ入力ミスなど、単一変数内の異常に起因することが多い。
1.2.2 多変量外れ値
多変量外れ値は、複数の変数を同時に考慮した場合に異常となる観測値である。個々の変数では正常範囲内であっても、変数間の組み合わせが異常である場合に発生する。例えば、身長と体重のデータにおいて、身長が平均的で体重が極端に低い場合、一変量では外れ値でなくとも多変量では外れ値となる。多変量外れ値の検出にはマハラノビス距離などの多変量統計手法が用いられる。
1.3 外れ値の原因
1.3.1 自然な変動によるもの
外れ値はデータの自然な変動の一部として発生することがある。例えば、収入分布における高額所得者や、特定の疾患を持つ患者の特異な検査値など、母集団に本来存在する稀なデータ点である。これらの外れ値は統計分析において重要な情報を含む場合があり、単純に除去するのではなく、その要因を分析することが求められる。外れ値が自然な変動に起因する場合、データの裾野の重みを反映するため、ロバストな統計手法の利用が推奨される。
1.3.2 人為的エラーによるもの
人為的エラーは外れ値の一般的な原因である。データ入力ミス(桁の間違いや単位の誤り)、測定機器の故障、実験手順の誤り、サンプルの汚染などが該当する。例えば、アンケートで年齢が200歳と記録された場合、これは明らかな入力エラーである。このような外れ値は分析結果を歪めるため、可能な限り特定し、修正または除去する必要がある。人為的エラーによる外れ値は、データ品質管理の一環として対処される。
2.1 統計的手法
2.1.1 Zスコア法
Zスコア法は、各データ点が平均から何標準偏差離れているかを示す指標を用いて外れ値を検出する方法である。Zスコアは(観測値 - 平均)/ 標準偏差で計算される。通常、Zスコアの絶対値が2または3を超えるデータ点を外れ値とみなす。この手法はデータが正規分布に従う場合に有効であるが、データに極端な外れ値が含まれると平均や標準偏差が影響を受け、検出精度が低下する欠点がある。そのため、データの分布を事前に確認することが重要である。
2.1.2 IQR法(四分位範囲法)
IQR法はデータの四分位範囲(IQR = 第3四分位数 - 第1四分位数)を用いて外れ値を検出する。第1四分位数から1.5×IQRを引いた値未満、または第3四分位数に1.5×IQRを加えた値を超えるデータ点を外れ値と定義する。この方法はデータの分布に依存せず、中央値と四分位数というロバストな統計量を用いるため、外れ値自体の影響を受けにくい。箱ひげ図で標準的に使用される手法であり、実務で広く採用されている。
2.2 可視化手法
2.2.1 箱ひげ図
箱ひげ図はデータの分布を視覚的に表現するグラフであり、外れ値の検出に有用である。箱の上下端は第1四分位数と第3四分位数を表し、箱内の線は中央値を示す。ひげは通常、第1四分位数から1.5×IQR、第3四分位数+1.5×IQRまでの範囲を伸ばし、その範囲外の点は個別にプロットされて外れ値として識別される。箱ひげ図は複数のグループのデータを比較する際にも有効であり、外れ値の有無や分布の偏りを一目で把握できる。
2.2.2 散布図
散布図は二変量データの関係を可視化するのに用いられ、多変量外れ値の検出に役立つ。変数間の相関パターンから大きく外れた点が外れ値として識別される。例えば、身長と体重の散布図で、他の点のクラスターから離れた位置にある点は外れ値の可能性が高い。散布図は外れ値の検出だけでなく、データのクラスター構造や非線形関係の発見にも寄与する。ただし、変数が3つ以上の場合には散布図行列や3次元プロットなどが必要となる。
2.3 機械学習を用いた手法
2.3.1 クラスタリングベースの方法
クラスタリングベースの外れ値検出は、データをグループ(クラスタ)に分割し、どのクラスタにも属さない点や、クラスタ中心から遠く離れた点を外れ値とみなす方法である。代表的なアルゴリズムにk-meansクラスタリングがあり、各点の最も近いクラスタ中心までの距離が大きいものを外れ値として識別する。また、DBSCAN(Density-Based Spatial Clustering of Applications with Noise)は密度ベースのクラスタリング手法であり、密度の低い領域に存在する点を直接ノイズ(外れ値)として扱う。クラスタリングベースの方法は、データの自然な構造を考慮できる利点がある。
2.3.2 距離ベースの方法
距離ベースの外れ値検出は、各データ点とその近傍点との距離に基づいて外れ値を判定する。k近傍法を用いた方法では、各点から最も近いk個の点までの平均距離を計算し、この距離が大きい点を外れ値とする。また、局所外れ値因子(LOF)は、点の周囲の局所的な密度を近傍点の密度と比較し、密度が極端に低い点を外れ値として検出する。距離ベースの方法は、データの局所的な構造を捉えることができ、多様な分布形状に対応できる。ただし、計算コストが高いため、大規模データセットでは注意が必要である。
3.1 統計分析への影響
3.1.1 平均値と標準偏差への影響
外れ値は平均値と標準偏差に大きな影響を及ぼす。平均値は外れ値の影響を強く受けるため、データセットが歪むと代表値として適切でなくなる。例えば、所得データに1人の億万長者が含まれる場合、平均所得は実際の中央値より大幅に高くなる。同様に、標準偏差も外れ値によって拡大され、データのばらつきを過大評価する。この結果、信頼区間や仮説検定の結果が歪められる可能性がある。そのため、外れ値が存在するデータでは中央値や四分位範囲などのロバストな統計量を用いることが推奨される。
3.1.2 回帰分析への影響
回帰分析において外れ値は回帰直線の傾きや切片に大きな影響を与える。特に、説明変数の極端な値と組み合わさった外れ値(ハイ・レバレッジ点)は、回帰係数を大きく変化させる。また、外れ値は残差を拡大し、決定係数R²を低下させる。さらに、外れ値が誤差項の独立性や等分散性の仮定に違反する場合、回帰モデルの有効性が損なわれる。外れ値の影響を軽減するためには、ロバスト回帰手法(M推定など)の利用や、外れ値を特定した上でのモデル再構築が行われる。
3.2 対処法の選択
3.2.1 外れ値の除去
外れ値の除去は最も直接的な対処法である。ただし、この方法は外れ値が人為的エラーに起因することが明らかな場合にのみ適切であり、自然な変動による貴重な情報を失うリスクがある。除去の際には、外れ値が全体のデータに占める割合が大きい場合や、除去後にデータの分布が不自然に変化する場合には注意が必要である。また、外れ値を除去したことを分析結果に明記し、透明性を確保することが求められる。欠損値として扱う方法もあり、その場合は多重代入法などの処理が必要となる。
3.2.2 変換による調整
変換による調整は外れ値の影響を軽減する方法である。対数変換、平方根変換、逆数変換などの数学的変換をデータに施すことで、外れ値の影響を縮小し、データ分布を正規化に近づけることができる。例えば、右に裾の長い所得データに対数変換を適用すると、外れ値のスケールが圧縮される。変換は外れ値そのものを除去せずに分析に含めるため、情報の損失を防ぐ効果がある。ただし、変換後のデータの解釈が難しくなる場合がある点に留意する必要がある。
3.2.3 ロバスト統計の利用
ロバスト統計は外れ値の影響を受けにくい統計手法である。例えば、中央値、四分位範囲、トリム平均(平均の両端を切り落とした値)などが代表的なロバスト統計量である。回帰分析では、最小絶対偏差(LAD)回帰やM推定などのロバスト回帰手法が用いられる。これらの手法は外れ値が存在する場合でも安定した結果を提供するため、実データ分析において有用である。ロバスト統計の利用は、外れ値の除去や変換に代わる現実的な選択肢である。
4.1 金融分野での例
金融分野では、外れ値の検出が不正取引や市場の異常変動の特定に活用される。株式取引データにおいて、通常の価格変動から大きく逸脱した取引はマーケット操作や誤発注の可能性があるため、リアルタイムで監視される。また、クレジットカードの不正利用検知システムでは、顧客の通常の購買パターンから外れた高額取引や外国での急な使用が外れ値として検出される。さらに、リスク管理においては、ポートフォリオのリターン分布の裾野にある極端な損失(テールリスク)が外れ値として分析され、VaR(バリュー・アット・リスク)などの指標に反映される。
4.2 医療データ分析
医療データ分析では、外れ値が疾患の診断や治療効果の評価に重要な手がかりを与える。例えば、患者の検査値(血糖値や血圧など)が基準範囲から大きく外れた場合、緊急対応が必要な病態を示唆する。また、臨床試験において、特定の患者が他の患者と著しく異なる反応を示す場合、その外れ値が薬剤の副作用や個別の遺伝的要因を明らかにする可能性がある。画像診断では、医用画像中の異常陰影(腫瘍など)が画素値の外れ値として検出される。外れ値の適切な扱いは、誤診を防ぎ、個別化医療の推進に寄与する。
4.3 異常検知システム
異常検知システムは、外れ値の概念を応用した実用的な技術であり、様々な分野で運用されている。工場の製造ラインでは、センサーデータの外れ値を監視することで機器の故障予知や品質不良の早期発見が行われる。ネットワークセキュリティでは、通常の通信パターンから逸脱したトラフィックを外れ値として検出し、サイバー攻撃を識別する。交通システムでは、道路上の車両の異常な挙動(急ブレーキや蛇行)を外れ値検出によって捉え、事故防止に活用される。これらのシステムは多くの場合、機械学習モデルを用いてリアルタイムで外れ値を識別し、迅速な対応を可能にしている。