1 特徴量重要度の基本概念
1.1 特徴量重要度とは何か
1.1.1 予測への寄与の意味（解釈の範囲）
特徴量重要度は、モデルが出力を決める際に、各特徴量がどれほど寄与したかを測る考え方・手法の総称である。寄与の「意味」は算出方法により異なる。たとえば、予測誤差の低減に直結する度合いを表す場合もあれば、モデル内部の分割や重みの大きさとして表れる場合もある。さらに、重要度が示すのは通常「そのモデルとその学習データ、前処理の条件のもとでの効果」であり、別モデルや別データ環境に持ち越して同じ解釈を期待するのは難しい。したがって重要度は、解釈の射程（どの学習設定に対して妥当か）を理解したうえで参照する必要がある。
1.1.2 重要度と因果の違い
重要度は多くの場合、因果効果を直接示す指標ではない。モデルが学習した相関構造や代表性の偏りを反映することがあるため、重要度が高い特徴量が「真に原因」だと断定できない。たとえば、ある変数が別の要因の代理指標（見かけ上の手掛かり）になっていると、予測上の寄与は大きくても原因とは限らない。因果を論じるには介入や反事実の構成など、因果推論の前提が別途必要になる。重要度はまず「予測への貢献」や「モデル内での影響の大きさ」を示すものとして扱うのが基本である。
1.2 なぜ特徴量重要度を使うのか
1.2.1 特徴量選択と次元削減
特徴量重要度は、不要あるいは寄与が小さい特徴量の削減に役立つ。特徴量が多いと学習の計算コストが増えるだけでなく、推定の不安定さや過学習の温床になりやすい。重要度に基づく絞り込みは、モデルの性能維持または改善を狙いながら、入力の複雑さを下げる方策となる。加えて、データ取得コストが高い特徴量を減らす意思決定にもつながる。ただし重要度の変化は学習条件に左右されるため、削減の結果は必ず評価で確認する。
1.2.2 モデルの不具合検出とデータ改善
重要度は、データの品質や前処理の不整合を見つける手がかりにもなる。たとえば、特定の変数だけが極端に高い重要度を持つ場合、外れ値、符号反転、漏えいした識別情報、欠損処理の癖などが潜んでいる可能性がある。重要度の偏りは「モデルが学習すべきではない情報」を掴んでいる兆候として捉えられることがあるため、追加の点検やデータ清掃の優先順位を決める際の補助となる。
1.2.3 説明可能性と説明責任
医療・金融・公共性の高い領域では、モデルの判断根拠を説明する要請がある。重要度は、人が理解しやすい形で「どの特徴量が判断に影響したか」を提示するための材料になり得る。とはいえ説明責任においては、重要度が何を意味するか（寄与の定義、評価範囲、誤差への関係）を適切に開示することが不可欠である。単に上位特徴量を列挙するだけでは、根拠の妥当性や限界を伝えられない。
2 手法の分類と代表例
2.1 統計的手法による重要度
2.1.1 相関・分散に基づく指標
統計的手法では、特徴量と目的変数の関連の強さ、あるいはデータ内での情報量の観点から重要度を定義することが多い。代表例として相関係数は、線形な同時変動の程度を測る。相互情報量は、依存が線形に限られない状況でも利用でき、離散変数や非線形関係に対して有効な指標となる。分散寄与という発想は、分解（例：主成分の考え方）によって説明される変動の割合を指標化する。これらはシンプルで実装しやすい一方、交絡や代理関係、モデル学習の非線形性を十分に扱えないことがある。
2.1.2 差の検定・効果量に基づく重要度
差の検定や効果量に基づく重要度は、目的変数の区分や群に対して特徴量がどれほど分布を変えるかを指標化する。分類であれば、クラス間の平均差や分布の差を測り、回帰であれば条件付きでの変化量を捉える設計が取りうる。効果量は検定の結果では見えにくい「大きさ」を表しやすい点が利点である。ただし、サンプル数に左右されやすい面や、非正規分布・外れ値の影響を受けやすい面があるため、頑健な統計量の選択や前処理の工夫が重要になる。
2.2 モデル内在型（内蔵）重要度
2.2.1 決定木系の分岐に基づく重要度
決定木系の手法では、分岐に使われた特徴量の頻度や、その分岐が不純度（分類なら誤分類の度合い、回帰なら誤差のばらつき）をどれだけ減らしたかをもとに重要度が定義される。木の深さや分割の条件が影響するため、同じデータでもハイパーパラメータや学習設定で値が変わりやすい場合がある。特に多値特徴量や取りうる分岐が多い特徴量は有利になり得るため、公平性の観点から解釈には注意が必要である。
2.2.2 線形モデルの係数に基づく重要度
線形モデルでは、係数の大きさが重要度の手がかりになる。ただし係数はスケールに強く影響されるため、標準化の有無が重要度の見え方を左右する。正則化（L1やL2）を用いる場合、係数はデータの冗長性や特徴量間の相関の影響を受け、単純な「因果の強さ」ではなく「モデル内での採用度」の反映として理解する必要がある。多重共線性があると係数が不安定になり、重要度の順位が入れ替わることもある。
2.2.3 ニューラルネットの重み・感度に基づく重要度
ニューラルネットでは重みそのものが直接「寄与」を意味しない場合がある。層の構造や活性化関数、学習のスケールに依存して解釈が変わるため、重要度はしばしば感度解析や勾配情報と結びつけて定義されることが多い。たとえば入力を少し動かしたとき出力がどれだけ変わるかを捉える考え方がある。こうした手法は局所的な意味を持ちやすい一方、飽和領域や勾配の消失・爆発などの学習特性の影響も受けやすい。
2.3 モデル非依存（事後的）な重要度
2.3.1 置換（パーミュテーション）による重要度
置換法は、ある特徴量をシャッフルして情報を壊し、その結果としてモデル性能（損失や正解率など）がどれだけ悪化するかを測る。性能悪化が大きいほど、その特徴量が予測にとって重要だったと解釈できる。モデルに依存しにくいのが利点である一方、相関のある特徴量では注意が必要になる。置換によって「本来は別の変数が担っていた情報まで」崩れることがあり、真の寄与が過大評価される可能性がある。
2.3.2 影響度（摂動）に基づく重要度
影響度は、特徴量に小さな摂動を加えて出力の変化を観測することで重要度を定義する。局所的な感度を測る方向性であり、入力空間のある近傍での寄与を反映する。摂動の大きさや分布の仮定が結果に直結するため、スケール合わせやノイズ設定の妥当性が重要になる。また、離散特徴量や欠損パターンの扱いでは摂動の定義を慎重に設計する必要がある。
2.3.3 勾配・感度解析（反実仮想に近い解釈）
勾配・感度解析は、出力に対する入力の微分や、条件を固定したときの反実仮想的な変化の大きさを手がかりにする。グローバルな平均重要度と、個別サンプルの説明を分けて扱えることがある。ただし勾配は局所性が強く、非線形モデルでは領域によって解釈が大きく変わり得る。さらに、勾配が小さい理由が「寄与の小ささ」ではなく「内部表現の性質」や学習上の都合であることもあるため、重要度の読み方は慎重に行うべきである。
3 代表的な重要度指標の理解
3.1 重要度の算出式と直感
3.1.1 分類と回帰での扱いの違い
分類では、誤分類の度合いを損失として用いることが多く、重要度は損失悪化や性能低下を通じて測られる。回帰では、平均二乗誤差や絶対誤差など連続値の誤差が基準になり、同様に損失の変化が重要度に結びつく。直感的には「その特徴量を壊したとき、予測の確度や誤差がどれだけ揺れるか」という形で捉えられるが、評価指標の違いにより順位が変わることがある。したがって重要度を比較する際は、目的関数と評価指標が一致しているかを確認する必要がある。
3.1.2 正規化・スケールの影響
スケールは重要度の算出に直接影響する。統計的指標でも、標準化前提での相関や分散に基づく計算が変わることがある。線形モデルや勾配ベースの方法では特に顕著で、特徴量の単位や分布幅が係数や感度の大きさに反映される。よって、重要度を解釈するときは「前処理で何をしたか」を前提条件として読み取る必要がある。同じアルゴリズムでも標準化有無で値が大きく変わる可能性がある。
3.2 指標ごとの長所と注意点
3.2.1 相関特徴の扱い（同時に効く問題）
特徴量が相互に相関していると、重要度の分配が不安定になる。置換法では、相関している別特徴量が情報を代替できる場合、置換による性能低下が小さくなり、重要度が過小評価されることがある。逆に、片方を壊した結果としてもう片方の利用も連鎖的に崩れると過大評価になることもある。線形モデルでは多重共線性により係数が入れ替わる場合があり、順位が変動する。重要度を単独で評価するより、「グループとしての寄与」や「安定性」の確認が有効である。
3.2.2 外れ値と欠損の影響
外れ値は分散や勾配を通じて重要度を押し上げることがある。単純な分布差を指標化する統計手法では特に影響が大きく、頑健な統計量や外れ値処理の有無が結果に反映される。欠損は別の問題も引き起こす。欠損の有無が目的変数と結びつく場合、欠損パターン自体が情報として学習され、重要度が高く見える可能性がある。これは有用な手がかりであることもあるが、収集過程の偏りや漏えいの疑いにつながる場合もある。重要度を見る際は、欠損処理の設計（補完方法、欠損フラグ、学習と評価の整合）を点検する必要がある。
3.2.3 前処理（標準化、エンコード）の影響
前処理は特徴量の表現を変えるため、重要度の意味を変えてしまう。たとえばカテゴリ変数を一熱エンコードすると、元のカテゴリは複数のダミーに分割され、重要度がそれらに分散する。標準化は線形モデルや勾配法の尺度に影響し、係数比較の妥当性を左右する。欠損の扱い、外れ値のクリッピング、対数変換なども同様に、モデルが参照する形が変化するため、重要度の順位や値に差が生じる。したがって重要度を解釈する際は、特徴量が「原表現」ではなく「学習入力としての表現」であることを常に意識する。
4 評価・解釈の実務
4.1 重要度の妥当性を検証する
4.1.1 ホールドアウト評価と検証手順
重要度の妥当性は、学習データだけで完結させず、独立した検証データで確認するのが基本である。手順としては、まず学習済みモデルで重要度を算出し、次に特徴量を扱う操作（置換、削除、摂動）を検証セットに適用して性能変化を観測する。これにより、重要度が過学習やデータ特異性に引きずられていないかを確認できる。さらに、重要度の上位特徴量のみを用いた場合に性能が維持されるかも検証の対象になる。
4.1.2 信頼区間・ブートストラップ
重要度はデータのサンプルに依存するため、推定の揺らぎを伴う。そこでブートストラップのような再標本化により、重要度の分布を推定し、信頼区間を作ることで解釈を安定化できる。たとえば順位の入れ替わりが統計的に有意かどうかを考える手がかりになる。注意点として、再標本化の設計（層化の有無、時間方向の分割など）を誤ると、実運用の不確実性を適切に反映できない。したがって検証の枠組みは問題設定に合わせて設計する。
4.2 データ漏えいとバイアスの回避
4.2.1 学習時と評価時の整合性
データ漏えいは、学習時に評価時には利用できない情報が混入することで性能が不自然に高くなる現象である。重要度もまた、漏えい情報がある特徴量に偏って現れやすい。学習・評価の分割、前処理（標準化パラメータの推定範囲、エンコードの辞書作成範囲）の扱いを統一しないと、同様の問題が起きる。入力の整合性を守ることは、重要度の信頼性にも直結する。
4.2.2 ラベルリークの典型例
ラベルリークは、目的変数と実質的に同一の信号が特徴量として混ざることにより発生する。典型例として、将来時点の情報を過去特徴量に含めてしまう場合や、集計ウィンドウが誤って未来を参照している場合がある。欠損補完の際にラベルに依存した統計量を使ってしまうケースもある。これらは精度だけでなく、重要度が特定の変数に集中することで発見できることがある。重要度は漏えいの発見補助として使えるが、最終的にはデータパイプライン全体の点検で裏取りするのが望ましい。
4.3 デプロイ後の運用
4.3.1 時系列・ドリフト下での再評価
実運用では分布が変化し、学習時と同じ重要度が維持されないことがある。特に時系列データでは季節性や制度変更などにより入力の統計構造が揺れるため、周期的な再計算が必要になる。重要度を固定値として扱うと、意思決定の根拠が古くなるリスクがある。再評価の設計として、一定期間ごとの再学習または再推定、性能モニタリングと連動した重要度更新などが選択肢になる。
4.3.2 モニタリングとアラート設計
重要度そのものを監視する場合、変化量の閾値や、上位特徴量の入れ替わりを検知するルールを設計する。たとえば、特定の変数が急に支配的になった場合は、データ品質の劣化や新しい欠損パターン、計測条件の変更を示唆する可能性がある。アラートは誤検知もあり得るため、性能指標や入力分布の変化と併用して解釈するのが現実的である。監視対象を増やしすぎると運用負荷が上がるため、重要度変化の意味が説明可能な粒度で設計することが望ましい。
4.4 ユーモア的な落とし穴（ネットあるある）
4.4.1 「重要度が高い＝正解」ではない問題
ネット上では「重要度が高い特徴量＝その判断は正しい」と短絡する投稿が見られることがある。実際には、高い寄与は予測性能に対する効果であり、現実の正しさを直接保証しない。さらに、説明に使うモデルが抱える癖やデータの偏りが重要度に映ることもある。重要度は根拠の材料にはなるが、結論の完全な保証にはならない、という距離感が必要になる。
4.4.2 こじつけ解釈の防止（“それっぽい説明”対策）
説明が欲しいとき、人はもっともらしい因果ストーリーを後付けしがちである。重要度が示すのは「モデル上の影響」なので、そこから直接に物語を完成させると誤解が生まれる。対策として、重要度の定義（どの指標、どの評価指標、どのデータ分割か）を明示し、検証セットでの変化や安定性を確認することが有効である。加えて、複数手法（例：置換と感度）の一致を見ると、こじつけの余地が減る。