1 ワッサースタイン距離の基本概念
1.1 確率分布と質量輸送の直感
1.1.1 質量移動（輸送計画）の考え方
ワッサースタイン距離は、2つの確率分布が表す「質量」の空間的配置を、ある規則に従って移し替えるときの最小コストとして理解される。片方の分布を元の配置、もう片方を到達先の配置とみなし、元の各点から到達先の各点へ質量を運ぶ割当の仕方を探索する。その割当が満たすべき条件は「出発点ごとに減る総量が元の分布に一致し、到着点ごとに増える総量が目標の分布に一致する」ことである。こうして、単なる数値の差ではなく、位置関係を反映した“変換の手間”を距離として定量化できる。
この見方では、質量は連続的にも離散的にも扱える。分布が離散点の集合に重みを持つ場合は、各点から別点へ運ぶ量の表が輸送計画に相当する。連続分布の場合は、点ごとの割当ではなく、空間上の確率的な対応（結合）として輸送が表される。
1.1.2 受け渡しコストの定義と意味
輸送コストは、出発点と到着点の組に対して与える「運ぶときの単位当たりの費用」で定義される。典型例として、空間がユークリッド空間なら、コストは2点間距離の関数として与えられることが多い。たとえば距離の2乗をコストにしたり、距離のp乗を用いたりする。すると、単に遠くへ運ぶことは高コストになるため、最適計画は「近い場所の質量同士を優先して対応させる」傾向を持つ。
この設計により、ワッサースタイン距離は幾何情報を取り込みやすい。どの位置が重要か、どれくらいの移動が高い損失とみなされるか、という問題設定に合わせてコスト関数を選べる点が実用上の利点になる。
1.2 距離としての要件
1.2.1 非負性と一致条件
ワッサースタイン距離は、定義上の最小化対象が非負であることにより、一般に非負の値をとる。コスト関数が適切に定められている限り、最適輸送計画の総費用は0以上になる。さらに距離が0となるのは、2つの分布が同じ配置を持つ場合に限られる。つまり、質量を移す必要がなく、どの点にも同じ重みがあるなら輸送コストは最小値0に到達する。逆に、分布が異なるなら同じゼロコストにはならない（与えたコスト構造のもとで一致できないため）。
1.2.2 対称性と三角不等式
対称性は、片方からもう片方へ移す費用と、その逆の費用が同じになるように設計できることに依存する。標準的なコストが距離に基づくとき、出発と到着を入れ替えても同等のコストになるため、距離概念として自然に対称性が成立する。
三角不等式は、輸送計画が「合成」できる性質を反映する。具体的には、分布AからBへ移す最適計画と、BからCへ移す計画を連結して得られる輸送は、AからCへ直接移す最適計画の費用よりも大きくなり得る。したがって、AからCまでの最良値は、A→BとB→Cの和以下で抑えられる。これが三角不等式の意味合いになる。
1.3 他の距離・ダイバージェンスとの関係
1.3.1 全変動距離との対比
全変動距離は、確率質量の量的な差に焦点を当てる指標であり、位置関係の情報は直接は反映されにくい。たとえば分布が似た形でも、少しだけ位置がずれているだけであれば、ワッサースタイン距離は「ずれの大きさ」と結び付いて小さくなり得る一方、全変動距離は大きく変わる場合がある。
この違いは、全変動距離が質量の“取りこぼし”や“過不足”に敏感であるのに対し、ワッサースタイン距離は質量をどこへ運ぶかという“移動の規模”に敏感であることに由来する。結果として、連続的なずれを評価したい場面でワッサースタイン距離が好まれることがある。
1.3.2 Kullback–Leiblerダイバージェンスとの対比
Kullback–Leiblerダイバージェンス（KLダイバージェンス）は、片方の分布を基準に見たときのもう片方の“情報損失”を測る量として導入される。ワッサースタイン距離が（輸送として）質量の移動コストを最小化するのに対し、KLダイバージェンスは確率密度の比に基づく評価であり、しばしば非対称である。
実務上は、KLがゼロ確率の扱いに敏感である点や、サポートの重なりが乏しい場合に評価が急激に大きくなり得る点が論点になることが多い。これに対しワッサースタイン距離は、位置関係と移送可能性に基づくため、分布の重なりが小さくても一定の連続的挙動を示しやすい、といった特徴として語られることがある。どちらが常に優れているかは目的次第であり、性質の違いを理解して使い分けるのが基本になる。
2 数学的定式化
2.1 有限次元の離散分布
2.1.1 線形計画としての輸送問題
2.1.1.1 移送量（輸送変数）と制約条件
離散点集合上での分布を考える。空間の点を i=1,…,n とし、分布は重みベクトル（確率質量）として与えられる。出発側の重みを a_i、到達側の重みを b_j とする。輸送計画は、出発点 i から到着点 j へ運ぶ量を表す変数 x_{ij} によって表される。
制約は2種類ある。第一に、各出発点 i から出る総量は a_i に一致する必要がある。第二に、各到着点 j に入る総量は b_j に一致する必要がある。加えて、輸送量は負にならない。これらを満たす {x_{ij}} の集合が、許される“結合”や“輸送計画”に対応する。
2.1.2 コスト行列と最適解の構造
コスト行列 C を用意し、C_{ij} を i から j へ運ぶ単位当たりコストとする。すると総輸送コストは 総和_{i,j} C_{ij} x_{ij} の形になり、制約のもとでこれを最小化する問題が定式化される。この形は線形計画問題として解けるため、標準的な最適化理論に基づいた性質が得られる。
最適解の構造としては、一般に全ての i,j にわたって移送が行われるとは限らず、コストの状況に応じて非零の移送量の組が限定されることが多い。特にコストが幾何的意味を持つ場合は、近い点同士が対応しやすいといった直観が数学的な最適性条件に反映される。
2.2 一般の確率分布（連続・測度）
2.2.1 結合測度（結合）の概念
連続・測度としての定式化では、輸送計画は2つの分布の周辺分布を持つ「結合測度」として扱われる。出発分布を μ、到達分布を ν とすると、結合測度 π は（1）その周辺分布が μ に一致し、（2）もう一方の周辺分布が ν に一致するという性質を満たす。この π が「どの場所の質量を、どの場所へ移すか」を確率的に指定する役割を担う。
結合測度を導入することで、離散の場合における x_{ij} を連続の文脈へ拡張できる。輸送の合成や制約も周辺分布条件として自然に表現され、定義がコストの期待値に基づく形へ整理される。
2.2.2 変分（infimum）による定義
一般の定義では、結合測度の候補の集合の上でコストの期待値を最小化する。p-ワッサースタイン距離の典型形では、コストが（距離のp乗）として与えられるため、積分として期待値が書ける。そこでワッサースタイン距離は、その期待コストの最小値から p 乗根を取る形として定義される。
この最小値が実際に達成されるか、もしくは下限（infimum）としてのみ定義されるかは、分布が持つモーメント条件や空間の性質に依存する。実務では、距離が有限となる条件（たとえば十分な積分可能性）が事前に確認されることが多い。
2.3 p-ワッサースタイン距離
2.3.1 pの選択がもたらす性質
p はコスト関数の非線形性を決め、外れ値の影響を調整する役割を持つ。一般に p が大きいほど、遠距離の移送がより強く罰せられるため、極端に離れた場所への質量移動があると距離の値が増えやすくなる。逆に小さい p は、比較的近傍のずれの扱いが相対的に軽くなる傾向がある。
また、p によって得られる数学的性質が微妙に変わる。たとえば有限性に必要なモーメント条件の形が変わり、距離の収束性や位相的な対応関係にも影響が出る。したがって p の選択は、問題が要求する感度と理論的条件の折り合いとして位置付けられる。
2.3.2 尤度や重みへの感度
ワッサースタイン距離は確率質量の“配置”だけでなく、“重みの出方”にも影響される。たとえばある領域に質量が集中し、別の領域に薄く分布が広がる場合、最適輸送計画はその偏りを考慮して対応付けを変える。その結果、同じ平均位置でも分散や形状の違いが距離に表れやすい。
また、有限標本から推定した経験分布に対する比較では、個々のサンプル位置の変動が輸送計画の変更につながり、距離の変動にも反映される。p を上げると極端な移動がさらに強調されるため、推定誤差の性質にも違いが出ることがある。
3 ワッサースタイン距離の性質
3.1 分布の位相・収束との関係
3.1.1 有界モーメントと収束
ワッサースタイン距離による比較は、単なる点wise の差ではなく、輸送コストに対応したモーメント情報と密接に関わる。特に p に対応した次数のモーメントが有限であることが、距離が有限になり、収束の議論が成立するための基盤になる。
この枠組みでは、ある列の分布がワッサースタイン距離で収束するなら、その分布は平均的な位置だけでなく、重い裾を持つような挙動も含めて制御されていくことが多い。逆に、モーメントが不足すると、距離が無限大になったり、収束が期待通りに表現されないことがある。
3.1.2 分布の弱収束とのつながり
弱収束は、連続有界関数に対する積分値が一致していくことで特徴づけられる。ワッサースタイン距離はより強い指標であり、適切なモーメント条件のもとで、ワッサースタイン収束は弱収束を含意する方向の関係が成り立つことがある。
この関係は、理論と応用の橋渡しとして重要である。たとえば統計的推定では、経験分布の弱収束が示せても、その品質をより定量的に評価したい場合がある。そこでワッサースタイン距離が、モーメント面での補強として役立つ。
3.2 曲率・幾何との関連
3.2.1 位相幾何的な直観
ワッサースタイン距離は、分布空間に対して距離を与えることで、その幾何構造を議論可能にする。分布を点とみなし、輸送コストが小さいほど分布同士が近いと判断するため、分布の“形”の変化を連続的な経路として捉えられるようになる。これにより、力学系的な直観や最適化の視点と結び付けて理解できる。
特に、分布が時間発展するときの経路を、分布空間上の滑らかな曲線として見る発想が生まれる。この考え方は、拡散や緩和といった現象の数学モデルとも整合的であることが多い。
3.2.2 曲率条件と不等式（概念的整理）
曲率に関する議論では、ワッサースタイン距離が持つ幾何的な性質を通じて、距離の収縮や発展の不等式が導かれることがある。たとえばある種の作用素や拡散方程式の下で、分布間のワッサースタイン距離が時間とともにどのように変化するかを制御する不等式が扱われる。
曲率条件の“概念的整理”としては、基礎となる構造（空間のリーマン幾何的性質や生成作用素の性格）に応じて、分布間距離が単調に収縮する、あるいは一定の速度で変化するといった形の主張が出てくる。これらは最適輸送と解析的手法の接点であり、詳細な条件設定は対象モデルに依存する。
3.3 線形汎関数としての評価像
3.3.1 導関数的な見方
ワッサースタイン距離や関連する最適輸送問題は、双対性により汎関数の最大化（あるいは最小化）の形に書き換えられることがある。そこで登場するのが、あるクラスの関数に対する線形評価であり、輸送計画の代わりに“テスト関数”側で距離が表現される視点である。
この見方では、距離が単なる数ではなく、関数空間上の評価として理解できる。結果として、推定や学習における目的関数設計で役立つことがある。たとえば、双対変数を使った近似や、評価の上界・下界を作る戦略に繋がる。
3.3.2 導出される評価上界・下界
双対表現は、距離の推定における評価の枠組みを与える。具体的には、輸送コストを直接計算せずとも、適切なテスト関数や制約付き最適化を通じて、ワッサースタイン距離の上下を挟む形で近似できることがある。上界は特定の計画を選ぶことで得られ、下界は双対の制約から得られる。
また、近似アルゴリズムでは正則化により計算可能な量へ置き換える。そのときも、近似の精度がどの程度かを上界・下界で評価することが理論と実装の両面で重要になる。これらの見積もりがあることで、計算資源と精度の調整が可能になる。
4 計算とアルゴリズム
4.1 最適輸送問題の解法
4.1.1 線形計画ソルバによる解法
離散分布の場合、最適輸送は線形計画問題に帰着できる。一般の線形計画ソルバを使えば、輸送変数 x_{ij} と制約をそのまま与えて最適値を求められる。制約のサイズは点数の積に比例するため、単純な適用はデータが大きいと計算負荷が急増する。
それでも小規模問題では、実装の容易さと理論的な整合性により有効である。最適解の得られ方や、制約の満足度、数値安定性などもソルバの特性に依存するため、問題規模と精度要求に合わせて選択する必要がある。
4.1.2 代表的な最適化手法（概観）
規模が大きい場合、線形計画ソルバではなく、専用アルゴリズムや近似手法が用いられることが多い。代表的には、双対問題を利用して反復的に解を更新する方法、あるいは輸送計画の構造を活かした分解・高速化の方向がある。
近似計算では、厳密な最適性を保ちながら高速に収束する手法、あるいはわずかな精度損失と引き換えに計算量を削減する手法が使い分けられる。さらに、コスト行列の特性や空間が低次元である場合など、追加条件があれば効率化の選択肢が増える。
4.2 エントロピー正則化（近似計算）
4.2.1 Sinkhorn-Knopp法の考え方
エントロピー正則化は、輸送計画に対してエントロピー項を加えることで、解を安定化させ計算を容易にする発想である。離散輸送の双対・プリマルの構造と整合し、行列のスケーリングとして反復計算に落とせることが多い。具体的には、出発側と到達側の条件（周辺分布制約）を交互に満たすようにスケーリング係数を更新していく。
この方法は、厳密最適輸送に比べて計算が扱いやすい一方、正則化パラメータにより近似精度が変わる。正則化を強めるほど計算は安定しやすくなるが、本来の距離からの乖離が増える傾向があるため、パラメータ選択が実務上の要点になる。
4.2.2 近似誤差と計算量のトレードオフ
正則化による近似は、反復回数や数値安定性に影響を与える。正則化が強いほど更新は滑らかになり、数値的に扱いやすい場合があるが、得られる量は理想のワッサースタイン距離から離れる。逆に正則化が弱いとより忠実になるが、最適化が難しくなり反復が増える場合がある。
このトレードオフは、求めたい精度（評価の誤差許容）と利用可能な計算資源（時間・メモリ）で決まる。実装では、複数の正則化設定を試し、目的に対して十分な精度が得られる点を選ぶことが多い。
4.3 大規模データでの工夫
4.3.1 離散化・サンプリング戦略
連続分布同士の距離を直接扱うのが難しい場合、分布をサンプル点集合で近似し、経験分布に基づく離散問題として計算する。サンプリングは分布の表現誤差を導入するが、得られる計算可能性と引き換えになる。
離散化の粒度を上げるほど理想に近づく一方、点数増加が計算コストを引き上げる。そこで、重要領域へサンプルを多く割り当てる、あるいは段階的に粗い近似から精密化するなどの戦略が採られることがある。
4.3.2 次元の影響と実装上の注意
ワッサースタイン距離計算は、点数だけでなく次元にも影響を受ける。次元が高いほど距離計算やコスト行列の構築が重くなることに加え、サンプル分布の“薄さ”が増して近似誤差が悪化しやすい場合がある。これらの要因から、計算だけでなく統計的な信頼性も同時に検討する必要が生じる。
実装上は、コスト計算の工夫（距離計算の効率化）、メモリ節約（必要な部分だけを保持する）、数値計算の安定化（正規化やスケーリング）などが重要になる。特にエントロピー正則化を併用する場合は、ログ領域での演算などが実務でよく採用される。
4.4 学習・推定での利用計画
4.4.1 経験分布からの推定
実データからはしばしば有限個のサンプルが得られるだけであり、その集合から経験分布を作ってワッサースタイン距離を近似する。すると、距離の計算はサンプル点に基づく離散輸送の問題となる。経験分布同士の比較は、分布の距離として機械学習や統計の評価指標に使われる。
推定では、サンプルサイズによるブレを考慮する必要がある。サンプル数が少ないと輸送計画が不安定になり、距離の見積もりがばらつきやすい。そのため、複数回のサンプリングやブートストラップ等で変動を評価する運用が行われることがある。
4.4.2 データ前処理（正規化など）
学習や推定において、ワッサースタイン距離が距離として意味を持つためにはデータのスケール調整が重要になる。特徴量の単位や分散が異なると、コスト関数がそれらをそのまま反映し、特定の次元が過度に支配することがある。そこで、標準化や正規化により各特徴のスケールを揃えることが一般的な前処理になる。
また、外れ値が強く影響する設定では、頑健な前処理（極端値の取り扱い、重み付けの工夫）も検討される。これらの操作は距離の性質を変えるため、目的変数との関連やモデルの解釈可能性を損なわないよう設計することが求められる。