変分自己符号化器

1 概要と歴史

変分自己符号化器（Variational Autoencoder, VAE）は、深層学習に基づく生成モデルの一種であり、教師なし学習によってデータの背後にある潜在変数の確率分布を推定する。エンコーダが入力を潜在空間上の平均と分散に写像し、デコーダがその潜在変数から元のデータを再構成する構造を持ち、再構成誤差と正則化項（KLダイバージェンス）の和を損失関数として学習を行う。VAEは画像生成、異常検知、表現学習など幅広い応用を持ち、特に確率的生成モデルとしての理論的基礎と実用的な性能で注目されている。

1.1 自己符号化器との関係

伝統的な自己符号化器は、入力を低次元の潜在表現に圧縮（エンコード）し、そこから元の入力を再構成（デコード）するニューラルネットワークである。しかし、この潜在表現は決定論的であり、新たなデータを生成するための確率的なサンプリングには適さない。VAEはこの枠組みを確率分布に拡張し、潜在空間を正規分布でモデル化することで、生成モデルとしての性質を獲得した。両者ともエンコーダ・デコーダ構造を共有するが、VAEは潜在変数に確率性を導入し、教師なしの表現学習と生成を同時に行う点で異なる。

1.2 確率的生成モデルとしての位置づけ

VAEは、観測データの確率分布を潜在変数を用いてモデル化する生成モデルである。与えられたデータxに対して、潜在変数zを導入し、周辺尤度p(x)の最大化を目指す。この枠組みは変分推論に基づき、真の事後分布p(z	x)を近似する認識モデル（エンコーダ）を学習する。VAEは、GAN（生成的敵対ネットワーク）や正規化フロー、拡散モデルと並ぶ確率的生成モデルの一群に属し、尤度に基づく評価が可能な点や潜在空間の解釈可能性において強みを持つ。

1.3 発表と発展の経緯

VAEは、2013年にKingmaとWellingによって提案された。当初は画像生成において、従来の自己符号化器より滑らかな潜在空間を実現し、新しい画像の生成が可能であることが示された。その後、β-VAE（2017年）による独立性の促進、VQ-VAE（2017年）による離散潜在表現の導入、条件付きVAEや階層的VAEなど多数の拡張が提案され、画像以外にもテキスト、音声、グラフデータへ応用が広がった。さらに、GANや拡散モデルとのハイブリッド手法も開発され、現在も活発な研究分野である。

2 数学的定式化

2.1 潜在変数モデルとエビデンス下界（ELBO）

VAEは観測データxと潜在変数zからなる確率モデルp(x,z)=p(x	z)p(z)を仮定する。真の事後分布p(z	x)は多くの場合解析的に計算不能であるため、変分推論により近似事後分布q(z	x)を導入する。このとき、対数周辺尤度log p(x)は以下のように分解される：

log p(x) = KL(q(z	x)		p(z	x)) + ELBO

ここでELBO（エビデンス下界）は次の形をとる：

ELBO = E_z~q(z	x)[log p(x	z)] - KL(q(z	x)		p(z))

VAEの学習はこのELBOの最大化に相当する。

2.2 エンコーダとデコーダの役割

エンコーダは近似事後分布q(z	x)をパラメータ化する。通常、ガウス分布を仮定し、その平均μ(x)と対数分散log σ²(x)を出力する。デコーダは生成分布p(x	z)をパラメータ化し、潜在変数zからデータxの尤度を計算する。画像の場合、p(x	z)はベルヌーイ分布またはガウス分布が多く用いられる。エンコーダとデコーダはニューラルネットワークで実装され、共に学習される。

2.3 再パラメータ化トリック

2.3.1 勾配計算への適用

VAEのELBOにはq(z	x)からのサンプリングが含まれるが、直接サンプリングするとエンコーダのパラメータに関する勾配が計算できない。再パラメータ化トリックでは、z = μ + σ * ε（ε～N(0, I)）と書き換えることで、サンプリングを決定論的な操作とノイズに分離する。これにより、サンプリング過程を経由しても逆伝播が可能となる。

2.3.2 サンプリングの実装手法

実際の実装では、標準正規分布から乱数εを生成し、エンコーダの出力μとσを用いてzを計算する。この操作は確率的だが、εのサンプリングはネットワーク外で行われるため、μとσの勾配は直接計算できる。再パラメータ化トリックはVAEの訓練を効率的な確率的勾配降下法で行うための必須技術である。

2.4 損失関数の構成

2.4.1 再構成誤差（負の対数尤度）

再構成誤差は、デコーダが出力する分布のもとで入力xの尤度を評価する項であり、-E_z[log p(x	z)]として表される。画像データの場合、ピクセル値が連続なら二乗誤差、二値なら交差エントロピーが用いられる。この項は、潜在変数から入力が正確に再現されるように促す。

2.4.2 KLダイバージェンス正則化

KLダイバージェンス項KL(q(z	x)		p(z))は、近似事後分布を事前分布p(z)=N(0, I)に近づける正則化として機能する。この項により、潜在空間が滑らかで連続的になり、サンプリングによる生成が容易になる。ELBO全体の最大化は、再構成精度と正則化のバランスを取ることに相当する。

3 実装と訓練

3.1 ネットワークアーキテクチャの選択

3.1.1 エンコーダの設計

エンコーダは入力データから潜在変数の分布パラメータ（平均と対数分散）を推定する。画像の場合、畳み込み層と全結合層の組み合わせが一般的である。入力次元に応じて層数を調整し、活性化関数にはReLUなどを用いる。出力層では平均（線形）と対数分散（線形）の2系統を分けて出力する。

3.1.2 デコーダの設計

デコーダは潜在変数からデータ空間への写像を学習する。画像生成では、全結合層で潜在ベクトルを拡張した後、転置畳み込み層で段階的に解像度を上げる。出力層の活性化関数はデータの種類に依存し、画像ピクセルが[0,1]ならシグモイド関数を用いる。

3.2 ハイパーパラメータと学習率

VAEの主要なハイパーパラメータには、潜在変数の次元、隠れ層のサイズ、学習率、バッチサイズ、エポック数が含まれる。潜在次元はデータの複雑さに応じて2～数百程度に設定される。学習率はAdam最適化器で0.001前後とすることが多い。また、KL項の重み（後述のβ-VAEにおけるβ）も重要な調整パラメータである。

3.3 訓練の安定化手法

3.3.1 β-VAEにおける重み調整

β-VAEでは、損失関数にKL項の係数β（>1）を導入し、潜在表現の独立性を促進する。βが大きすぎると再構成精度が低下するため、適切な値の探索が必要である。また、アニーリング（訓練中にβを徐々に増加させる）により安定性を向上させる手法も用いられる。

3.3.2 自由ビット法

自由ビット法は、KLダイバージェンスが情報量の一部を犠牲にしてもよいとする手法である。具体的には、KL項に閾値λを設定し、KL値がλ以下の場合は損失に算入しない。これにより後方崩壊を防ぎつつ、潜在変数が適度な情報を持つように調整する。

4 応用

4.1 画像生成と編集

4.1.1 潜在空間における補間と操作

VAEの潜在空間は連続的で滑らかな性質を持つため、二つの画像の潜在表現を線形補間することで中間的な画像を生成できる。また、潜在ベクトルの特定の次元を変更することで、属性（顔の表情や背景色など）の操作が可能である。この操作は教師なしで学習された表現の解釈可能性を示す例である。

4.1.2 条件付きVAE（CVAE）

CVAEは、生成とエンコードの過程にラベルや属性情報を条件として追加する拡張である。例えば、数字の画像生成においてクラスラベルcを入力として与えることで、指定された数字の画像を生成できる。条件付けにより生成の制御性が向上する。

4.2 異常検知

VAEは正常データのみで学習した後、テストデータの再構成誤差やELBOの値を異常度として用いることができる。異常なデータは正常パターンから逸脱するため、再構成誤差が大きくなる。この手法は画像の異常箇所検出や工業製品の外観検査などに応用される。

4.3 表現学習と次元削減

VAEは高次元データを低次元の潜在空間に写像するため、次元削減の手法としても機能する。主成分分析（PCA）などの線形手法と異なり、非線形な関係を学習できる。得られた潜在表現は可視化やクラスタリングの前処理として利用される。

4.4 その他の領域（テキスト・音声・グラフ）

VAEは画像以外のデータモダリティにも拡張されている。テキストでは文の潜在表現を学習するテキストVAE、音声では音響特徴量の生成や音声変換、グラフでは分子構造生成やソーシャルネットワーク解析に応用されている。それぞれのデータ特性に合わせてエンコーダ・デコーダの構造が調整される。

5 変種と拡張

5.1 β-VAE

β-VAEは、元のVAEの損失関数におけるKLダイバージェンス項に重みβ（β＞1）を乗じたものである。βを大きくすることで、潜在変数がより疎で独立な表現を学習するように促す。これは解釈可能な潜在因子の発見に有効である一方、再構成品質とのトレードオフが生じる。

5.2 ベクトル量子化VAE（VQ-VAE）

VQ-VAEは、連続な潜在空間の代わりに離散的な潜在表現を用いる手法である。エンコーダの出力をコードブック中の最も近いベクトルで量子化し、デコーダに渡す。この離散表現は自己回帰モデル（PixelCNNなど）との組み合わせに適し、高品質な画像生成を実現する。特に音声や画像の圧縮表現学習で成果を上げている。

5.3 条件付きVAE（CVAE）

CVAEは、生成過程に条件変数cを導入したモデルである。エンコーダはq(z	x,c)を、デコーダはp(x	z,c)を学習する。これにより、ラベルや属性を指定してデータを生成できる。画像のスタイル変換、テキスト条件からの画像生成、対話応答生成など多様な応用がある。

5.4 階層的VAE（HVAE）

HVAEは、潜在変数を複数の階層に分割し、上位層から下位層へと条件付き生成を行うモデルである。これにより、データの大域的構造と局所的詳細を分離して表現できる。例えば、画像ではまず粗いスケッチを生成し、後で細部を補完するような階層的生成が可能となる。

5.5 敵対的VAE（Adversarial VAE）

敵対的VAEは、VAEのデコーダに敵対的学習（GANの枠組み）を導入したものである。具体的には、デコーダの生成分布を真のデータ分布に近づけるために識別器を訓練する。これにより、VAE単体よりも鮮明な画像生成が可能となる。代表例として、AAE（敵対的自己符号化器）やAdversarial Autoencoderが挙げられる。

6 限界と課題

6.1 後方崩壊問題

後方崩壊（posterior collapse）とは、訓練中にKLダイバージェンス項が極端に小さくなり、潜在変数が事前分布に従うノイズとほぼ等しくなる現象である。この場合、デコーダが潜在変数を無視し、再構成を入力のみから行うようになる。原因としては、デコーダの表現力が高すぎる場合やKL項の重みが不適切な場合がある。対策として、KL項のアニーリングや自由ビット法、情報ボトルネックの導入などが提案されている。

6.2 生成品質の限界（GANとの比較）

VAEは尤度に基づく評価が可能である一方、生成される画像はGANと比較してぼやけやすい傾向がある。これは、VAEが画素レベルの尤度最大化を目的とするため、高周波成分の生成が苦手であること、またKLダイバージェンスによる正則化が過度に平滑化を引き起こすことに起因する。近年の拡張（VQ-VAEや敵対的VAE）により品質は向上しているが、依然としてGANや拡散モデルと比較して鮮明さで劣る場合がある。

6.3 潜在変数の解釈可能性

VAEの潜在空間は教師なしで学習されるため、その次元が人間にとって解釈可能な意味を持つとは限らない。β-VAEなどで誘導された独立な因子はある程度解釈可能だが、完全に分離された表現を保証するものではない。潜在空間の構造を理解するためには、事後的な分析や、教師信号を用いた条件付けが必要となる。

6.4 計算コストとスケーラビリティ

VAEの訓練は、エンコーダ・デコーダの両方を同時に学習するため、単純な自己符号化器と比較して計算コストが大きい。また、高解像度画像や大規模データセットに対しては、階層的モデルや量子化手法が必要となり、さらなる計算資源を要する。スケーラビリティの向上には、ネットワークの軽量化や分散学習の活用が検討されている。

7 関連トピック

7.1 正規化フロー

正規化フローは、単純な確率分布から始めて可逆な変換を積み重ねることで複雑な分布を表現する手法である。VAEと異なり、正確な尤度計算が可能であり、潜在変数の事後分布を柔軟に表現できる。VAEとのハイブリッド（例えば、事前分布や近似事後分布を正規化フローでモデル化する）も研究されている。

7.2 拡散モデル

拡散モデルは、データにノイズを徐々に加える過程（順方向）と、ノイズから元のデータを復元する過程（逆方向）を学習する生成モデルである。近年、画像生成において高品質な結果を示している。VAEと同様に変分下界を利用する点で共通するが、拡散モデルは潜在変数の次元がデータと同じであり、逐次的な生成過程を持つ点で異なる。

7.3 GANとVAEのハイブリッド手法

GANとVAEのそれぞれの強み（GANの鮮明な生成、VAEの安定な学習と潜在表現）を組み合わせた手法が多数提案されている。例えば、敵対的VAE（Adversarial VAE）は、デコーダの出力分布を識別器で補正する。また、VAEの潜在空間をGANの生成器の入力として用いることで、VAEの表現学習能力をGANに取り入れる試みもある。これらのハイブリッドは表現学習と高品質生成の両立を目指している。