1 基本原理

拡散モデルは、データ分布を学習する生成モデルの一種であり、ノイズを徐々に加える前向き過程と、ノイズからデータを復元する逆向き過程から構成される。学習後は、ランダムノイズから逆向き過程を実行することで新たなデータを生成できる。

1.1 前向き拡散過程

前向き過程では、元のデータx0に微小なガウシアンノイズを逐次的に加え、Tステップ後にはほぼ完全なノイズxT（標準正規分布に従う）に到達する。各ステップの遷移は固定された分散スケジュールに従い、マルコフ連鎖として定式化される。この過程はデータの構造を徐々に破壊し、最終的なノイズ分布を解析的に計算可能にする。

1.2 逆向き拡散過程

逆向き過程は、ノイズxTから元のデータx0を復元する過程であり、各ステップで加えられたノイズを除去するように学習される。理想的な逆過程は、前向き過程の条件付き分布p(xt-1xt)を近似するニューラルネットワークによってモデル化される。実際の生成では、ランダムノイズxTから開始し、学習された逆遷移を繰り返し適用することでデータを生成する。

1.3 目的関数と学習

拡散モデルの学習は、逆向き過程の変分下界を最大化することに相当する。具体的には、各タイムステップtにおいて、ノイズ予測ネットワークが加えられたノイズεを正確に推定するよう、平均二乗誤差を最小化する。この単純な損失関数が、高品質な生成を可能にする鍵である。学習後は任意のノイズからサンプリングできる。

2 数学的定式化

拡散モデルは、確率過程とスコアマッチングの理論に基づき、複数の等価な定式化が知られている。

2.1 マルコフ連鎖による定式化

離散時間の拡散モデルは、Tステップのマルコフ連鎖として定義される。前向き過程q(xtxt-1)はガウシアン遷移、逆向き過程pθ(xt-1xt)は学習可能なガウシアン遷移としてモデル化される。この枠組みは、HoらによるDDPM（Denoising Diffusion Probabilistic Models）で確立された。

2.2 確率微分方程式による表現

連続時間の拡散モデルは、確率微分方程式で記述される。前向き過程は伊藤拡散過程、逆向き過程は対応する逆時間確率微分方程式として表現される。Songらによるスコアベース生成モデルとの統一により、サンプリングや学習の理論的基盤が強化された。

2.3 スコアベースモデルとの関係

スコアベースモデルは、データ分布の勾配（スコア関数）を学習する。拡散モデルは、前向き過程でノイズを加えた分布のスコア関数を学習するものと解釈でき、両者は密接に関連する。ランゲヴィンダイナミクスを用いたサンプリング法とも整合する。

3 主要なアーキテクチャ

拡散モデルの実装には、特定のニューラルネットワーク構造が用いられる。

3.1 U-Netベースのノイズ予測ネットワーク

画像生成において、ノイズ予測ネットワークにはU-Netアーキテクチャが標準的に採用される。U-Netはダウンサンプリングとアップサンプリングの対称構造を持ち、スキップ接続により高周波成分を保存する。各ブロックには残差接続、自己注意機構、タイムステップ埋め込みが組み込まれる。

3.2 条件付け手法

生成を制御するため、外部情報をネットワークに注入する手法が開発された。

3.2.1 クラス条件付き拡散

クラスラベルを条件として生成を制御する。ネットワークの各層にクラス埋め込みを加算またはアダプションすることで実現され、クラス単位の生成が可能となる。

3.2.2 テキスト条件付き拡散（CLIP誘導）

テキスト記述に基づく画像生成では、CLIPなどのテキストエンコーダを用いてテキスト埋め込みを取得し、クロスアテンション機構を介してU-Netに条件付けする。DALL·E 2やStable Diffusionで採用された。

3.3 潜在拡散モデル

計算効率向上のため、画像を潜在空間に圧縮してから拡散過程を適用する。オートエンコーダで学習された潜在表現上で拡散モデルを動作させ、デコーダで画像に復元する。Stable Diffusionなどで広く使われる。

4 応用分野

拡散モデルは多様な領域で応用されている。

4.1 画像生成

画像生成は拡散モデルの最も成功した応用分野である。

4.1.1 テキストから画像への生成

与えられたテキスト記述から画像を生成する。Stable Diffusion、DALL·E 2、Midjourneyなどのシステムが実用化され、高品質で多様な画像を生成できる。

4.1.2 画像編集とインペインティング

部分的な画像の修復や編集に利用される。マスク領域をノイズで初期化し、既知領域を条件として逆向き過程を行うことで、欠損部分を自然に補完する。

4.2 音声・音楽生成

音声波形やスペクトログラムに拡散モデルを適用し、音声合成や音楽生成が行われる。WaveGrad、DiffWaveなどが代表例である。

4.3 動画生成

フレーム間の時間的一貫性を保つため、3次元U-Netや時間軸条件付けを用いた動画生成が研究されている。テキストから動画を生成するシステムも登場している。

4.4 医療・科学分野への応用

医用画像の生成、分子構造生成（タンパク質設計など）、材料科学での新物質探索に応用される。特にデータ拡張やプライバシー保護の観点で価値が高い。

5 実装と最適化

拡散モデルの実用化には、サンプリング速度と計算効率の改善が重要である。

5.1 サンプリング手法の高速化

逆向き過程は通常多数のステップを要するため、高速化手法が開発された。

5.1.1 DDIM（Denoising Diffusion Implicit Models）

非マルコフ過程を導入し、サンプリングステップ数を削減する。決定論的なサンプリングが可能で、少ないステップでも高品質な生成を実現する。

5.1.2 一貫性モデル

単一ステップでノイズからデータに直接変換するモデル。拡散モデルの知識蒸留により、リアルタイム生成を可能にする。

5.2 メモリと計算効率の改善

潜在拡散モデルによる次元削減、混合精度学習、勾配チェックポイント、モデル並列化などの技術が用いられる。また、モデル圧縮や量子化も進められている。

6 限界と課題

拡散モデルには幾つかの課題が残されている。

6.1 生成の制御性とバイアス

条件付けの精度向上が課題である。訓練データに含まれるバイアスが生成結果に反映される問題があり、公平性や多様性の確保が求められる。

6.2 計算コストと環境負荷

学習・推論ともに高い計算資源を要する。大規模モデルでは数万GPU時間を消費し、環境負荷が懸念される。効率化技術の進展が期待される。

6.3 著作権と倫理的問題

既存の著作物を学習データとして利用することによる著作権侵害、ディープフェイクや偽情報生成のリスクが指摘されている。法的枠組みやガイドラインの整備が進められている。

7 発展の歴史

7.1 初期の研究（2015年～2020年）

2015年にSohl-Dicksteinらが拡散過程と逆過程を生成モデルに応用するアイデアを提案。2019年から2020年にかけて、HoらによるDDPM、Songらによるスコアベースモデルと拡散モデルの統合が行われ、高品質画像生成が可能であることが示された。

7.2 実用化とブーム（2021年～現在）

2021年、OpenAIがDALL·Eを発表。2022年にはStable Diffusionがオープンソースとして公開され、広く普及した。Midjourneyなど商用サービスも登場し、拡散モデルは画像生成の主流技術として確立した。さらに動画、音声、3Dなどの分野へ応用が拡大している。