1.1 トポロジー保存の概念

自己組織化マップは、高次元入力空間のトポロジー構造を低次元出力空間に保存することを基本原理とする。入力データ間の近接関係が、出力マップ上でも近接した位置に写像されるよう学習が行われる。これにより、類似したデータはマップ上の隣接ニューロン群に割り当てられ、データの内在的なクラスタ構造や連続的な変動が可視化可能となる。

1.2 ニューロンと格子構造

SOMは出力層規則的な格子状に配置されたニューロン群から構成される。各ニューロンは入力次元と同じ長さの重みベクトルを持つ。格子の形状には一般的に矩形格子や六角格子が用いられ、隣接ニューロン間の距離が定義される。この格子構造によって、近傍関係が数学的に定義可能となり、トポロジー保存の基盤となる。

2.1 学習過程

2.1.1 初期化

全てのニューロンの重みベクトルをランダムに初期化する。典型的には、入力データの主成分分析による固有値に沿った線形初期化や、データ空間内での一様乱数による初期化が行われる。初期値の選択は収束速度と最終的なマップ品質に影響を与える。

2.1.2 競合段階

入力ベクトルと各ニューロンの重みベクトルとの間の距離(通常はユークリッド距離)を計算し、最小距離を示すニューロンを勝者ニューロン(最整合ユニット)として選出する。この競合は全ニューロン間で行われ、勝者のみがその後の学習において中心役割を担う。

2.1.3 協調段階

勝者ニューロンを中心として、マップ上で空間的に近いニューロンが協調的に更新される範囲を定める。この範囲は近傍関数によって決定され、通常は学習の進行とともに狭まるように設定される。近傍にはガウス関数や矩形関数が用いられ、隣接ニューロンが勝者の影響を受けながら自己組織化を促進する。

2.1.4 適応段階

勝者ニューロンとその近傍ニューロンの重みベクトルを入力ベクトルに近づけるように更新する。更新量は学習率と近傍距離に比例し、近傍関数で重み付けされる。この工程を繰り返すことで、マップ全体が入力データの分布を反映した滑らかな写像へと収束する。

2.2 パラメータ設定

2.2.1 学習率

学習率は重み更新のステップサイズを制御する。通常は初期値が0.1~0.9程度に設定され、学習の進行に伴って単調減少する。学習率が大きすぎると発散し、小さすぎると局所最適に陥りやすい。指数減衰や線形減衰が一般的に用いられる。

2.2.2 近傍関数

近傍関数は勝者ニューロンからの格子距離に応じた重み付けを提供する。ガウス関数が最も広く使われ、分散パラメータ(近傍半径)が時間とともに減少する。近傍半径の初期値はマップの直径の半分程度に設定され、最終的には勝者のみを含む範囲まで縮小される。

3.1 バッチ学習

バッチ学習では、すべての入力データを一度に用いて重み更新を計算する。各エポックで全サンプルに対する勝者を求め、各ニューロンの更新量を近傍内のデータの平均として算出する。これにより収束が安定し、並列処理に適している。大規模データセットではメモリ消費が課題となる。

3.2 オンライン学習

オンライン学習では、入力サンプルが提示されるたびに重みを逐次更新する。学習率の調整が重要で、データの順序に影響を受けやすい。一方でメモリ消費が少なく、ストリームデータへの適用が可能である。実装が簡易で、初期のSOMアルゴリズムとして広く普及した。

3.3 品質評価指標

3.3.1 量子化誤差

各入力データとその勝者ニューロンとの距離の平均として定義される。値が小さいほどマップがデータをよく表現していることを示すが、オーバーフィッティングを検出するには不十分である。通常はトポロジー誤差と併用して評価される。

3.3.2 トポロジー誤差

入力データに対して、最整合ユニットと第2最整合ユニットがマップ上で隣接していない場合を誤差としてカウントする。トポロジー保存性の定量的指標であり、値が小さいほど写像が良好にトポロジーを保持していると判断される。

4.1 データ可視化

多次元データを2次元マップ上に配置することで、クラスタ構造や外れ値の視覚的把握が容易になる。Uマトリックス(隣接ニューロン間の距離を濃淡で表現)を用いると、クラスタ境界が視覚化できる。マーケティング分析、顧客セグメンテーションなどで活用される。

4.2 画像処理

カラー量子化、画像圧縮、領域分割に応用される。各画素のRGB値を入力とし、マップ上のニューロンで代表色を学習することで減色処理が実現できる。また、SOMによる画像特徴のクラスタリングは、物体認識の前処理として有効である。

4.3 自然言語処理

文書の単語ベクトルやトピック分布をSOMで可視化し、文書間の類似性をマップ上に表示する。Word2Vecなどの埋め込み表現と組み合わせて、単語意味マップの構築に利用される。テキストマイニングやトピック抽出の補助ツールとして機能する。

4.4 ロボティクス

移動ロボットの環境地図構築(SLAM)や行動学習にSOMが適用される。センサデータから空間のトポロジカルマップを自己組織的に生成し、経路計画や自己位置推定に利用する。また、関節角度データから動作パターンの分類に用いられる例もある。

5.1 成長型自己組織化マップ

固定格子サイズの制約を緩和し、学習過程で必要に応じてニューロンを追加・分割する手法である。データの分布に合わせてマップの形状やサイズが動的に変化するため、事前の次元設定が不要となる。階層的SOMやGrowing Neural Gasがその代表例である。

5.2 円筒型マップ

矩形格子の境界効果を排除するため、格子の左右または上下を結合した円筒状のマップ構造を採用する。これにより端部のニューロンも連続的な近傍関係を持つようになり、周期構造を持つデータ(方位角データなど)の写像に適している。

5.3 畳み込みSOM

畳み込みニューラルネットワークの概念をSOMに導入し、局所受容野を持つニューロンで画像特徴を学習する。通常のSOMが全結合であるのに対し、局所的なパターン抽出が可能となり、画像認識や異常検知において高い性能を示す。

6.1 パラメータ依存性

SOMの性能は学習率や近傍半径の減衰スケジュール、初期重み、格子サイズなどのハイパーパラメータに強く依存する。最適なパラメータは問題ごとに異なり、経験的調整やグリッドサーチが必要となる。自動パラメータ調整手法の研究が進められているが、完全な解決には至っていない。

6.2 大規模データへの適用

データ数が非常に多い場合、全データの逐次処理やバッチ処理に時間がかかる。特にオンライン学習ではサンプル数に比例した計算量が発生する。近年ではミニバッチ学習や近似手法、GPU並列化による高速化が試みられているが、深層学習と比較して大規模データへの拡張性に課題が残る。