1 クラスタリングの基礎
クラスタリングは、データを事前に与えられた正解に従って分類するのではなく、観測値どうしの近さや構造を手がかりに、自然なまとまりを見いだす方法である。対象は数値、カテゴリ、画像、文書、系列など多岐にわたり、分布の傾向を把握したり、複雑な集合を要約したりする目的で用いられる。分析の出発点として利用されることが多く、未知の構造を探索する際にも重要である。
1.1 定義と目的
クラスタリングの定義は、類似した要素を同じ समूहにまとめ、異なる要素を別 समूहに分けることである。ここでの類似性は、距離、密度、接続関係、確率的な所属度など、手法によって異なる尺度で表される。主な目的は、データ全体の構成を把握すること、代表点を通じて圧縮すること、異常な点や潜在的な群れを発見することである。
1.2 位置づけ
クラスタリングは、分類や回帰のように明示的な教師信号を前提としない点で特徴的である。一方で、探索的データ解析や次元削減と組み合わせることで、より理解しやすい表現を得る役割も担う。実務では、前処理から評価までを含む一連の分析工程の中で位置づけられる。
1.2.1 教師なし学習との関係
教師なし学習は、ラベルなしデータから規則性を抽出する枠組みであり、クラスタリングはその代表的な手法群に含まれる。対象の分割だけでなく、潜在構造の推定やデータ圧縮にもつながるため、表現学習や次元削減と近い場面で扱われることが多い。もっとも、教師なし学習全体がクラスタリングに限られるわけではなく、主成分分析や自己符号化器のような別系統の方法も含む。
1.2.2 パターン認識との関係
パターン認識では、観測された特徴から対象の種類や状態を識別する。クラスタリングは、その前段階としてデータの自然な区分を推定する際に役立ち、ラベル付けが難しい場面で仮説生成の材料となる。加えて、特徴空間の探索、異種サンプルの整理、未知クラスの候補抽出にも応用される。
1.3 利用分野
クラスタリングは、統計解析、機械学習、情報検索、画像解析、生命科学、顧客分析などで広く使われる。文書集合では主題の近さを手がかりに整理し、画像分野では画素や領域の類似性から区画を推定する。商業分析では顧客層の把握、研究分野では観測群の比較や仮説生成に用いられる。
2 データと前処理
クラスタリングの結果は、入力表現と前処理の影響を強く受ける。どの特徴を使うか、距離をどう定義するか、尺度をそろえるかによって、得られる群分けは大きく変化する。したがって、手法選択と同程度にデータ整備が重要である。
2.1 特徴量設計
特徴量設計では、対象の性質を適切に表す変数を選び、必要に応じて変換する。数値の生データだけでなく、頻度、比率、埋め込み表現、統計的要約などを利用することもある。情報が多すぎると距離が不安定になりやすいため、冗長な変数の削減や、目的に応じた要約が有効である。
2.2 距離尺度
距離尺度は、要素間の近さを定量化する基準である。ユークリッド距離のような幾何学的な尺度のほか、マンハッタン距離、コサイン類似度、編集距離などが使われる。尺度の選択は、データ型や分布、外れ値の有無に応じて決める必要がある。
2.2.1 ユークリッド距離
ユークリッド距離は、空間内の直線的な距離に相当する最も基本的な尺度である。連続値データでよく用いられ、幾何学的な解釈がしやすい。反面、尺度の違いに敏感であり、各変数の分散が大きく異なる場合は注意が必要である。
2.2.2 マンハッタン距離
マンハッタン距離は、各成分の差の絶対値を合計して求める。格子状の移動に例えられることから、この名で呼ばれる。外れ値の影響が比較的小さいため、ユークリッド距離より頑健に振る舞う場面がある。
2.2.3 類似度指標
類似度指標は、距離とは逆に、どれだけ似ているかを表す。コサイン類似度は方向の一致を重視し、文書や高次元の疎なデータで有用である。ほかにも、ジャッカード係数や相関係数など、データの型に応じた指標が選ばれる。
2.3 正規化と標準化
正規化と標準化は、変数ごとの尺度差をならし、比較を安定させる処理である。正規化は値を一定範囲に収め、標準化は平均と分散を基準に再尺度化する。これにより、一部の大きな値が結果を支配するのを抑え、複数の特徴を均等に扱いやすくなる。
2.4 外れ値への対応
外れ値は、クラスタの中心や境界を歪め、誤った分割を招くことがある。対策としては、事前除去、ロバストな尺度の採用、密度ベース手法の利用、重み付けなどがある。異常そのものが分析対象である場合には、単純に排除せず別の群として扱うこともある。
3 代表的な手法
クラスタリング手法は、階層構造を作るもの、中心を更新して分割するもの、密度の集中を利用するもの、確率モデルで所属を表すもの、グラフ構造を最適化するものに大別できる。それぞれ得意なデータ形態が異なり、群の大きさや形状への感度も違う。
3.1 階層的クラスタリング
階層的クラスタリングは、クラスタ同士の関係を木構造として表現する。小さな単位から統合する方法と、大きな集合から分ける方法があり、切断位置を変えることで複数の粒度を得られる。結果が樹形図として可視化しやすい点が利点である。
3.1.1 凝集型
凝集型は、各データを個別の群として開始し、近いもの同士を順にまとめていく。最終的に一つの大きな集合へ至るため、局所的な近接関係を反映しやすい。比較的小規模なデータや、段階的な構造把握に向いている。
3.1.2 分割型
分割型は、全体を一つの群として扱い、そこから再帰的に分けていく。大域的な構成を起点にするため、粗い分類から詳細化へ進めやすい。実装上は凝集型より扱いが難しい場合があるが、分割の考え方は解釈しやすい。
3.1.3 距離連結法
距離連結法は、群どうしの距離をどのように定義するかを決める規則である。最短距離を用いる単連結法、最長距離を用いる完全連結法、平均距離を用いる方法などが知られる。連結の定義により、細長い形を保ちやすいか、より凝縮した群を作りやすいかが変わる。
3.2 分割型クラスタリング
分割型クラスタリングは、あらかじめ定めた個数の群を目指して、各点の所属を反復的に更新する。中心点との距離を基準に再配置する方法が代表例で、計算効率が高いことから広く使われる。球状に近い群の分離に適する一方、複雑な形状には弱いことがある。
3.2.1 中心ベースの手法
中心ベースの手法では、各クラスタを代表する中心を置き、最も近い中心に点を割り当てる。代表例として、平均を中心に取る方法がある。中心の更新と所属の再計算を交互に行うことで、群の配置を調整する。
3.2.2 クラスタ数の設定
クラスタ数は、結果の粒度を左右する重要な設定である。少なすぎると異質な要素が混ざり、多すぎると過分割になりやすい。実際には、目的、解釈可能性、評価指標、業務上の要件を踏まえて決める。
3.2.3 反復更新
反復更新は、初期の割り当てから始め、中心の再計算と再割り当てを繰り返す過程である。多くの場合、変化が小さくなった時点で収束とみなす。初期条件により異なる局所解へ到達することがあるため、複数回実行して比較することがある。
3.3 密度ベースのクラスタリング
密度ベースのクラスタリングは、点が高密度に集まる領域を群として定義する。任意形状のクラスタを見つけやすく、雑音点を自然に分離できる点が特徴である。密度の閾値や近傍半径の設定が結果に影響する。
3.3.1 高密度領域の検出
高密度領域の検出では、近傍内の点数や局所密度を計算し、周囲より集中している場所を抽出する。密度の連結性をたどることで、境界が不規則な群も捉えられる。形が複雑でも、空間上の集まりとして認識しやすい。
3.3.2 ノイズの扱い
ノイズは、どの群にも十分近くない点として扱われることが多い。密度ベースの方法では、これらをクラスタ外に残す設計が可能である。こうした性質は、異常点の候補を見つける際にも役立つ。
3.4 確率モデルに基づく手法
確率モデルに基づく手法は、各点が複数の群に属する可能性を確率的に表す。観測データが、複数の分布の重ね合わせから生成されたと仮定し、その構成を推定する。所属が硬く決まらないため、不確実性を扱いやすい。
3.4.1 混合分布モデル
混合分布モデルは、複数の確率分布を組み合わせて全体を表現する。各成分は一つのクラスタに対応し、成分ごとに平均や分散を持つ。柔軟な表現が可能で、楕円形の広がりをもつ群の記述にも適する。
3.4.2 期待値最大化法
期待値最大化法は、潜在変数を含むモデルのパラメータ推定に用いられる反復手続きである。期待値計算で所属確率を求め、最大化段階でパラメータを更新する。収束しやすい一方、局所解に陥ることがあるため、初期値が重要である。
3.5 グラフベースの手法
グラフベースの手法は、データ点を頂点、類似関係を辺として表し、グラフ構造の分割を通じてクラスタを得る。近傍関係や接続の強さが明示されるため、非線形な構造の把握に向く。スペクトル的な処理と結びつくことも多い。
3.5.1 類似度グラフ
類似度グラフは、近い点同士を結んだネットワークである。辺の重みは類似度を示し、全結合、近傍グラフ、k近傍グラフなどの形がある。グラフ化することで、局所的な関係を大域的な分割問題へ変換できる。
3.5.2 分割最適化
分割最適化では、グラフを複数の部分に分ける際の切断コストを最小化する。単に辺を減らすだけでなく、各部分の均衡や接続の強さも考慮する。計算は複雑になりやすいが、複雑な境界を持つ群の抽出に適している。
4 評価と選択
クラスタリングでは、正解がない場合でも結果の妥当性を評価する必要がある。どの指標で良し悪しを測るか、いくつの群を採るか、どの手法を選ぶかは、用途に応じて異なる。単一の基準だけでなく、複数の観点を組み合わせることが一般的である。
4.1 内部評価指標
内部評価指標は、外部のラベルを使わず、データ内部の構造から結果を測る。群内のまとまりと群間の分離を比較する形式が多い。数値が高いほど良いとは限らず、指標ごとの意味を理解して使う必要がある。
4.1.1 輪郭係数
輪郭係数は、ある点が自分の群にどれだけ適合し、他の群とどれだけ離れているかを示す。群内距離と最も近い他群への距離を比較して評価する。値は通常、-1から1の範囲で解釈され、まとまりと分離の両方を見やすい。
4.1.2 総合的な分散評価
総合的な分散評価は、群内の散らばりと群間の離れ具合を組み合わせて判断する。群内分散が小さく、群間差が大きいほど良いとされる。手法やデータによって感度が異なるため、他の指標と併用されることが多い。
4.2 外部評価指標
外部評価指標は、既知のラベルや参照区分と比較して性能を測る。分類結果と完全に一致しなくても、近い構造をどの程度再現できたかを確認できる。研究用途では、異なる手法の比較に有効である。
4.2.1 正解ラベルとの比較
正解ラベルとの比較では、予測された群と既知の区分を対応づける。調整済み相互情報量や純度など、複数の測り方がある。完全一致だけでなく、部分的な対応やラベルの入れ替わりも考慮して評価することがある。
4.3 クラスタ数の決定
クラスタ数の決定は、探索と解釈のバランスを取る作業である。少数にまとめれば単純になるが、細かな差異を失いやすい。多くしすぎると説明は細密になるものの、安定性や再現性が低下することがある。
4.3.1 肘法
肘法は、クラスタ数を増やしたときの評価値の改善が、ある点で鈍化する場所を探す方法である。曲線の折れ曲がりが「肘」に見えることからこの名がある。直感的で使いやすいが、明確な折点が現れない場合もある。
4.3.2 情報量基準
情報量基準は、モデルの当てはまりと複雑さの両方を考慮して選ぶ基準である。自由度が増えるほど適合度は上がるが、過度な分割は罰則を受ける。確率モデルと相性がよく、過学習の抑制にもつながる。
4.4 手法選択の基準
手法選択では、データの規模、形状、ノイズ量、解釈のしやすさ、計算資源を総合的に見る。球状の群が多いなら中心ベース、複雑形状なら密度ベースやグラフベースが候補になる。実務では、複数手法を比較し、目的に最も合うものを採ることが多い。
5 応用
クラスタリングの応用は広く、対象を整理するだけでなく、圧縮、検索、異常発見、可視化の補助としても機能する。入力の種類に応じて、適切な特徴表現と手法が選ばれる。
5.1 画像処理
画像処理では、画素や領域を類似性に基づいてまとめることで、視覚的な構造を抽出する。色、位置、テクスチャを組み合わせることが多く、前景と背景の分離にも役立つ。
5.1.1 画像分割
画像分割は、画像を意味のある領域に切り分ける処理である。クラスタリングを用いると、近い色調や局所的な特徴を持つ部分をまとめやすい。医用画像や衛星画像など、区画の把握が重要な場面で利用される。
5.1.2 色の量子化
色の量子化は、画像内の色数を減らして表現を簡略化する方法である。似た色を一つの代表色にまとめることで、保存容量や計算量を抑えられる。視覚的な印象を大きく保ちながら圧縮できる点が利点である。
5.2 文書分類と情報検索
文書分野では、単語分布や埋め込み表現に基づいて類似文書をまとめる。これにより、主題ごとの整理、検索結果のグループ化、話題の把握がしやすくなる。大量の文書集合を俯瞰する際の補助としても有効である。
5.3 顧客分析
顧客分析では、購買履歴、利用頻度、行動ログなどから顧客群を抽出する。似た行動パターンを持つ集団を把握すると、施策の対象を絞り込みやすい。マーケティングやサービス改善の基礎資料として使われる。
5.4 生物情報学
生物情報学では、遺伝子発現、配列、タンパク質の特徴などを基に関連する試料をまとめる。実験条件や生体状態の違いを反映した群が見つかることがあり、仮説生成に寄与する。高次元かつノイズを含むデータが多いため、前処理の重要性が高い。
5.5 異常検知
異常検知では、通常の群から外れた点や少数派のまとまりを見つける。クラスタリングは、主要な群に入らない観測を候補として拾い上げる手段になる。設備監視、取引監視、品質管理などで用いられる。
6 実装と計算上の考慮
実装面では、理論的な手法の選択だけでなく、データ量や初期条件、乱数の扱い、更新の安定性が結果に影響する。大規模データでは、計算時間とメモリ使用量が特に重要になる。
6.1 計算量
計算量は、サンプル数、特徴数、クラスタ数、反復回数に応じて増減する。全点間の距離を頻繁に求める方法は、規模が大きいと重くなりやすい。近似法や部分サンプリングを使うことで、処理を軽くすることがある。
6.2 初期値の影響
多くの手法は初期値に敏感で、出発点が異なると別の結果へ収束することがある。特に反復的な中心更新では、初期割り当てが最終解を左右しやすい。複数の初期条件で実行し、最良の解を選ぶ運用が一般的である。
6.3 再現性の確保
再現性を確保するには、乱数種を固定し、前処理手順やパラメータを明示的に記録する必要がある。実験条件が少し変わるだけでも群分けが変化する場合があるため、設定管理が重要になる。分析ログを残すことも有効である。
6.4 大規模データへの対応
大規模データでは、逐次処理、近似探索、分散計算、サンプリングなどが用いられる。すべての点を厳密に扱うのが難しいため、計算負荷と精度の折り合いを取る。実運用では、十分な近似で高速に結果を得る設計が重視される。
7 課題と発展
クラスタリングは成熟した分野である一方、解釈、スケール、複雑な表現への対応など、なお課題が残る。近年は、半教師あり学習や深層学習との接続も進み、応用範囲が広がっている。
7.1 解釈性
解釈性は、得られた群が何を意味するかを人が理解できる度合いである。数値的な評価が良くても、実際の業務や研究で説明できなければ使いにくい。代表特徴や群の要約を併用することで、意味づけを補うことが多い。
7.2 次元の呪い
次元の呪いは、特徴数が増えるほど距離の差が目立ちにくくなり、近さの概念が曖昧になる現象である。高次元では、密度推定や近傍探索も難しくなる。対策として、特徴選択、次元削減、距離尺度の工夫が行われる。
7.3 半教師あり学習との接点
半教師あり学習では、一部のラベル情報を利用しつつ、大量の未ラベルデータも活用する。クラスタリングは、同じ群に属する点は同じラベルを持ちやすいという仮定を支える補助手法として使われる。少量の注釈と構造推定を組み合わせることで、精度向上を狙える。
7.4 深層学習との統合
深層学習との統合では、ニューラルネットワークで得た表現空間に対してクラスタリングを適用したり、学習過程そのものに群構造の制約を組み込んだりする。これにより、画像や音声のような複雑な入力でも、意味の近い表現をまとめやすくなる。近年は表現学習と群分けを同時に進める方向が注目されている。
</INTERNAL_LINK_CANDIDATES> 教師なし学習（ラベルなしデータから規則性を抽出する学習枠組み） パターン認識（観測特徴から対象の種類や状態を識別する分野） 探索的データ解析（仮説を固定せずデータ構造を調べる分析手法） 次元削減（高次元データを扱いやすい低次元表現に変換する方法） 主成分分析（分散の大きい方向へ射影する次元削減手法） 自己符号化器（入力を再構成するよう学習するニューラルネットワーク） コサイン類似度（ベクトルの向きの近さを測る指標） ジャッカード係数（集合の重なり具合を表す類似度） 相関係数（変数間の線形関係の強さを示す統計量） ロバスト統計（外れ値の影響を受けにくい統計的考え方） スペクトルクラスタリング（グラフの固有構造を用いる群分け手法） 樹形図（階層的な群分け結果を示す木構造の図） 調整済み相互情報量（ラベル対応を考慮した外部評価指標） 純度（クラスタ内のラベル一致度を示す指標） 情報量基準（モデルの当てはまりと複雑さを両立させる選択基準） 調整済みランド指数（2つの分割結果の一致度を測る指標） k近傍グラフ（各点を近い点と結ぶグラフ） 局所密度（近傍にどれだけ点が集まるかを表す量） 異常検知（通常と異なるデータを見つける手法） 分散分析（群間差と群内変動を比較する統計手法）