1.1 定義と特徴

教師なし学習は、機械学習の一分野であり、入力データに対して正解ラベルが付与されていない状況で、データの内部構造や隠れたパターンを自動的に抽出する手法である。特徴として、人間の事前知識や教師信号を必要とせず、データの統計的な性質(分布、距離、密度など)に基づいて学習が進行する。これにより、未知のデータに対する洞察を得たり、データ前処理可視化に役立てたりすることが可能となる。

1.2 教師あり学習との違い

教師あり学習が入力と出力のペアから関数写像を学習するのに対し、教師なし学習は出力情報を持たない。教師あり学習は分類回帰に特化し、明確な評価指標正解率など)で性能を測るが、教師なし学習では「正解」が存在しないため、結果の妥当性はタスクの目的や人間の解釈に依存する。典型的な対比として、教師あり学習は「正解を知り、それを予測する」、教師なし学習は「データの自然なまとまりを発見する」と説明される。

1.3 学習の目的と評価指標

主な目的はデータの構造理解、次元削減、クラスタリング、異常検知などである。評価指標は手法に依存し、クラスタリングではシルエット係数やデイビス-ボルディン指数次元削減では再構成誤差や可視化の質が用いられる。しかし、これらの指標は相対的であり、絶対的な性能を保証するものではないため、ドメイン知識に基づく検証が必要である。

2.1 クラスタリング手法

2.1.1 K-means法

K-meansは、データをK個のクラスタに分割する代表的なアルゴリズムである。各データ点を最も近いクラスタ中心に割り当て、中心更新する反復により収束する。計算が高速で大規模データに適用しやすいが、クラスタ数Kの事前指定が必要であり、球状でないクラスタや外れ値に弱い。

2.1.2 階層的クラスタリング

階層的クラスタリングは、データ点間の距離に基づいて段階的にクラスタを結合(凝集型)または分割(分割型)する手法である。結果はデンドログラム(樹形図)で可視化され、任意の階層でクラスタ数を選択できる。計算コストが高いが、データの階層構造を捉えることができる。

2.1.3 DBSCAN

DBSCAN(Density-Based Spatial Clustering of Applications with Noise)は、密度に基づくクラスタリング手法であり、任意の形状のクラスタを発見できる。近傍半径εと最小点数MinPtsの2つのパラメータで制御され、外れ値をノイズとして自動検出する。K-meansと異なりクラスタ数が自動決定されるが、密度が不均一なデータでは性能が低下する。

2.1.4 混合ガウスモデル(GMM)

GMMは、データが複数のガウス分布の重ね合わせから生成されると仮定する確率的モデルである。期待値最大化(EM)アルゴリズムによりパラメータを推定し、各データ点が各ガウス分布に属する確率を出力する。ソフトクラスタリングが可能で、データの不確実性を表現できるが、局所解に陥りやすく、初期値依存性がある。

2.2 次元削減手法

2.2.1 主成分分析(PCA)

PCAは、データの分散を最大化する直交基底(主成分)を見つける線形次元削減手法である。元の特徴空間を低次元空間に射影し、情報損失を最小化する。計算が高速で解釈が容易な一方、非線形構造を捉えられない。

2.2.2 t-SNE

t-SNE(t-distributed Stochastic Neighbor Embedding)は、高次元データを2次元や3次元に可視化するための非線形次元削減手法である。局所的な類似性を保存するように設計され、複雑なデータのクラスタ構造を視覚的に明らかにする。しかし、大規模データには計算負荷が高く、結果がランダム性に依存する。

2.2.3 オートエンコーダ

オートエンコーダは、ニューラルネットワークを用いた非線形次元削減手法である。エンコーダで入力を低次元表現(潜在変数)に圧縮し、デコーダで再構成するように学習する。再構成誤差を最小化することで、データの本質的な特徴を抽出する。深層学習の枠組みで活用され、異常検知や生成にも応用される。

2.3 密度推定と生成モデル

2.3.1 カーネル密度推定

カーネル密度推定(KDE)は、データ点の周りにカーネル関数(ガウスカーネルなど)を配置し、それらの重ね合わせで確率密度関数を推定するノンパラメトリック手法である。バンド幅パラメータによって滑らかさが調整され、任意の分布をモデル化できるが、高次元では次元の呪いにより性能が劣化する。

2.3.2 生成敵対ネットワーク(GAN)

GANは、生成器と識別器の2つのネットワークが敵対的に学習する生成モデルである。生成器は本物のデータに近いサンプルを生成しようとし、識別器は本物と偽物を判別しようとする。この競争により、複雑なデータ分布を学習できる。画像生成やスタイル変換で顕著な成果を上げているが、学習が不安定でモード崩壊を起こしやすい。

2.3.3 変分オートエンコーダ(VAE)

VAEは、オートエンコーダに確率的な枠組みを導入した生成モデルである。潜在変数に確率分布を仮定し、変分下限(ELBO)を最大化することで学習する。再構成と正則化のバランスにより、滑らかで連続的な潜在空間を学習し、新しいサンプルの生成が可能である。GANに比べて安定した学習ができるが、生成画像の鮮明さでは劣ることがある。

3.1 異常検知

教師なし学習は、正常データのパターンを学習し、そこから逸脱する異常事例を検出する異常検知に広く用いられる。製造業における不良品検出、ネットワーク侵入検知、医療画像解析などで活用される。手法としては、密度推定、オートエンコーダ、One-Class SVMなどが代表的である。

3.2 レコメンデーションシステム

ユーザーの行動データやアイテムの特徴をクラスタリングし、類似ユーザーや類似アイテムを発見することで、協調フィルタリングの基礎を提供する。また、次元削減を用いた行列分解(SVDなど)により、潜在因子を抽出して推薦を行う。

3.3 バイオインフォマティクス

遺伝子発現データのクラスタリングにより、類似した機能を持つ遺伝子群や疾患サブタイプを特定する。また、次元削減を用いて高次元の遺伝子データを可視化し、生物学的な知見を得る。タンパク質構造予測や創薬にも応用されている。

3.4 自然言語処理

3.4.1 トピックモデル

トピックモデル(LDAなど)は、文書集合から潜在的なトピックを教師なしで抽出する手法である。各文書が複数のトピックから構成されると仮定し、単語の共起パターンに基づいてトピック分布を推定する。文書分類や要約、情報検索に利用される。

3.4.2 分散表現学習

Word2VecやGloVeなどの手法は、大規模なテキストコーパスから単語の分散表現(ベクトル)を教師なしで学習する。単語の意味や文法関係がベクトル空間上の比較で表現されるようになり、翻訳、感情分析、質問応答などの下流タスクに利用される。

4.1 結果の解釈可能性

教師なし学習の出力は、データの構造を示すものの、その意味付けは人間のドメイン知識に依存する。クラスタリング結果や潜在表現が何を表しているかは自明でなく、結果の解釈には分析者がデータに精通している必要がある。

4.2 ハイパーパラメータ調整

多くの手法(K-meansのK、DBSCANのεとMinPts、PCAの主成分数など)ではハイパーパラメータの設定が結果を大きく左右するが、教師なし学習には汎用的なチューニング手法が少ない。しばしば試行錯誤やエルボー法などの経験則に依存する。

4.3 評価の難しさ

教師あり学習と異なり、正解ラベルがないため、客観的な性能評価が困難である。クラスタリングの内部指標は一貫性を測るが、必ずしも実用上の意味と一致しない。外部指標を用いるにはラベル付きデータが必要となり、教師なし学習の本来の目的と矛盾する。

4.4 スケーラビリティ問題

大規模データに対して、階層的クラスタリングやt-SNEなど計算量がO(n²)以上となる手法は適用が難しい。また、深層学習ベースの手法はGPUリソースを要する。オンライン学習や近似手法による高速化が研究されているが、依然として課題である。

5.1 自己教師あり学習との関係

自己教師あり学習は、ラベルなしデータから擬似的な教師信号(例:画像の回転角度予測、マスクされた単語の予測)を生成して学習する手法であり、教師なし学習と密接に関連する。データの表現学習の質を大幅に向上させ、特に大規模な事前学習において教師なし学習の限界を補完しつつある。

5.2 深層学習との融合

深層ニューラルネットワークの発展により、教師なし学習は高次元かつ複雑なデータ(画像、音声、テキスト)に対して強力な表現を獲得できるようになった。オートエンコーダ、GAN、VAEに加え、コントラスト学習(SimCLRなど)やクラスタリングと組み合わせた深層クラスタリングが進展している。これにより、従来の手法では難しかった非線形構造の発見が可能となっている。

5.3 実世界データへの適用拡大

教師なし学習は、ラベル付けコストが高い医療診断、異常検知、レコメンデーション、創薬などの分野で重要性を増している。また、データのプライバシー問題が考慮される中で、ラベルなしデータのみから有用な情報を抽出するニーズが高まっている。今後は、少量のラベルで効果を高める半教師あり学習や、ドメイン適応との統合なども進むと期待される。