1 定義と基本概念

ゼロショット学習(Zero-shot learning)は、学習時に一度も観測したことのないクラス(カテゴリ)に対して、そのクラスの事例を一切与えられずに推論分類を行う能力を指す機械学習のパラダイムである。通常の教師あり学習では訓練データに含まれるクラスのみを認識可能であるが、ゼロショット学習では、クラスの属性や説明文、あるいは他の既知クラスとの意味的関係(WordNet大規模言語モデルによる埋め込みなど)を利用して、未知クラスへの汎化を実現する。この技術は画像認識、自然言語処理、レコメンデーションシステムなど多岐にわたる分野で応用され、特に大規模な事前学習モデルCLIPなど)の登場により実用性が高まっている。

1.1 ゼロショット学習の定義

ゼロショット学習は、訓練時に存在しなかったクラス(未知クラス)を、そのクラスを説明する補助情報(属性記述、自然言語テキスト、ベクトル埋め込みなど)のみを用いて認識する枠組みである。具体的には、既知クラスと未知クラスの間で共有される意味空間を構築し、未知クラスの補助情報をその空間に射影することで分類を行う。この過程では未知クラスのサンプルを一切使用しない点が、他の学習パラダイムと明確に異なる。

1.2 従来の学習パラダイムとの比較

1.2.1 教師あり学習との違い

教師あり学習では、各クラスに対して十分なラベル付き訓練データが必要となる。未知クラスが現れた場合、新たにデータを収集し再学習を行う必要がある。一方、ゼロショット学習は未知クラスの補助情報のみで推論可能であるため、データ収集コストを大幅に削減できる。ただし、教師あり学習に比べ、既知クラスでの精度が低下するトレードオフが存在する。

1.2.2 ワンショット学習・数ショット学習との関係

ワンショット学習は未知クラスのサンプルを1つだけ用いて学習し、数ショット学習は少数のサンプルを用いる。これらはいずれも未知クラスの実サンプルを必要とする点でゼロショット学習と区別される。ゼロショット学習は、全くサンプルがない極端な状況を扱う。これら三つは「ショット学習」の連続体をなし、データ不足の度合いに応じて使い分けられる。

2 技術的アプローチ

2.1 埋め込みベースの手法

2.1.1 共通埋め込み空間の構築

画像やテキストなどのデータを固定次元のベクトル空間写像し、既知クラスと未知クラスの意味的関係を距離として表現する。この空間では、類似したクラス同士が近くに位置するように学習される。代表的な手法として、視覚特徴と意味特徴を同じ空間に射影する関数をニューラルネットワークで学習する方法がある。

2.1.2 視覚と意味のマッピング

画像の視覚特徴ベクトルを、クラス属性や単語埋め込みからなる意味ベクトルに変換するマッピング関数を学習する。推論時には、未知クラスの意味ベクトルとマッピングされた視覚特徴との類似度を計算し、最も近いクラスを予測結果とする。この手法は、属性ベースの手法と組み合わせて用いられることも多い。

2.2 属性ベースの手法

2.2.1 属性記述の設計

各クラスを識別するための人間が定義した属性(例:「縞模様」「飛べる」「水棲」など)のセットを用意する。これらの属性は既知クラスと未知クラスの両方に共通して記述可能である必要がある。属性の設計はタスクのドメイン知識に依存し、適切な属性セットの作成が性能を左右する。

2.2.2 属性分類器の学習

画像などの入力から個々の属性の有無を予測する分類器を、既知クラスのサンプルを用いて学習する。未知クラスのサンプルが与えられた場合、その属性予測結果と各未知クラスの属性記述を照合し、最も一致するクラスを選択する。このアプローチは解釈性が高く、属性の誤りが原因となるエラーの分析が容易である。

2.3 生成モデルを用いた手法

2.3.1 特徴量生成(GAN/VAE)

GAN(生成的敵対ネットワーク)やVAE(変分オートエンコーダ)を用いて、未知クラスの特徴量を擬似的に生成する。生成された特徴量を既知クラスのデータに追加して通常の分類器を学習することで、ゼロショット分類を実現する。これにより、未知クラスのサンプルがない問題を回避する。

2.3.2 条件付き生成と疑似データ拡張

クラス属性やテキスト記述を条件として、未知クラスの特徴量や画像そのものを生成する。生成された疑似データを用いて分類器を強化する手法で、データ不足による過学習を抑える効果がある。近年では、拡散モデルを利用した高品質な疑似データ生成も研究されている。

2.4 大規模事前学習モデルによる手法

2.4.1 マルチモーダル学習(CLIP等)

CLIP(Contrastive Language-Image Pre-training)などのモデルは、大量の画像とテキストのペアから視覚と言語の共通埋め込み空間を学習する。この空間を利用することで、未知クラスのテキスト記述をプロンプトとして与えるだけでゼロショット分類が可能となる。画像分類タスクでは、従来のゼロショット学習を大きく凌駕する性能を示している。

2.4.2 プロンプトエンジニアリング

大規模言語モデルやマルチモーダルモデルに対し、適切なテキストプロンプトを設計することで、ゼロショット性能を向上させる手法。例えば、クラス名だけでなく「これは{クラス}の写真です」といったテンプレートを工夫することで、モデルの認識精度が変化する。この分野では、自動プロンプト最適化技術も発展している。

3 応用分野

3.1 画像認識とオブジェクト検出

3.1.1 希少種の生物分類

訓練データが極めて少ない希少な生物種の画像分類にゼロショット学習が活用される。例えば、絶滅危惧種の昆虫や深海生物など、標本や画像が限られている場合でも、種の特徴記述(大きさ、色、生息域など)を属性として与えることで識別が可能となる。

3.1.2 衛星画像における特殊物体

衛星画像中の特殊な人工物(特定の農業施設、軍事関連構造物など)を検出するタスクでは、事前に十分な教師データを収集することが困難である。ゼロショット学習により、テキスト記述や既知の類似物体からの転移学習を用いて、これらの物体を認識する研究が進められている。

3.2 自然言語処理

3.2.1 テキスト分類と未知トピック

ニュース記事やレビューのトピック分類において、新しいトピックが出現した場合、ゼロショット学習を用いて対応できる。大規模言語モデルによる文埋め込みを活用し、未知トピックの説明文と文書の類似度を計算することで分類を実現する。

3.2.2 言語間転移(ゼロショット翻訳)

機械翻訳において、ある言語対で訓練されたモデルが、訓練時に見ていない言語対に対して翻訳を行う能力。例えば、英語-フランス語と英語-ドイツ語のデータで訓練したモデルが、フランス語-ドイツ語の翻訳をゼロショットで行う。この手法は、多言語モデル(mBART、M2M-100など)の中間表現を介して実現される。

3.3 レコメンデーションと情報検索

3.3.1 新商品に対する推薦

ECサイトにおいて、発売直後で購買履歴のない新商品をユーザに推薦する場合、ゼロショット学習が利用される。商品の属性(価格帯、カテゴリ、素材など)とユーザのプロファイルを共通空間で関連付けることで、新商品でも適切な推薦が可能となる。

3.3.2 クエリによる画像検索

ユーザがテキストクエリで画像を検索する際、検索クエリと画像の内容を結びつけるためにゼロショット学習が用いられる。CLIPのようなモデルを用いれば、訓練時に特定のクエリセットを必要とせず、任意のテキストで画像検索が行える。

4 課題と限界

4.1 ドメインシフト問題

4.1.1 意味ギャップの影響

既知クラスと未知クラスの間には、視覚的特徴や意味的特徴の分布にギャップ(ドメインシフト)が存在する。訓練時に未知クラスのサンプルを見ることができないため、このギャップを埋めることが難しく、未知クラスの分類精度が大幅に低下する原因となる。特に、属性記述が不完全な場合や、未知クラスが既知クラスと大きく異なる場合に顕著である。

4.2 ラベル空間の非対称性

ゼロショット学習では、既知クラスのラベル空間と未知クラスのラベル空間が非対称である。通常の分類器は既知クラスのみで最適化されるため、未知クラスに対する確率出力のキャリブレーションが困難である。また、未知クラス間の相対的な類似度も学習されていないため、ハイパーパラメータの選択が性能に大きく影響する。

4.3 評価指標の不統一

ゼロショット学習の研究では、評価に用いる指標(トップ1精度、トップ5精度、調和平均など)や、未知クラスと既知クラスの分割比率、使用する属性セットが研究ごとに異なり、結果の比較が難しい。特に、一般化されたゼロショット学習(テスト時に既知クラスも含まれる設定)では、既知クラスと未知クラスのバランスをどう評価するかが議論の対象となっている。

5 今後の方向性

5.1 汎用人工知能への応用

ゼロショット学習は、人間のように少ない経験から新しい概念を理解する能力を機械に与えるための基盤技術である。今後は、マルチモーダルな事前学習モデルをさらに発展させ、視覚・言語・音声など複数のモダリティを横断したゼロショット推論が期待される。これにより、環境の変化に適応する汎用人工知能の実現に貢献する可能性がある。

5.2 オープンワールド学習との融合

オープンワールド学習は、未知のクラスが動的に出現する環境での継続的な学習を目指す。ゼロショット学習とオープンワールド学習を統合することで、既知クラスの再学習を最小限に抑えつつ、未知クラスを検出・分類するシステムが研究されている。この融合により、自動運転や災害対応ロボットなど、実世界の動的なタスクへの適用が進むとされている。