1 背景と基本概念
1.1 機械学習におけるデータ不足問題
従来の教師あり学習は、大量のラベル付きデータを前提として高い性能を達成する。しかし現実の応用では、データ収集やアノテーションに費用と時間がかかる医療診断、珍しい生物種の識別、新製品の品質検査など、十分なサンプルを確保できない状況が頻発する。このデータ不足問題は、機械学習モデルの実用化における主要な障壁の一つである。
1.2 人間の少ショット学習能力との比較
人間は、幼児が数回の例示で新しい物のカテゴリを学習したり、数枚の写真を見ただけで未知の人物の顔を記憶できるなど、極少数の例から効率的に概念を獲得する能力を持つ。これに対し、従来の機械学習モデルは大量の反復とデータを必要とする。少数ショット学習は、この人間の認知能力に触発され、機械にも同様の迅速な学習能力を付与しようとする研究分野である。
1.3 定義と設定（N-way K-shot）
少数ショット学習は、目標タスクにおいて極めて少数のラベル付きサンプルだけを用いて新しいクラスを学習する問題設定である。典型的な形式は N-way K-shot で表現される。N-way は認識すべき新規クラスの数を、K-shot は各クラス当たりのラベル付きサポートサンプル数を示す。例えば、5-way 1-shot は5種類の新しいカテゴリそれぞれに1つずつの参照サンプルを与える設定である。評価時には、未ラベルのクエリサンプルをこれらのサポートサンプルに基づいて分類する。
2 主要なアプローチと手法
2.1 メタ学習（Meta-learning）
メタ学習（learning to learn）は、多数の類似タスク（エピソード）で学習し、新しいタスクに迅速に適応するためのメタ知識を獲得する枠組みである。各エピソードは、サポートセット（K-shot例）とクエリセットから構成され、モデルはサポートセットでの学習後、クエリセットでの性能を最大化するよう訓練される。
2.1.1 モデルベース手法
モデルベース手法は、内部状態や記憶機構を持つモデル（例：メモリ拡張ニューラルネットワーク、再帰型ネットワーク）をエピソードごとに更新し、サポートセットの情報を素早く符号化する。例えば、メモリ拡張ネットワークは外部メモリにサンプルを保存し、クエリと照合することで新しいクラスを認識する。
2.1.2 メトリックベース手法
メトリックベース手法は、サポートサンプルとクエリサンプルの間の類似度（距離）を学習することを目的とする。サポートセットの各クラスに対して代表点（プロトタイプ）を計算し、クエリを最も近いプロトタイプに分類する。
2.1.2.1 ユークリッド距離とコサイン類似度
類似度計算には、ユークリッド距離（L2距離）とコサイン類似度（ベクトル間の角度）が一般的に用いられる。ユークリッド距離はベクトル空間内の絶対的な位置関係を捉えやすく、コサイン類似度はベクトルの方向に着目する。どちらを選ぶかは埋め込み空間の性質に依存する。
2.1.2.2 マッチングネットワークとプロトタイプネットワーク
マッチングネットワーク（Matching Networks） は、サポートセット全体とクエリのアテンション機構により、各クエリに重み付きラベルを割り当てる。プロトタイプネットワーク（Prototypical Networks） は、各クラスのサポートサンプルの平均をプロトタイプとし、クエリを最も近いプロトタイプに分類する。前者はインスタンス単位、後者はクラス単位の集約が特徴で、いずれも少数ショット学習の基本的手法として広く使われる。
2.1.3 最適化ベース手法（MAMLなど）
最適化ベース手法は、新しいタスクに対してごく少数の勾配更新で適応できる初期パラメータを学習する。代表的な MAML（Model-Agnostic Meta-Learning） は、タスクごとに内側のループで数ステップの勾配降下を行い、外側のループで初期パラメータを最適化する。このアプローチはモデル構造に依存せず、様々なネットワークに適用可能である。
2.2 転移学習と事前学習
転移学習は、大規模なベースデータセットで事前学習した特徴抽出器を利用し、新規クラスに適応させる。少数ショット学習では、事前学習済みモデルの特徴表現が、新規クラスの判別に役立つかどうかが鍵となる。
2.2.1 特徴抽出器の活用
ベースクラス（大量のラベル付きデータを持つクラス）で学習した畳み込みニューラルネットワークなどの特徴抽出器を固定し、その出力を新規クラスの分類に直接用いる。この手法はシンプルでありながら、適切な事前学習によって高いベースライン性能を示す。
2.2.2 ファインチューニング戦略
ファインチューニングは、新規クラスのサポートサンプルを用いて事前学習済みモデルの全層または一部のパラメータを微調整する。ただしKが小さい場合、過学習を防ぐために正則化や学習率の調整が重要となる。近年では、分類器部分のみ調整する線形プローブや、少数ステップの微調整が有効であることが報告されている。
2.3 データ拡張と生成モデル
データ拡張は、限られたサンプルから多様なバリエーションを合成し、実質的な訓練データ量を増やす手法である。
2.3.1 単純な拡張手法
画像分野では、回転、反転、 cropping、色調変更、ノイズ付加などの基本的な幾何学・色変換が用いられる。テキスト分野では、類義語置換やバックトランスレーション（翻訳して戻す）などが適用される。これらの手法は実装が容易で、一定の性能向上をもたらす。
2.3.2 GANやVAEによる合成データ生成
生成的敵対ネットワーク（GAN）や変分オートエンコーダ（VAE）を用いて、サポートサンプルから新しいデータを生成する手法もある。例えば、プロトタイプネットワークのプロトタイプを条件として画像を生成する方法や、潜在空間を補間して多様なサンプルを作成する方法が提案されている。生成モデルの品質が性能に大きく影響するため、訓練の安定性が課題となる。
3 主要なベンチマークとデータセット
3.1 画像認識（miniImageNet, CIFAR-FS, tieredImageNet）
画像認識の分野では、標準的なベンチマークとして次のデータセットが頻繁に利用される。
- miniImageNet：ImageNetから100クラス、各クラス600画像を抽出したもの。通常、訓練用64クラス、検証用16クラス、テスト用20クラスに分割される。5-way 1-shotおよび5-way 5-shotの設定が標準。
- CIFAR-FS：CIFAR-100をベースに100クラスを64/16/20に分割。miniImageNetより低解像度だが、評価が高速。
- tieredImageNet：ImageNetの階層構造を活用し、上位カテゴリが重複しないようにクラス分割したもの。訓練クラス351、検証97、テスト160と大規模で、ドメインシフトの評価に適する。
3.2 自然言語処理（FewRel, GLUE少数ショット設定）
自然言語処理では、関係抽出タスクの FewRel が代表的なベンチマークである。ウィキペディアから収集された関係ラベルを持ち、N-way K-shotの設定でモデルの汎化性能を測る。また、GLUE（General Language Understanding Evaluation）の各種タスクを少数ショット設定で評価する実験も行われており、BERTなどの事前学習モデルの適応能力が研究されている。
3.3 その他（音声認識、医療画像など）
音声認識では、話者識別や単語認識の少数ショット設定（例：数発話のみで新話者を識別）が研究されている。医療画像分野では、X線画像や病理画像における希少疾患の分類（例えば、数枚の画像から新しい病変を検出）において、少数ショット学習が有望視されている。また、ロボット制御では、数回の実演から新しい物体操作を学習するシナリオで利用される。
4 応用分野
4.1 コンピュータビジョン
画像分類だけでなく、物体検出（数枚のアノテーションで新物体を検出）、セマンティックセグメンテーション（新しいカテゴリの領域分割）、人物再識別（異なるカメラで数枚の画像から特定人物を追跡）など、幅広いタスクに応用されている。特に、常に新商品が登場する小売や、稀少種の監視など、データの追加が難しいシナリオで有用である。
4.2 自然言語処理
テキスト分類、感情分析、意図理解、関係抽出などで、新しいドメインやタスクに迅速に適応するために少数ショット学習が活用される。例えば、カスタマーサポートにおける新しい問い合わせカテゴリを数例の指示で認識するシステムや、低リソース言語の翻訳モデルなどが該当する。
4.3 ロボティクスと強化学習
ロボットが新しい物体を把持したり、新しい環境で行動を学習する際、実世界では大量の試行錯誤が難しい。少数ショット学習とメタ強化学習を組み合わせることで、数回の実演やインタラクションから新しいスキルを獲得する研究が進んでいる。
4.4 創薬と材料科学
医薬品開発では、新しい分子の活性予測や毒性評価に利用可能なデータが限られている。少数ショット学習により、少量の実験データから新しい化合物の性質を推測できる。同様に、材料科学では新しい組成や構造の材料特性を少数のサンプルから予測する手法として注目されている。
5 課題と限界
5.1 過学習と一般化問題
Kが極端に小さい（1や2）場合、モデルはサポートサンプルに容易に過適合し、クエリに対して汎化しない。特に深層ネットワークはパラメータ数が多いため、過学習対策が不可欠である。ドロップアウト、重み減衰、データ拡張などの正則化が効果的だが、根本的な解決には至っていない。
5.2 ベースクラスと新規クラスの不均衡
ベースクラス（大量データあり）と新規クラス（少量データ）の間で、分布や特徴の違いが存在する場合、事前学習済みの特徴抽出器が新規クラスに最適でないことがある。特に、ベースクラスに偏った特徴表現は、新規クラスの識別に不利に働く。
5.3 ドメインシフトと分布外検出
少数ショット学習で学習したモデルは、訓練時のベースドメインとテスト時の新規ドメインが大きく異なる場合、性能が急激に低下する。また、クエリサンプルがサポートセットのいずれのクラスにも属さない（分布外）場合の検出も重要な課題である。
5.4 評価プロトコルの標準化問題
研究者ごとに評価設定（N-way K-shotの選択、エピソード数、バックボーンネットワーク、データ分割方法など）が異なるため、結果の比較が困難な場合がある。近年は、統一されたベンチマーク（例：miniImageNetの標準分割）やオープンソースの評価フレームワーク（例：torchmeta, learn2learn）の普及により標準化が進んでいるが、完全ではない。
6 歴史と発展
6.1 初期の研究（2000年代）
少数ショット学習の概念は、2000年代初頭にトランスダクティブラーニングやベイズ学習の枠組みで研究され始めた。例えば、Ethan et al.（2003）の「One-shot learning of object categories」では、変分ベイズ法を用いて少数の画像から物体カテゴリを学習する手法が提案された。また、類似度に基づく近傍法や、階層的ベイズモデルが利用されたが、大規模データへの適用は限られていた。
6.2 ディープラーニング時代の進展（2015年以降）
2015年以降、ディープラーニングの発展に伴い、少数ショット学習は大きく進展した。2016年に提案された Matching Networks（Vinyals et al.） と Prototypical Networks（Snell et al.） は、エピソード訓練とメトリック学習を導入し、現在の基礎を築いた。2017年の MAML（Finn et al.） は最適化ベースのメタ学習を確立し、モデル非依存の学習手法として広く採用された。同時に、ImageNetを縮小したminiImageNetがベンチマークとして標準化され、急速な研究進展を促した。
6.3 近年のトレンド（大規模言語モデルとの融合など）
近年では、大規模言語モデル（GPT、BERTなど）の台頭により、自然言語処理における少数ショット学習が新しい局面を迎えた。特に、プロンプトベースの手法や in-context learning（数例の文脈を与えて推論させる）は、従来のメタ学習とは異なるパラダイムとして注目されている。画像分野でも、Vision TransformerやCLIPなどの大規模事前学習モデルを少数ショット設定で微調整する手法が高い性能を示している。さらに、自己教師あり学習と少数ショット学習の融合も活発に研究されている。
7 関連概念との比較
7.1 ゼロショット学習
ゼロショット学習は、ラベル付きサンプルを一切与えず、クラスの意味的属性や説明文（例：「この動物は縞模様を持つ」）を用いて新しいクラスを認識する。少数ショット学習が数個のサンプルを必要とするのに対し、ゼロショット学習はサンプルなしで推論するが、その代わりにクラスに関する追加知識（記述や属性ベクトル）が必須である。
7.2 ワンショット学習
ワンショット学習は、少数ショット学習の特殊な場合であり、K=1（各クラス1サンプル）の設定を指す。概念上は少数ショット学習に包含されるが、特に1サンプルのみという極限の条件に焦点を当てた研究領域として扱われることもある。
7.3 半教師あり学習
半教師あり学習は、少量のラベル付きデータに加えて大量のラベルなしデータを活用する。少数ショット学習では通常、ラベルなしデータは使わない（または補助的に使う場合がある）。半教師あり学習の目的はラベル付きとラベルなしの両方を利用して精度を向上させることであり、ラベル付きサンプルが非常に少ない設定では少数ショット学習と重なる部分がある。
7.4 アクティブラーニング
アクティブラーニングは、モデルが最も有益と判断したサンプルを選択的にアノテーションする戦略であり、限られたアノテーション予算で最大の性能を得ることを目的とする。少数ショット学習は与えられた固定のサポートセットで学習するのに対し、アクティブラーニングはどのサンプルにラベルを付けるかを能動的に決定する点が異なる。両者は組み合わせて使用されることもあり、アクティブラーニングで選んだサンプルに対して少数ショット学習を適用する手法が研究されている。