1 基本概念
1.1 事前学習との関係
ファインチューニングは、事前学習（Pre-training）の後に実施される追加学習プロセスである。事前学習では、大規模で一般的なデータセット（例：Wikipedia全体、ImageNetなど）を用いてモデルに幅広い知識やパターンを学習させる。この段階で獲得された重みは、勾配降下法によって調整され、モデルは言語の構文・意味や画像のエッジ・テクスチャなどの汎用的な特徴を内包する。ファインチューニングは、この汎用的な重みを初期値として、特定のタスク用の小規模データセットでさらに学習を進める。これにより、ゼロから学習する場合に比べ、少ないデータと計算時間で高精度なタスク特化モデルが得られる。事前学習の品質はファインチューニングの成否に直結し、適切に事前学習されたモデルほど、下流タスクへの適応が容易となる。
1.2 転移学習における位置づけ
転移学習（Transfer Learning）は、あるタスクで獲得した知識を別のタスクに活用する機械学習の枠組みである。ファインチューニングはこの中でも「パラメータ転移」に分類される手法であり、事前学習済みモデルの重み全体あるいは一部を初期値として再利用する点が特徴である。他の転移学習手法（例：特徴抽出器として固定使用、ドメイン適応など）と比較して、ファインチューニングはモデルの内部表現をタスクに合わせて柔軟に変更できるため、タスク間の差異が大きい場合でも高い適応性を示す。特に深層学習において、ImageNetで事前学習されたCNNを物体検出に転用する場合や、BERTを質問応答に適用する場合が典型的な例である。
2 ファインチューニングの手法
2.1 全パラメータファインチューニング
全パラメータファインチューニング（Full Fine-tuning）は、事前学習済みモデルのすべての重みをタスクデータで更新する手法である。最も直接的なアプローチであり、タスクに特化した表現をモデル全体に浸透させることができる。一方で、モデルサイズが大きい場合、大量の計算リソースとメモリを要する。また、タスクデータが少ない場合は過学習のリスクが高まるため、適切な学習率設定や正則化技術が重要となる。大規模言語モデル（例：GPT-3、BERT-large）での適用では、GPUメモリ消費が数十GBに達することもある。
2.1.1 特徴量抽出器としての利用
全パラメータファインチューニングの一形態として、事前学習モデルを「特徴量抽出器（Feature Extractor）」として固定し、その出力層のみを新たなタスク用に学習する方法がある。具体的には、事前学習済みの重みを凍結し、モデルの中間表現（隠れ層の出力）を入力として、新たに追加した線形分類器や小さなニューラルネットワークを訓練する。この手法は、計算コストが低く、特にタスクデータが非常に小さい場合に過学習を抑制できる。転移学習の中では最も単純なアプローチであり、画像認識ではVGGやResNetの最終層前の特徴ベクトルを利用する例が代表的である。ただし、タスクが事前学習ドメインと大きく異なる場合、特徴抽出器としての性能は限定的となる。
2.1.2 タスクヘッドの追加と再学習
この方法では、事前学習済みモデル本体の重みはすべて学習可能なまま、出力層をタスク固有の構造（タスクヘッド）に置き換えて再学習を行う。例えば、BERTを用いたテキスト分類では、[CLS]トークンに対応する隠れ状態に線形層を接続し、全パラメータを分類損失で更新する。これにより、モデル全体の知識をタスクに最適化できる一方、計算負荷が高く、大規模モデルでは数十時間の訓練が必要となる場合もある。この手法は、タスクデータが中程度から大量に存在する場合に有効であり、質問応答や固有表現認識など多くのNLPベンチマークで標準的に用いられている。
2.2 パラメータ効率的ファインチューニング
パラメータ効率的ファインチューニング（Parameter-Efficient Fine-Tuning, PEFT）は、全パラメータを更新する代わりに、ごく少数の追加パラメータのみを調整することで、計算資源とメモリ使用量を大幅に削減する手法群である。元のモデル重みは凍結し、新たに挿入された軽量モジュールやベクトルのみを学習する。これにより、大規模モデルを複数のタスクに同時に展開する際、タスクごとにモデル全体を保存する必要がなくなり、ストレージ効率が向上する。近年の基盤モデル（例：GPT-3、LLaMA）において広く採用されている。
2.2.1 Adapter
Adapterは、トランスフォーマー層の内部に小さなボトルネック構造（全結合層2層）を挿入する手法である。具体的には、マルチヘッドアテンション層とフィードフォワード層の後にAdapterモジュール（次元削減→非線形活性化→次元復元）を追加し、この部分のみを学習する。元のモデルパラメータ数（例：7Bパラメータ）に対して、Adapterのパラメータ数はタスクごとに数百万程度と極めて小さい。Adapterは各タスクに固有の軽量モジュールを持ち、推論時には元のモデルにアダプタを差し替えることで切り替えが可能である。性能面では、多くのタスクで全パラメータファインチューニングに匹敵する精度を達成することが報告されている。
2.2.2 LoRA（Low-Rank Adaptation）
LoRAは、モデルの重み行列の更新量を低ランク行列の積として表現する手法である。例えば、重み行列W∈R^(d×k)に対して、更新量ΔW = BA（B∈R^(d×r)、A∈R^(r×k)、r≪min(d,k)）と分解し、BとAのみを学習する。ランクrは通常1～64程度に設定され、更新パラメータ数は元のモデルの0.1%～1%以下となる。LoRAは特に大規模言語モデルのアテンション層のクエリ・バリュー射影行列に適用されることが多く、推論時には元の重みとLoRAの重みを加算するだけでオーバーヘッドが発生しない。実装の容易さと高い性能から、Stable DiffusionやLLaMAのファインチューニングで広く利用されている。
2.2.3 Prefix Tuning
Prefix Tuningは、入力シーケンスの先頭に学習可能な連続ベクトル（プレフィックス）を追加する手法である。このプレフィックスはトークン埋め込みではなく、各トランスフォーマー層のキーとバリューに相当する仮想的な隠れ状態として挿入される。プレフィックスの長さ（通常10～100トークン）と内部次元がハイパーパラメータとなり、これらのベクトルをタスクデータで最適化する。元のモデル重みは完全に固定されるため、メモリ使用量はプレフィックスが占める分のみに抑えられる。特にテキスト生成タスク（例：テーブル-to-テキスト）において、全パラメータファインチューニングに近い性能を発揮する。
2.2.4 Prompt Tuning
Prompt Tuningは、Prefix Tuningの派生であり、入力層にのみ学習可能なベクトル（ソフトプロンプト）を追加する手法である。具体的には、タスクに応じた数個（例：5～100）の連続ベクトルを入力トークン列の先頭に連結し、このベクトル群のみを勾配降下法で更新する。プロンプトの長さと初期化方法（例：ランダム、タスク関連トークンの埋め込みの平均）が性能に影響する。Prefix Tuningと異なり、アテンション層の操作が不要なため計算効率が高い。一方、モデルサイズが小さい場合（例：T5-small）では性能が低下しやすいが、モデル規模が大きくなるにつれて全パラメータファインチューニングに迫る精度が達成されることが知られている。
2.3 量子化とファインチューニングの融合
量子化（Quantization）は、モデルの重みや活性値を浮動小数点（例：FP32、FP16）から低ビット幅（例：INT8、INT4）に変換することでメモリ消費と推論速度を改善する技術である。近年、量子化とファインチューニングを組み合わせる手法が発展している。「量子化対応ファインチューニング」（QAT, Quantization-Aware Training）では、ファインチューニング中に量子化による誤差を疑似体験させながら学習を行うことで、量子化後も高精度を維持する。また、「LoRAと量子化の組み合わせ」（QLoRA）では、ベースモデルを4ビット量子化で保持しつつ、LoRAアダプタのみを16ビットで学習する。これにより、従来では70Bクラスのモデルをファインチューニングするために必要な数百GBのGPUメモリを、一つのコンシューマー向けGPU（例：RTX 3090 24GB）で済ませることが可能となった。この技術は大規模言語モデルの民主化に大きく貢献している。
3 適用領域
3.1 自然言語処理
自然言語処理（NLP）は、ファインチューニングが最も広く適用されている分野である。BERT、GPT、T5などの事前学習モデルを基盤とし、様々な下流タスクに適応することで、従来の特徴量設計ベースの手法を凌駕する性能を達成している。ファインチューニングは、モデルにタスク固有の知識（例：特定ドメインの語彙、文法的パターン）を注入する役割を果たす。
3.1.1 テキスト分類
テキスト分類（感情分析、スパム検出、トピック分類など）では、事前学習モデルの[CLS]トークン表現や全トークンの平均プーリングを入力とし、新たに追加した線形分類器を学習する。典型的なプロセスでは、BERTベースモデルを分類データで数エポックファインチューニングするだけで、少数サンプル（例：1000件）からでも高い精度が得られる。タスク固有のラベルに応じて、二値分類から多ラベル分類まで柔軟に対応できる。
3.1.2 質問応答
質問応答（QA）タスクでは、与えられた文脈から質問に対する回答を抽出または生成する。抽出型QA（例：SQuADデータセット）では、事前学習モデルの出力層に開始位置と終了位置を予測する線形層を追加し、全パラメータをファインチューニングする。生成型QA（例：NarrativeQA）では、T5やGPTをファインチューニングして自由形式の回答を生成する。大規模な検索システムと組み合わせたRAG（Retrieval-Augmented Generation）にもファインチューニングが用いられる。
3.1.3 機械翻訳
機械翻訳（MT）では、エンコーダ・デコーダ型の事前学習モデル（例：mBART、M2M-100）を特定の言語対やドメイン（例：医療文書、法律文書）向けにファインチューニングする。大規模な多言語事前学習モデルに数万〜数十万文のペアデータで追加学習を行うことで、汎用モデルでは苦手とする専門用語や文体の翻訳精度が向上する。特に低リソース言語対において、ファインチューニングは翻訳品質の大幅な改善をもたらす。
3.2 コンピュータビジョン
コンピュータビジョン（CV）分野では、ImageNetなどの大規模画像分類データセットで事前学習されたCNN（例：ResNet、EfficientNet）やViT（Vision Transformer）が標準的な基盤モデルとして用いられる。これらのモデルを下流タスクにファインチューニングすることで、ゼロから学習する場合と比較して、少ないデータと短時間で高精度なモデルを構築できる。
3.2.1 物体検出
物体検出（例：Faster R-CNN、YOLO系列）では、バックボーンネットワークとして事前学習モデル（例：ResNet-50）を用い、領域提案ネットワーク（RPN）や分類・回帰ヘッドと共にエンドツーエンドでファインチューニングする。典型的な手順として、COCOデータセットで学習されたバックボーンをカスタムデータセットに適応させる場合、バックボーンの初期層は凍結し後半層のみをファインチューニングするか、低学習率で全層を更新する。これにより、新たな物体カテゴリや異なるドメイン（例：衛星画像、医療画像）でも安定した検出性能が得られる。
3.2.2 画像セグメンテーション
画像セグメンテーション（意味領域分割、インスタンスセグメンテーション）では、エンコーダとして事前学習モデル（例：ResNet、Swin Transformer）を、デコーダとしてUP-NetやDeepLabのアーキテクチャを用いる。ファインチューニングは、エンコーダ全体または一部とデコーダをセグメンテーションデータで更新する。医療画像（例：細胞核、臓器の輪郭抽出）や自動運転（例：道路、歩行者領域の識別）において、既存の事前学習モデルを少数のアノテーションデータでファインチューニングすることで、高いIoU（Intersection over Union）を達成する。
3.3 マルチモーダルモデル
マルチモーダルモデル（例：CLIP、Flamingo、BLIP-2）は、画像とテキストの両方を処理する基盤モデルであり、ファインチューニングによって様々なクロスモーダルタスクに適応する。具体的な応用例には、画像キャプショニング（画像からテキスト生成）、ビジュアル質問応答（画像と質問から回答生成）、テキストからの画像生成（例：Stable DiffusionのLoRAファインチューニング）が含まれる。これらのモデルでは、モーダル間のアライメントを維持するために、ファインチューニング時に特定の層（例：クロスアテンション層）のみを調整するPEFT手法が頻繁に用いられる。例えば、CLIPの画像エンコーダとテキストエンコーダの両方を固定し、新たに追加したアダプタ層のみを学習することで、特定のスタイルやドメインに特化した画像生成が可能となる。
4 課題と対策
4.1 過学習（オーバーフィッティング）
ファインチューニングでは、タスクデータが少ない場合にモデルが訓練データのノイズや特異なパターンを記憶し、未知データでの性能が低下する過学習が発生しやすい。対策として、以下の手法が一般的である。早期停止（validation lossの最小値で学習を打ち切る）、重み減衰（L2正則化）の適用、ドロップアウト層の追加、データ拡張（テキスト：バックトランスレーション、画像：回転・反転・色変換）の活用。特に小規模データセットでは、全パラメータファインチューニングを避け、PEFT手法（LoRA、Adapter）を選択することも有効な対策となる。学習率は通常の事前学習よりも低く設定し（例：2e-5～5e-5）、段階的に減衰させるスケジューリングが推奨される。
4.2 破滅的忘却（Catastrophic Forgetting）
破滅的忘却とは、ファインチューニング中に事前学習で獲得した汎用的な知識が失われる現象である。特にタスクデータが事前学習データと大きく異なる分布を持つ場合や、学習率が高すぎる場合に顕著となる。この問題は、連続的なタスク学習（継続学習）において深刻な課題となる。対策として、事前学習の重みを保持するための正則化項を損失関数に追加する手法（ELastic Weight Consolidation, EWC）や、プレイバッファとして過去のタスクデータの一部を保持して再学習する手法（経験再生）が研究されている。PEFT手法は、凍結されたベースモデルに少量の追加パラメータのみを学習するため、本質的に破滅的忘却のリスクが低い。また、ファインチューニング後にベースモデルの出力分布との乖離を監視し、過度な変更を防ぐ手法も提案されている。
4.3 データ不足とラベルノイズ
ファインチューニングに十分な量の高品質なラベル付きデータを確保することは、現実のアプリケーションにおいて大きな障壁となる。データ不足に対しては、少数ショット学習（Few-shot Learning）の手法（例：Prototypical Networks）や、半教師あり学習（Pseudo-labeling）を併用する対策がある。ラベルノイズ（誤ったアノテーション）が含まれる場合は、ノイズロバストな損失関数（例：GCE損失、Symmetrical Cross Entropy）の使用や、ノイズの割合を推定してサンプルの重みを調整する手法が有効である。特に医療画像や法律文書など専門家によるアノテーションコストが高い領域では、能動学習（Active Learning）により不確実性の高いサンプルを選択的にアノテーションすることで、限られた予算で効率的なファインチューニングが可能となる。
4.4 計算リソースと時間コスト
大規模モデル（例：数百億パラメータ）の全パラメータファインチューニングには、膨大なGPUメモリと計算時間が必要となる。例えば、GPT-3（175Bパラメータ）をバッチサイズ8でファインチューニングするには、約1.4TBのGPUメモリが要求される。この課題に対する実用的な対策として、前述のPEFT手法（LoRA、QLoRA）や勾配チェックポイントを活用したメモリ効率的な訓練、さらに混合精度訓練（FP16/BF16）が標準的に用いられる。並列化技術（データ並列、モデル並列、パイプライン並列）を用いることで、複数GPUへの分散訓練が可能となる。また、サーバーレス環境でのスポットインスタンス利用や、事前学習モデルを提供するAPI経由でのファインチューニングサービス（例：OpenAIのFine-tuning API）の活用も、計算リソースの制約を軽減する選択肢である。
5 将来展望
5.1 大規模モデル時代のファインチューニング
基盤モデル（Foundation Model）の規模が年々拡大する中（例：数千億〜兆パラメータ）、従来の全パラメータファインチューニングは現実的ではなくなりつつある。将来は、PEFT手法が主流となり、モデル全体を変更せずに軽量なモジュールやプロンプトで多様なタスクに対応する「モデルハブ」型のエコシステムが発展すると予想される。また、複数のタスクデータを同時に学習するマルチタスクファインチューニングや、知識蒸留（Knowledge Distillation）を融合した手法（大規模モデルの知識を小規模モデルに転移）が、計算コストと性能のトレードオフを改善する方向へ進む。さらに、実時間適応（テスト時にサンプルから学習する）や、継続的ファインチューニングによる動的な知識更新が研究の焦点となる。
5.2 自動ファインチューニングとハイパーパラメータ最適化
現在のファインチューニングでは、学習率、バッチサイズ、エポック数、PEFTのランクやアダプタサイズなど、多数のハイパーパラメータを専門家が試行錯誤で調整する必要がある。将来は、ベイズ最適化やニューラルアーキテクチャサーチ（NAS）を応用した自動化システムが発展する。特に、事前学習モデルの特性を考慮した学習率スケジュール（例：cosine annealing with warm restarts）の自動設定や、タスクの難易度に応じたエポック数の動的決定が実用化される。また、メタラーニング（Learning to Learn）の枠組みにより、ファインチューニングの「学習方法」自体を事前に最適化する研究が進み、ユーザーは生データを提供するだけで最適なファインチューニング戦略が自動選択されるようになる。
5.3 フェデレーテッドラーニングとの統合
フェデレーテッドラーニング（Federated Learning）では、データを中央サーバーに収集せず、分散クライアント上でモデル訓練を行う。ファインチューニングをフェデレーテッド環境で実施する際の課題は、クライアント間のデータ分布の不均一性（Non-IID）と通信コストである。将来は、PEFT手法（特にLoRAやPrefix Tuning）がフェデレーテッド設定に適しているため、これらの手法と分散学習のプロトコルが統合される。具体的には、各クライアントでローカルデータを用いてアダプタのみを学習し、中央サーバーでアダプタの平均化（FedAvg）を行うことで、プライバシーを保護しつつグローバルなタスク適応が可能となる。また、個人情報を含む医療データや金融データの処理において、この統合アプローチが標準技術になることが期待される。