1 概念
対照学習は、入力どうしの関係を通じて表現を学ぶ機械学習の枠組みである。基本的には、意味的に近い例を表現空間で接近させ、異なる例を離すことで、下流タスクに使いやすい埋め込みを獲得する。画像、音声、自然言語など、データの形式を問わず適用される。
この手法は、明示的な正解ラベルが少ない状況でも性能を引き出しやすいため、自己教師あり学習の中心的な方法として重視されてきた。学習の成否は、どの例を近づけ、どれを遠ざけるかという設計に大きく左右される。
1.1 定義
対照学習とは、正例と負例の相対関係を利用して表現を最適化する学習法である。正例は「互いに似ている」とみなす組であり、負例は「区別すべき」とみなす組である。モデルは、これらの関係が損失関数上で反映されるように更新される。
1.2 基本原理
基本原理は、類似した入力が近いベクトルに写るようにし、異質な入力が十分に分離されるように学習する点にある。多くの手法では、同一データから作った別視点のサンプルや、同じクラスに属する例を正例として扱う。一方、無関係なサンプルは負例として利用される。
1.3 他の学習手法との関係
対照学習は、教師信号の作り方によって監督学習とも自己教師あり学習とも接続する。さらに、入力を扱いやすい特徴空間へ写像するという意味で、広い表現学習の文脈に位置づけられる。
1.3.1 監督学習との違い
監督学習では、各入力に対して明示的なラベルを予測することが中心である。これに対し対照学習では、ラベルそのものよりも、サンプル間の相対的な近さが重視される。結果として、分類器の学習前に特徴抽出器を整える用途でも有効である。
1.3.2 自己教師あり学習との関係
自己教師あり学習では、人手で付けた注釈に頼らず、データ内部から学習信号を生成する。対照学習はその代表例であり、同じ入力の異なる変換版を利用するなどして、擬似的な教師信号を構成する。
1.3.3 表現学習における位置づけ
表現学習は、原データを計算しやすい特徴表現へ変換する技術の総称である。対照学習は、意味構造を保ちながら判別的な埋め込みを作りやすいため、この分野で重要な役割を担う。
2 理論的基礎
対照学習の理論は、距離や類似度の定義、損失の形、正例・負例の選び方に支えられている。これらは独立ではなく、ひとつの要素の変更が他の要素の振る舞いにも影響する。
2.1 類似度の考え方
類似度は、2つの表現がどの程度近いかを測る指標である。学習では、距離を小さくするか、類似度を大きくするかのいずれか、または両方を用いて最適化することが多い。
2.1.1 距離尺度
距離尺度には、ユークリッド距離やマンハッタン距離などがある。距離が小さいほど近い関係とみなし、対照的な例との隔たりを数値化する。埋め込みの幾何構造を評価する際にも使われる。
2.1.2 類似度尺度
類似度尺度では、コサイン類似度が広く用いられる。これはベクトルの向きの近さを評価するため、長さの違いよりも方向の一致を重視できる。正規化済み表現と相性がよい。
2.2 損失関数
損失関数は、どの関係を強め、どの関係を弱めるかを定量的に表す。対照学習では、正例のスコアを高め、負例のスコアを下げる形が基本となる。
2.2.1 対比損失
対比損失は、正例間の距離を縮め、負例間の距離が一定以上になるよう促す損失である。シンプルで解釈しやすく、初期のメトリック学習で広く使われた。
2.2.2 三つ組損失
三つ組損失は、アンカー、正例、負例の3要素を用いる。アンカーに対して正例を近づけ、負例との差を一定以上保つことを目指す。相対比較を直接扱える点が特徴である。
2.2.3 情報理論的な定式化
一部の現代的手法では、対照学習を情報理論の観点から解釈する。たとえば、正例の識別を通じて相互情報量の下界を最適化する考え方がある。これにより、表現が入力の有用な情報を保持するよう誘導される。
2.3 正例と負例
正例と負例の定義は、対照学習の設計の中心である。何を同一視し、何を区別対象とするかによって、学習される表現の性質が変わる。
2.3.1 正例の定義
正例は、同じ実体の別表現、同一文書の別文、同一クラスの別画像など、近い意味を持つ組として定義される。設定が適切であれば、モデルは不変性の高い特徴を獲得しやすい。
2.3.2 負例の定義
負例は、正例ではない例として扱われるが、実際には意味的に近いものが混じることもある。負例の質が悪いと学習が不安定になり、表現の分離が過剰になる場合がある。
2.3.3 難しい負例の扱い
難しい負例は、見た目や局所的特徴が似ていて区別しにくいサンプルである。適切に利用すれば識別能力を高めるが、強く扱いすぎると誤った分離を学ぶおそれがある。そのため、重みづけや選別が工夫される。
3 手法
対照学習の実装は、正例の作り方、負例の収集方法、学習の単位によって多様化する。代表的には、インスタンス単位、ラベル利用型、逐次更新型に大別できる。
3.1 インスタンス対照学習
インスタンス対照学習では、各データ個体を独立したクラスのように扱い、同一インスタンスの異なる拡張版を正例とする。ラベル不要で始めやすく、自己教師あり学習で特に普及した。
3.1.1 データ拡張
データ拡張は、元の入力から複数の視点を生成する操作である。画像なら切り抜きや色変換、文章なら削除や並べ替え、音声ならノイズ付加などが用いられる。これらが学習の基盤になる。
3.1.2 埋め込み空間の学習
埋め込み空間の学習では、拡張前後の表現が近づくようにモデルを訓練する。これにより、表面的な変化に頑健で、意味的な共通部分を保持する特徴が得られやすい。
3.2 監督付き対照学習
監督付き対照学習では、ラベル情報を正例の定義に取り入れる。異なる個体でも同じクラスに属するなら正例として扱うため、クラス内凝集とクラス間分離を同時に進めやすい。
3.2.1 クラス情報の利用
クラス情報を使うと、同じラベルのサンプルを相互に正例化できる。これにより、単一の拡張視点だけでは得られない、多面的なまとまりを学習できる。
3.2.2 多数正例の扱い
多数正例を扱う場合、ひとつのアンカーに対して複数の肯定例が存在する。損失設計では、それらを平均するか、個別に重みづけするかが問題になる。扱いを誤ると、一部の正例が他を圧迫することがある。
3.3 逐次的対照学習
逐次的対照学習は、学習過程で負例や表現を順次蓄積・更新する方式である。大量データに対して効率的だが、古い表現との整合性を保つ必要がある。
3.3.1 メモリバンク
メモリバンクは、過去の埋め込みを保存して再利用する仕組みである。これにより、現在のバッチに含まれない多様な負例を参照できるが、表現の古さが問題になることがある。
3.3.2 大規模バッチ学習
大規模バッチ学習では、1回の更新で多数のサンプルを同時に比較する。負例の数を増やしやすく、安定した勾配が得られやすい一方、計算資源とメモリ消費が大きい。
4 応用
対照学習は、表現の質を高める手段として幅広い応用を持つ。分類の前段だけでなく、検索、照合、推薦など、似ているものを近く置くことが重要な場面で特に有効である。
4.1 画像認識
画像分野では、異なる切り出しや変換から一貫した特徴を学ぶ用途で使われる。大規模なラベルなし画像から有用な表現を獲得できる点が利点である。
4.1.1 分類
分類では、対照学習で事前学習した特徴抽出器を用いると、少ないラベルでも高い精度が得られることがある。特徴が整理されているため、単純な分類器でも性能を出しやすい。
4.1.2 物体検出
物体検出では、背景や位置変化に頑健な表現が役立つ。対照学習で得た視覚特徴は、候補領域の判別や局所表現の安定化に貢献する。
4.1.3 画像検索
画像検索では、意味の近い画像を近い埋め込みとして配置することが重要である。対照学習は、近傍探索に適した空間を作りやすく、類似画像の検索性能向上に使われる。
4.2 自然言語処理
自然言語処理では、文や段落の意味的近さを捉える表現学習に用いられる。語順や表現ゆれに対して一定の不変性を持たせる点が重要である。
4.2.1 文表現学習
文表現学習では、同じ意味内容を持つ文の表現を近づける。これにより、要約、検索、分類などの基盤となる汎用ベクトルが得られる。
4.2.2 意味類似度推定
意味類似度推定では、2文の近さを数値化する必要がある。対照学習で得た表現は、相対的な意味差を反映しやすく、類似度回帰や順位付けに利用される。
4.2.3 検索と照合
検索と照合では、問い合わせ文に対応する候補文を素早く見つけることが目的である。埋め込み空間での近傍探索により、大規模コーパスでも効率的な照合が可能になる。
4.3 音声処理
音声処理では、同一話者や同一内容の異なる録音を近づける学習が行われる。雑音や録音条件の差を吸収しやすいことが利点である。
4.3.1 話者表現学習
話者表現学習では、声質や発話傾向を反映したベクトルを作る。対照学習により、発話内容よりも話者固有の特徴を強調しやすくなる。
4.3.2 音声認識
音声認識では、安定した中間表現が認識精度に寄与する。対照学習を前処理や事前学習に用いることで、雑音環境への耐性が向上することがある。
4.4 推薦システム
推薦システムでは、利用者と項目の近さを表現するのに対照学習が使われる。相互作用履歴から意味のある距離構造を学び、候補生成やランキングに役立てる。
4.4.1 ユーザー表現
ユーザー表現は、嗜好の傾向を埋め込みとして表す。似た行動履歴を持つ利用者を近づけることで、推薦の一般化性能を高めやすい。
4.4.2 項目表現
項目表現は、商品や記事などの特徴をベクトル化する。利用者表現と組み合わせることで、相性のよい候補を効率的に見つけられる。
5 学習の設計要素
対照学習では、同じ手法名でも設計次第で挙動が大きく変わる。データ拡張、バッチ構成、温度係数は、とくに影響の大きい調整項目である。
5.1 データ拡張戦略
データ拡張戦略は、正例対をどのように作るかを決める要素である。拡張が弱すぎると学習信号が乏しく、強すぎると本質的情報まで失われる。
5.1.1 視覚的変換
視覚的変換には、回転、反転、クロップ、色変化などがある。これらは見た目を変えつつ、対象の同一性を保つことを狙う。
5.1.2 文章変換
文章変換では、単語削除、同義語置換、順序の軽い変更などが使われる。ただし、意味の保持が難しいため、画像より慎重な設計が求められる。
5.1.3 音声変換
音声変換には、雑音付加、時間伸縮、周波数変形などがある。発話内容を保ちながら、収録条件の違いに頑健な特徴を促す。
5.2 バッチ構成
バッチ構成は、学習時にどのサンプルを同時に比較するかを決める。正例と負例の混ざり方が変わるため、最終的な表現にも影響する。
5.2.1 バッチサイズ
バッチサイズが大きいと、より多くの負例を一度に扱える。これにより識別力が上がる場合があるが、計算コストも増える。
5.2.2 正例比率
正例比率が高すぎると分離圧力が弱まり、低すぎると学習が過度に競争的になる。適切な均衡を保つことが、安定した収束に重要である。
5.3 温度係数
温度係数は、類似度スコアの鋭さを調整するパラメータである。ソフトマックスの分布を平滑化または尖鋭化し、学習の性質を変える。
5.3.1 勾配への影響
温度が低いと、スコア差が強調され、勾配が鋭くなる傾向がある。高すぎると差がぼやけ、学習信号が弱まることがある。
5.3.2 表現の分散性
温度の設定は、埋め込みがどれほど広く散らばるかにも関わる。適切であれば、表現は密集しすぎず、分離しすぎもしない均衡を保つ。
6 課題と限界
対照学習は有力だが、万能ではない。負例の品質、学習の偏り、計算負荷、評価基準の整備などに関して、なお課題が残る。
6.1 負例への依存
多くの方式は負例の存在に強く依存する。ところが、誤って意味の近い例を負例として扱うと、学習が損なわれる。負例に頼らない設計も研究されているが、別の難しさが生じる。
6.2 短絡的な学習
短絡的な学習では、モデルが表面的な手がかりだけに依存してしまう。例えば、特定の拡張痕跡や局所パターンを利用して正例判定を済ませることがある。これを避けるには、拡張や損失の調整が必要である。
6.3 計算資源の必要性
高品質な対照学習は、多数の比較対象や大きなバッチを要することが多い。そのため、GPUメモリ、学習時間、通信コストの負担が大きくなりやすい。
6.4 評価の難しさ
対照学習で得た表現は、内部評価だけでは良し悪しを判断しにくい。下流タスクごとに有用性が異なるため、単一の指標で全体を代表させることが難しい。
7 関連概念
対照学習は、近縁の手法群と重なりながら発展してきた。とくに、自己教師あり表現の学習、距離に基づく学習、埋め込みの構成とは密接である。
7.1 自己教師あり表現学習
自己教師あり表現学習は、外部ラベルなしで特徴を学ぶ分野である。対照学習はその代表的な方法のひとつで、擬似ラベルを用いて学習信号を作る。
7.2 メトリック学習
メトリック学習は、距離空間での近さが意味を持つように学ぶ手法群である。対照学習は、これを大規模データと組み合わせやすい形に発展させたものと見なせる。
7.3 埋め込み学習
埋め込み学習は、離散的または高次元の対象を低次元表現へ写像する技術である。対照学習は、その埋め込みが意味のまとまりを保つよう、相対比較で整える。
7.4 コサイン類似度
コサイン類似度は、2つのベクトルの向きの一致度を表す指標である。対照学習では、正規化した埋め込みの比較に用いられることが多い。
8 歴史
対照学習の発展は、メトリック学習の蓄積と、深層学習の普及が重なって進んだ。初期は比較的限定的な用途が中心だったが、のちに大規模な自己教師あり表現学習の中核へ広がった。
8.1 初期の研究
初期の研究では、画像認識や顔認識の文脈で、類似・非類似を学ぶ方法が検討された。三つ組損失や対比損失は、この時期に重要な基礎を与えた。
8.2 発展と普及
深層学習の進展により、対照学習は大規模データと強い拡張戦略を組み合わせる形で発展した。これにより、ラベルなしでも汎用性の高い表現を学べることが示され、幅広い分野へ普及した。
8.3 近年の動向
近年は、負例に依存しない方式、教師付きと自己教師ありの統合、マルチモーダル学習への応用が進んでいる。表現の頑健性や学習効率を高める工夫も盛んで、実用面と理論面の両方で研究が続いている。
</INTERNAL_LINK_CANDIDATES> 自己教師あり学習（外部ラベルなしで学ぶ学習枠組み） 表現学習（入力を扱いやすい特徴ベクトルへ変換する学習） メトリック学習（距離や近さを基準に学ぶ手法群） 三つ組損失（アンカー・正例・負例を用いる損失） 対比損失（正例を近づけ負例を遠ざける損失） 埋め込み学習（対象を低次元の表現に写像する学習） コサイン類似度（ベクトルの向きの一致度を測る指標） データ拡張（元データから変換版を作る操作） 正例（近い関係として学習するサンプル組） 負例（区別対象として扱うサンプル組） 難しい負例（見分けにくい負例サンプル） インスタンス対照学習（個々のサンプルを単位にする対照学習） 監督付き対照学習（ラベル情報を正例設計に使う対照学習） 逐次的対照学習（表現や負例を順次更新する方式） メモリバンク（過去の埋め込みを保存して再利用する仕組み） 温度係数（類似度分布の鋭さを調整する値） 画像検索（近い画像を埋め込み空間で探す用途） 文表現学習（文全体の意味表現を学ぶこと） 話者表現学習（話者特性を表す埋め込みを学ぶこと） 推薦システム（利用者に項目を提示する仕組み）