1 獲得関数の概要
1.1 定義と役割
1.1.1 逐次意思決定としての位置づけ
獲得関数（アクイジションファンクション）は、ベイズ最適化のように「候補点を1つずつ順に選び、その点で目的関数を評価する」枠組みにおける意思決定規則である。これまでに得られた観測から推定した確率モデルの出力（予測値や不確実性）を用い、次に評価すべき点をスコアリングして選別する。目的関数そのものを直接最大化するのではなく、次の一手を決めるための指標を最大化（または最小化）する点が特徴である。
獲得関数の設計目標は、少数回の評価で良い解に到達すること、かつ探索の偏りを管理することにある。評価コストが高い問題では、最も高そうな候補だけを狙うと見落としが増える一方で、不確実性ばかりを追うと改善が遅れる。その調整を担うのが獲得関数である。
1.1.2 探索と活用のトレードオフ
探索と活用のトレードオフは、確率モデルが示す「平均的に良さそう」という情報（活用）と「まだ自信がない」という情報（探索）を同時に考慮することで生じる。獲得関数は一般に、予測分布に基づく期待性能を取り込みつつ、不確実性に由来する加点を混ぜる形になることが多い。
この結果、候補点の選好は「期待値が高い」だけでなく「そこを調べる価値がある」ことにも影響される。どの程度探索寄りにするかは、選んだ獲得関数の種類と、その内部パラメータの値によって決まる。実務では、探索の過不足が早い学習曲線や最終性能に直結するため、運用段階での調整が重要になる。
1.2 ベイズ最適化との関係
1.2.1 確率モデル（代理モデル）の利用
ベイズ最適化では、目的関数 f(x) の真の値を毎回直接計算できない、あるいは計算・測定コストが高い状況を想定する。そこで観測データから「代理モデル」を構築し、候補点 x に対する分布的予測を得る。代表例はガウス過程に基づく推定であり、各候補点について平均（推定値）と分散（不確実性）を同時に与える。
獲得関数は、代理モデルが出力するこれらの統計量を入力として、次点の候補をスコア化する。したがって、獲得関数の性質は代理モデルの表現力（たとえば学習データの少なさへの頑健性）や不確実性の較正にも左右される。代理モデルが過度に楽観的に不確実性を小さく見積もると探索が弱まり、逆に過大評価されると探索が過剰になる。
1.2.2 次点選択の具体的な流れ
典型的な手順は次の通りである。まず、初期設計としていくつかの候補点を選び、目的関数の評価を行って観測データを作る。次に、代理モデルをそのデータで学習し、未評価の候補点全体に対して予測分布を得る。続いて獲得関数を候補点ごとに計算し、そのスコアが最も高い（あるいは最小の）点を次の評価点として採用する。
最後に、その点で目的関数を評価して観測を追加し、同じプロセスを繰り返す。獲得関数最大化（あるいは最小化）は、通常は別の最適化問題として解かれるため、候補空間が大きい場合には近似やサンプリングが併用されることが多い。
2 獲得関数の基本要素
2.1 予測分布に基づく構成
2.1.1 平均（予測値）と分散（不確実性）
多くの獲得関数は、代理モデルの予測分布 N(μ(x), σ²(x)) のような形に基づく。平均 μ(x) は、候補点 x の目的関数値についての期待推定であり、「そこが良い」という活用要素を与える。分散 σ²(x) は不確実性の大きさを表し、「そこを調べることで学習が進む」という探索要素を反映する。
この枠組みでは、探索の必要度はしばしば分散の大きさと結び付く。未観測領域で分散が大きくなるモデル設計になっていることが多く、結果として獲得関数は未知領域にも一定の誘導力を持つ。ただし、不確実性の見積もりが適切であることが前提であり、分散が誤っていると探索と活用のバランスも歪む。
2.1.1.1 分散が示す「探索余地」
分散が大きい点は、観測が少なくモデルが確信を持てない領域である可能性が高い。したがって、その点で評価すると推定が更新され、将来の意思決定にも影響する。獲得関数はこの「情報獲得の見込み」を数量化し、平均が平凡でも候補に採用され得るようにする。
ただし、分散の大きさは「将来の改善が本当に見込める」ことと完全には一致しない。たとえば、予測分布が広いだけで平均が低い場合には、探索しても改善が起きないことがある。このため、獲得関数はしばしば平均と分散を同時に組み合わせ、単純な不確実性重視を避けるように設計される。
2.1.2 目標値との比較（閾値や基準）
獲得関数には、既存の最良値や参照基準との比較が含まれることが多い。最大化問題なら、現在までに得られた最良値（ベスト観測値）を基準として扱う設計が一般的である。最小化問題では符号を反転するか、比較方向を調整する。
加えて、確率的改善や期待改善のような手法では「改善とみなす条件」を定義するための閾値が導入されることがある。この閾値は「少しの改善であれば許容するか」「確実な上書きを狙うか」といった意図を反映する。基準の設定は探索の圧力や収束挙動に影響するため、問題特性に応じた扱いが必要になる。
2.2 改善量の概念
2.2.1 改善の定義（最大化・最小化）
改善量 (improvement) は、参照基準よりどれだけ良くなるかを数値化する量である。最大化なら「現時点の最良値 y_best を超える量」を考え、最小化なら「y_best を下回る量」を考える。改善量はしばしば max(0, ·) の形で定義され、超えられない場合には改善が0として扱われる。
この定義により、獲得関数は「今この候補を評価したときに、参照基準を上回る可能性がどの程度あるか」を評価できる。参照基準が何であるか（最良観測か、目標値か、一定のマージンか）が手法の解釈を左右する。
2.2.2 改善の確率・期待値
改善量を確率変数として扱うと、候補点ごとに「改善が起きる確率」や「改善量の期待値」が得られる。確率的改善は、改善が正になる事象の確率に着目する。一方、期待改善は、改善量そのものの期待値として平均的な得を見積もる。
これらの差は、探索の仕方に現れることがある。改善確率だけを見ると、改善が稀でも上振れが非常に大きいケースは評価に反映されにくい場合がある。期待値は上振れの大きさを織り込むため、同じ確率でも強い候補をより好む傾向が出ることがある。
3 代表的な獲得関数
3.1 期待改善量（EI）
3.1.1 改善の期待値としての解釈
期待改善量（Expected Improvement, EI）は、次に評価した結果として得られる改善量の期待値を表す指標である。参照基準を y_best とし、改善量を max(0, f(x) − y_best) のように定義すると、EI はその期待値になる。代理モデルの予測分布により、改善量の分布が推定できるため、平均と分散から EI が計算される。
EI の解釈として重要なのは、「改善が起こる確率」だけでなく「起きた場合の改善の大きさ」も同時に反映される点である。結果として、平均が基準を超えそうな点だけでなく、分散が大きく上振れの可能性が高い点にもスコアが与えられる。
3.1.2 ハイパーパラメータと実装上の注意
EI には設計上の参照基準やマージン（改善閾値）を調整する要素が入り得る。たとえば、改善を「y_best をわずかに超えること」とみなすと、弱い上書きを避ける挙動になる。実装では、この閾値の扱いと最大化・最小化の整合性に注意が必要である。
また、EI の計算には分散が0に近い領域での数値安定性が関係する。分散が非常に小さいときには改善確率は極端になりやすく、有限精度での計算誤差が生じる可能性がある。そのため、標準偏差の扱いに小さな正則化を入れるなどの工夫が行われることがある。さらに、獲得関数最大化の際に勾配を使う実装か、サンプリングに依存する実装かによって最適化の挙動が変わる。
3.2 確率的改善（PI）
3.2.1 改善確率に基づく選好
確率的改善（Probability of Improvement, PI）は、参照基準を超える確率を獲得関数として用いる考え方である。具体的には、改善量が正になる事象の確率をスコア化する。EI に比べて、上振れの大きさよりも「起きるかどうか」に重心が移りやすい。
この性質のため、PI は比較的保守的な選好を示すことがある。平均が基準を僅かに上回り、分散が小さな点は「改善が確からしい」と判断されて選ばれる一方、分散は大きいが平均が低い点は改善確率が低ければスコアが伸びにくい。その結果、探索行動が抑えられる場合がある。
3.2.2 極端な条件での挙動
PI は閾値設定に敏感になり得る。改善を厳しく定義し過ぎると、改善確率が広い領域で極端に小さくなり、ほぼ同じ候補ばかりが選ばれることがある。逆に閾値が緩すぎると、改善確率が一様に高くなり、探索の判断材料が薄れてしまう。
また、分散が極小の領域では確率が0か1に近づきやすく、獲得関数の勾配情報が不十分になることがある。これにより、獲得関数最大化の数値最適化が停滞する場合もあるため、閾値のスケール調整や計算手順の工夫が求められる。
3.3 上側信頼限界（UCB）
3.3.1 不確実性に重みを付ける考え方
上側信頼限界（Upper Confidence Bound, UCB）は、平均予測に不確実性の項を加えた形で候補を選ぶ枠組みである。典型的には μ(x) に対し、σ(x) に比例する加点 α·σ(x) を加えることで、「平均が高い」だけでなく「不確実性が大きい」点も候補に上げる。 この加点係数 α は探索の強さを直接制御するパラメータとして機能する。
UCB の利点は、計算が比較的単純で実装しやすい点にある。さらに、ある種の理論的性質（探索と収束に関する議論）が導入しやすい枠組みとして知られる。実務では、UCB が EI や PI と異なる探索戦略を生みやすいことから、目的やデータ状況に応じた使い分けが行われる。
3.3.2 探索強度の調整
探索強度 α が大きいほど、不確実性に基づく上振れを強く期待し、未知領域をより頻繁に探索する傾向になる。逆に α が小さい場合は、平均の高い点を中心に選ぶようになり、探索は控えめになる。
実務では α を固定するだけでなく、反復回数に応じて変化させる設計（たとえば次第に探索を弱める）も検討される。加えて、代理モデルが出す分散のスケールと α の整合性が重要であり、分散が過度に大きいモデルなら α を抑える、逆に小さいなら増やすといった調整が必要になることがある。
3.4 その他の代表例
3.4.1 知識勾配に基づく手法の位置づけ
獲得関数は、平均と分散だけでなく、情報の増え方（推定の変化）や予測分布の形状に着目して設計されることもある。たとえば、候補点を評価したときにモデルの不確実性がどれだけ減り得るかを情報量として扱う発想は、探索をより直接的に誘導し得る。 ここでは厳密な名称よりも、「知識（不確実性や学習の状態）がどう更新されるか」を手がかりにする手法群が位置づけられる。
こうした考え方は、平均・分散の単純な組合せでは捉えにくい構造（制約や多峰性など）を反映できる可能性がある。一方で、計算が重くなりやすく、獲得関数最大化の安定性にも影響し得るため、問題規模とのバランスが重要になる。
3.4.2 分散を直接利用する派生案
分散（不確実性）を獲得関数に直接組み込む派生として、例えば「不確実性の大きいところを優先する」方向の指標が考えられる。これらは平均の寄与を弱めるか、別の形で統合することで、探索側に強く寄せる。
ただし、不確実性だけに基づく探索は、良い解に繋がらない領域を調べ続けるリスクもある。したがって、実際には平均との結合（差分、比率、正規化など）や、探索の上限・下限を設ける工夫が入ることが多い。さらに、制約付き問題では、分散だけでなく有効性に関する情報も併せて扱う設計が検討される。
4 実務での選択と運用
4.1 問題設定別の使い分け
4.1.1 最大化・最小化の扱い
目的関数の向きに応じて、獲得関数の比較方向を揃える必要がある。最大化なら基準（最良値）を上回ることを改善とし、最小化なら下回ることを改善とする。実装では目的関数そのものを符号反転して最大化問題に統一することもあるが、代理モデルや制約の扱いと整合しているかを確認すべきである。
同時に、改善閾値が導入される場合には、基準の定義（最良観測か、目標値か、マージン付きか）も向きと一致させる必要がある。誤った符号や比較の向きは、探索方針を逆転させて収束を乱す原因になる。
4.1.2 汎用性と制約条件の有無
制約のない無制限最適化では、EI、PI、UCBのいずれも適用しやすい。制約がある場合は、有効領域（制約を満たす候補）への優先度を同時に扱う必要が出る。その際、獲得関数を「性能の良さ」と「制約充足の確からしさ」の積や合成で拡張する設計が一般的になる。
また、変数が離散的、あるいは高次元である場合、獲得関数最大化の難しさが支配的になる。UCBのように計算が軽いものは最大化手続きで有利になることがあり、EIは確率モデルとの整合が良い場合に強みを持つ。最終的には、評価回数、制約の形、探索空間の形状（連続か離散か、多峰性の有無）に応じて選ぶのが実務的である。
4.2 ハイパーパラメータ調整
4.2.1 探索強度（例：UCBの係数）
UCBの探索係数 α は最も目立つ調整対象の一つである。係数が大きいほど探索が増え、学習初期に未知領域へ飛びやすくなる。小さくすると既知の高い平均に張り付き、局所的な改善に集中する。
調整の基本方針は「データが少ない段階ほど探索を確保し、必要に応じて徐々に抑える」ことである。ただし、分散の較正やモデル仮定の妥当性が弱いと、単純な係数調整だけでは最適化挙動が改善しないこともある。したがって、代理モデルの品質評価とセットで調整することが望ましい。
4.2.2 改善閾値の設定（例：PI・EI）
PI や EI では、改善をどの程度から「改善」とみなすかを定める閾値が挙動を大きく左右する。閾値を上げる（より厳しい改善条件にする）と、獲得関数は確実性の高い上書きだけを好みやすくなる。逆に下げると、わずかな上昇でも候補が増え、探索と活用のバランスが変わる。
運用では、目的関数のスケールに対して閾値を適切に設計する必要がある。スケールが大きいのに閾値が小さ過ぎると改善が常に成立しやすくなり、逆にスケールに対して閾値が大きいと改善がほぼ起きない。モデルの予測分散の大きさとも相互作用するため、数回の試行で挙動を確認しながら調整することが多い。
4.3 計算コストと最適化
4.3.1 莫大な候補空間での探索
連続変数や高次元の問題では、獲得関数を全候補点で計算して最大を見つけることは不可能になる。したがって、グリッド探索、ランダムサンプリング、勾配に基づく反復法など、別の最適化戦略が必要になる。候補点生成の方法は、獲得関数の最大化結果に直結する。
さらに、獲得関数が多峰性を持つと、局所最適に引き込まれる危険が増える。実務では、初期点を複数用意して探索する、サンプル数を増やす、あるいは多様性を持たせる工夫を行い、探索の偏りを抑えることがある。
4.3.2 獲得関数最大化の近似手法
獲得関数最大化は、厳密解を毎回求める必要がない場合がある。たとえばサンプル集合上での最大値近似や、勾配ベース最適化の短い反復で近づける方法が使われる。近似にすると計算は軽くなるが、最適点から外れる可能性が増えるため、全体として必要評価回数が変わることがある。
近似の質は、代理モデルの信頼性や獲得関数の形状に依存する。分散が急激に変化する領域では近似の誤差が大きくなり得るため、局所探索に偏り過ぎない戦略（ランダム再開など）が有効な場合がある。
4.4 結果の評価と検証
4.4.1 学習曲線による確認
実務での評価では、反復ごとの最良値（または損失）の推移を学習曲線として確認する。獲得関数の種類やパラメータ設定によって、初期段階の伸び方や後半の頭打ちの時期が異なる。曲線の形状から、探索が不足して局所停滞しているのか、探索し過ぎて改善が遅いのかを推定できることがある。
また、複数のランダム初期化を行い、平均やばらつきを見て頑健性を確認することが望ましい。特に獲得関数最大化が近似を含む場合、結果の揺らぎが生じることがあるため、統計的な見方が重要になる。
4.4.2 ベースラインとの比較方法
獲得関数の有効性は、ベースラインとの比較によって判断するのが一般的である。ベースラインとしては、ランダム探索、既知の簡易手法(例えば固定戦略のグリッド)、あるいは別の獲得関数を用いた構成が考えられる。比較は評価回数で揃える（同じ回数だけ目的関数を評価する）ことが基本である。
さらに、同一データ分割や同一初期点集合で比較すると、差分が獲得関数や代理モデル構成に由来しやすくなる。制約付き問題では、制約充足率や有効サンプル割合も併せて指標に含めると解釈が安定する。
4.5 よくある落とし穴
4.5.1 モデルのミススペック
代理モデルの仮定が現実の目的関数と合わないと、不確実性や予測平均の品質が崩れ、獲得関数の判断も連鎖的に誤る。例として、データの少なさで過度に滑らかな関数を仮定すると局所的な変化を見逃すことがある。逆に柔軟過ぎる設定ではノイズに敏感になり、平均推定が乱れて探索が迷走することがある。
対策としては、カーネル選択や正則化、ハイパーパラメータの学習方法の見直し、ならびに予測分布の較正（分散が妥当かどうか）を行うことが挙げられる。獲得関数だけを調整しても、モデル側が歪んでいる限り限界がある。
4.5.2 学習初期の偏り
初期観測が偏っていると、代理モデルが形成する予測分布も偏り、獲得関数はその偏りを強化しやすい。たとえば、初期点が狭い領域に集中している場合、未観測領域の不確実性が過大または過小に見積もられ、探索の強弱が極端になることがある。
初期設計には、空間を広く覆うサンプリング（例えば分散の均し方を意識した設計）が用いられることが多い。さらに、初期段階では探索寄りの獲得関数設定を用い、偏りを緩和してから活用へ移る設計が採られる場合もある。適切な初期化は、最終到達性能だけでなく反復ごとの安定性にも影響する。