1 基本概念
1.1 凸集合
1.1.1 定義
ユークリッド空間(や実ベクトル空間)において、集合 \(C\) が凸であるとは、任意の2点 \(x,y\in C\) と任意の係数 \(t\in[0,1]\) に対し、連結点 \[ (1-t)x+ty \] が常に \(C\) に属することをいう。この条件は、点 \(x\) と \(y\) を結ぶ線分が集合の内部または境界を一様に通ることを意味する。
1.1.2 例と反例
凸集合の代表例として、球(境界含む閉球)、半空間、任意の線分、ならびに一般の凸多角形や凸多面体がある。これらは線分が必ず集合内に留まるため、定義を満たす。反例として、円の外側全体や、2つの離れた領域の和集合のような形が挙げられる。例えば、互いに離れた2点を含む集合でも、その中間の点が含まれないなら凸性は成立しない。さらに、非連結であっても中間が保持される場合は凸になり得るが、一般に「空白を挟む形」は反例になりやすい。
1.2 凸関数
1.2.1 定義
実数値関数 \(f\)(定義域がある集合 \(C\))が凸であるとは、任意の \(x,y\in C\) と \(t\in[0,1]\) に対し \[ f((1-t)x+ty)\le (1-t)f(x)+tf(y) \] が成り立つことをいう。右辺は点 \(x\) と \(y\) の関数値の重み付き平均であり、凸性は「中間の値が平均を上回らない」こととして解釈できる。
1.2.2 グラフによる意味
凸関数のグラフでは、2点 \((x,f(x))\) と \((y,f(y))\) を結ぶ直線がグラフの下側に来る(または境界に一致する)ことが特徴となる。言い換えると、グラフは線分で張られる“たわみ”が上に膨らむのではなく、下から見て平均を押さえる形になる。
1.2.3 反凸関数
反凸(凹)関数とは、凸関数の不等号を逆にした性質を持つ関数である。すなわち任意の \(x,y,t\) について \[ f((1-t)x+ty)\ge (1-t)f(x)+tf(y) \] が成り立つとき、その関数は凹関数と呼ばれる。グラフの直感的意味としては、結んだ直線がグラフの上側に位置する。
1.3 凸性の直感的理解
1.3.1 線分と中間値の性質
凸性は、点同士を結んだときの「中間点でのふるまい」を規定する。重み \(t\) を変えることで、中間点は線分上を連続的に移動する。凸性があると、中間の関数値は端点の関数値の平均より大きくならないため、極端な“持ち上がり”が抑えられる。この制約が、最適化における探索を安定化させる基盤にもなる。
1.3.2 幾何学的解釈
凸性は幾何学的には「弧や窪みではなく、線分がはみ出さない形」を指す。集合では線分が集合内部を保つ。関数では、そのような線分を“縦方向に同様の重みづけ”で結んだ結果が、グラフの位置関係を決める。さらに、同じ点列の組から得られる不等式群が成立することで、局所的な形状の情報が大域的な制御へとつながる。
2 凸関数の性質
2.1 一次関数による下からの支持
2.1.1 接線との関係
凸関数が微分可能である場合、ある点での接線(一次近似)は関数を下から支持する。つまり、その点近傍での線形近似が関数値を超えず、関数グラフの下側に“沿う”ように配置される。接線が下側にあることは、凸性に由来する基本的な構造として現れる。
2.1.2 支持超平面
多変数の場合、一次関数は「超平面」として表され、凸関数の任意の点において、その関数のグラフがその超平面の上に位置することが示される(微分可能性や一般化された微分の仮定の下で)。この超平面は支持超平面と呼ばれ、凸関数の評価や最適化における“境界の見積もり”を与える道具になる。特に、最小化問題での探索では、支持超平面が関数の下側の壁として働く。
2.2 微分可能な場合の判定
2.2.1 一階条件
一階条件は、微分情報から凸性を判定するための手がかりを与える。微分可能な関数では、各点での勾配が“単調性”を持つことが凸性と関係する。典型的には勾配の差分が与える内積の符号が非負になることにより、凸性の成立が示唆される。厳密な判定は定義域の形状や前提(全域での微分可能性など)によって整理される。
2.2.2 二階条件
二階条件では、ヘッセ行列(後述)に基づいて凸性を判定するのが一般的である。滑らかな関数に対して、各点での曲率が“下向き”に曲がっている(谷の形になる)ことが凸性に対応する。単変数では二階導関数の非負性が凸性の中心的基準になる。
2.2.3 ヘッセ行列
多変数で二階微分可能な関数 \(f\) は、ヘッセ行列 \( \nabla^2 f(x)\) が各点で正半定値(固有値が全て非負)であれば凸である。正半定値とは任意の方向ベクトル \(v\) に対し \(v^\top \nabla^2 f(x) v\ge 0\) が成り立つことを指す。この性質は、曲率が負の方向の“山”を作らないことを意味し、線形支持の存在と整合する。
2.3 厳密凸性
2.3.1 定義
厳密凸性とは、凸性の不等号が端点以外の中間で厳密に成立する場合を指す。すなわち任意の異なる \(x\neq y\) と \(t\in(0,1)\) について \[ f((1-t)x+ty)<(1-t)f(x)+tf(y) \] が成り立つとき、関数は厳密凸と呼ばれる。図形的には、線分がグラフと一致して“平坦に走る”区間がないことが特徴になる。
2.3.2 一意性との関係
最適化において、厳密凸関数を最小化すると解が一意になりやすい。もし2つの異なる点が同じ最小値を与えるなら、凸性の不等式は中間で等号にならざるを得ず、厳密凸性と矛盾する。そのため、厳密凸性は最小点の一意性の保証に結びつく場合が多い。
2.4 強凸性
2.4.1 定義
強凸性は、凸性に量的な“余裕”を加えた概念である。例えばある定数 \(\mu>0\) が存在し、任意の \(x,y\) と \(t\in[0,1]\) に対して \[
| f((1-t)x+ty)\le (1-t)f(x)+tf(y)-\frac{\mu}{2}t(1-t)\|x-y\|^2 |
|---|
\] が成り立つとき、\(f\) は \(\mu\)-強凸と呼ばれる。右辺の追加項が、単なる凸性以上に中間の値が厳しく抑えられることを表す。
2.4.2 最適化への影響
強凸性を仮定すると、勾配法や準ニュートン法などの収束率が改善されることがある。さらに、最適解周りでの曲率が十分にあるため、誤差が関数値や距離へ結びつき、停止基準の設計が容易になる。結果として、アルゴリズムの収束性・安定性評価に利点が生じる。
3 凸性の拡張と関連概念
3.1 凸包
3.1.1 定義
集合 \(S\) の凸包とは、\(S\) を含む最小の凸集合をいう。これは、\(S\) の点を有限回の凸結合で組み立てたときに得られる集合として表されることが多い。直感的には、集合を“ゴムで引き伸ばして線分を埋める”ことで、凸になるまで膨らませた形が凸包である。
3.1.2 性質
凸包は、元の集合に含まれる点やその間の線分構造を集約し、凸集合の枠組みで性質を引き継がせる。特に、凸包を取ることで線形支持に関する議論が可能になり、最適化や幾何学的評価が扱いやすくなる。また凸包は、線分で閉じた構造により、極端な点の寄与を中心に分析できる点でも有用である。
3.1.3 代表的な構成方法
凸包は、半空間の交わりとして表す方法や、有限生成の凸結合によって組み立てる方法がある。実装面では、頂点(極点)からの凸結合を利用して表現するアルゴリズムが用いられることが多い。次元やデータの規模に応じて、計算幾何の手法が選ばれる。
3.2 凹性
3.2.1 定義
凹性は凸性の双対的な概念である。関数 \(f\) が凹であるとは、任意の \(x,y\) と \(t\in[0,1]\) に対して \[ f((1-t)x+ty)\ge (1-t)f(x)+tf(y) \] が成り立つことを指す。グラフが線分より“上側”に位置する性質として理解される。
3.2.2 凸性との対応関係
凹性と凸性は、符号反転で相互に変換できる。具体的には、ある関数 \(f\) が凸であることと \(-f\) が凹であることは同値である。これにより、理論や手法を共有しつつ、最大化問題と最小化問題の関係へとつなげられる。実際、最適化では凹関数の最大化を凸関数の最小化に還元する場面がある。
3.3 多変数関数の凸性
3.3.1 変数ごとの凸性
多変数では、各変数を固定したときに残りの変数に関して凸になるかどうかで、弱い意味の凸性が議論される。これは座標ごとに凸であるという性質で、全体としての凸性とは異なる場合がある。座標別の凸性は解析やアルゴリズム設計で役立つことがあるが、一般に大域的な保証は全変数同時の凸性ほど強くない。
3.3.2 同時凸性
同時凸性とは、ベクトル変数全体に対して、凸結合により不等式が成り立つことをいう。つまり \(x,y\) を同時に動かし、それらの線分上で凸性条件が一貫して成立する。最適化での解の性質、局所解の大域性、一意性などの議論において同時凸性は基本的な前提となる。
3.4 半連続性と閉凸集合
3.4.1 閉包との関係
凸集合や凸関数の議論では閉性が重要になる。閉集合は極限点を含むため、最小値達成(存在)などの議論に絡む。さらに、半連続性(上半連続、下半連続)は極限操作と目的関数の値の挙動を結びつけ、最適解の存在定理に必要な前提として現れることがある。
3.4.2 端点を含む性質
閉凸集合では、境界上の点も構造の一部として扱える。端点を含むかどうかは、凸包や収束極限の取り扱いに影響し、制約集合としての解釈にも関わる。実用上、制約が境界を許すか否かで最適解の位置が変わることがあるため、閉性は解析上の区切りになる。
4 応用
4.1 最適化
4.1.1 凸最適化問題
目的関数が凸で、制約集合が凸である最適化問題を凸最適化問題と呼ぶ。一般に制約の形が凸であれば、 feasible領域の探索が“谷”の構造に沿って行われるため、局所的な停留点が大域的な最適解と一致しやすい。問題の再定式化(目的の符号反転、変数変換)によって、凸性条件を満たす形に整えることも多い。
4.1.2 局所解と大域解
凸性の強みの一つは、局所最小が大域最小になるケースが多い点にある。厳密凸性や強凸性まで仮定すると、最適解の一意性や収束の良さがさらに期待できる。結果として、数値的最適化においても局所探索が意味を持ちやすくなる。
4.1.3 双対性
凸最適化では双対性の理論が発達しており、プライマル(元の問題)とデュアル(双対問題)の関係により下界・上界評価が可能になる。双対ギャップが小さい、あるいは一致する状況では、解の性質を計算や解析で効率的に扱える。補完スラックネス等の条件が、解構造の把握に役立つ。
4.2 確率論
4.2.1 ジェン Jensenの不等式
凸関数に対してはジェンセンの不等式が成り立つ。確率変数 \(X\) と凸関数 \(f\) に対して、一般に \[ f(\mathbb{E}[X])\le \mathbb{E}[f(X)] \] が成立する。直感的には、平均を先に代入した値が、関数適用後に平均した値より大きくならないという凸性の反映である。
4.2.2 期待値との関係
期待値は平均操作であり、凸性があることで平均と関数作用の順序に不等式の関係が生まれる。これにより、分散や分布形状の情報から関数値の評価を行う手法が構築できる。例えば、確率分布に対する上界・下界の導出、あるいは誤差評価で頻繁に利用される。
4.3 幾何学
4.3.1 凸多角形
凸多角形は、任意の2頂点を結ぶ線分が多角形内に含まれる多面体の2次元版として理解できる。頂点集合から有効な表現が得られ、支持線や支持超平面に相当する概念が、境界の評価に直結する。さらに、面積やモーメントのような幾何量に対して、凸性に由来する不等式が適用されることがある。
4.3.2 凸多面体
凸多面体では、各面を支持する超平面の概念が中心になる。頂点と稜線、面という離散構造により、凸性の情報が計算可能な形に落ちる。工学設計や計算幾何、線形計画の可視化などで、凸多面体の性質が役立つ。
4.4 数値解析
4.4.1 収束解析
凸性は反復法の収束性の解析にしばしば利用される。目的関数が凸であることで、更新方向が最適点からの距離や関数値の増減と結びつき、単調性や停留点の扱いが明確になる。強凸性がある場合には、誤差の減少が指数的あるいはより良い速度で評価できる場面がある。
4.4.2 安定性の評価
数値計算では丸め誤差や近似により誤差が蓄積する。凸構造は、誤差が解の品質へ与える影響を抑える方向に働くことがある。特に、曲率が十分である場合には、近似解が最適点に近いことを関数値の差から見積もれるため、安定性評価がしやすくなる。