1 ジェンセンの不等式の概要
ジェンセンの不等式は、凸関数または凹関数に対して、入力の平均と関数値の平均のあいだに一定の大小関係が成り立つことを述べる基本定理である。確率論では、確率変数の期待値を介して「平均を先に取るか、関数を先に通すか」という違いを比較する枠組みとして広く用いられる。解析学、統計、情報理論でも頻出し、評価式や上界・下界の構成に重要な役割を果たす。
1.1 定理の主張（凸関数・凹関数）
凸関数に対しては、関数に期待値を代入した値が、期待値で関数を平均した値以下になる。凹関数では向きが反転する。したがって、この不等式は「曲がり方」が平均化によってどのように影響されるかを定量化したものといえる。
1.1.1 期待値を用いた基本形
凸関数 \(f\) と可積分な確率変数 \(X\) に対し、 \(f(\mathbb{E}[X]) \le \mathbb{E}[f(X)]\) が成り立つ。凹関数では逆に \(f(\mathbb{E}[X]) \ge \mathbb{E}[f(X)]\) となる。これは、平均値の近傍での線形近似と、曲率によるずれの大小を比較する式として理解できる。
1.1.2 条件付き期待値を用いた基本形
条件付き期待値でも同様の形が成立する。凸関数 \(f\) について \(f(\mathbb{E}[X\mid \mathcal{G}]) \le \mathbb{E}[f(X)\mid \mathcal{G}]\) が成り立つ。ここで \(\mathcal{G}\) は情報の一部を表す。観測済みの情報に基づく平均を取ったあとで関数を適用するより、関数を先に適用してから条件付き平均を取るほうが大きくなる、という解釈ができる。
1.2 凸性（凹性）の意味
凸性は、不等式の成立を支える中心概念である。関数のグラフが弦の下側に位置するなら凸、上側に位置するなら凹である。直感的には、入力のばらつきが大きいほど、凸関数の出力平均は上に引き上げられやすい。
1.2.1 凸関数の定義と直観
区間内の任意の2点 \(x,y\) と \(0\le t\le1\) に対し、 \(f(tx+(1-t)y)\le tf(x)+(1-t)f(y)\) が成り立つとき、\(f\) は凸である。これは、2点を結ぶ直線がグラフを下から支えることに対応する。日常的には、中央にある値が端点の平均より「安くなる」方向の曲がり方と考えると分かりやすい。
1.2.2 様々な同値条件
十分滑らかな関数では、2階微分が非負であることと凸性が対応する。加えて、接線が常にグラフの下に位置する性質や、傾きが単調増加する性質も同値条件として知られる。これらは、状況に応じて最も扱いやすい形を選ぶ際に便利である。
1.3 等号成立条件
等号が成り立つのは、一般に入力が関数の「直線的な部分」に集中している場合である。単純な十分条件は確率変数がほぼ確実に一定であることだが、それ以外にも構造的な理由で一致することがある。
1.3.1 変数がほぼ確実に一定の場合
\(X\) がほぼ確実に定数なら、\(\mathbb{E}[f(X)] = f(\mathbb{E}[X])\) が当然に成立する。ばらつきがないため、平均化と関数適用の順序差が消える。
1.3.2 厳密な条件（一次同関係など）
凸関数がある区間で厳密に凸であるなら、等号成立には \(X\) がその区間内で本質的に一点に集中していることが必要になることが多い。一般には、関数が線形に振る舞う領域に変数が全て入る場合も等号となる。つまり、曲率がゼロの部分では差が現れない。
2 確率論における使いどころ
確率論では、ジェンセンの不等式は分布の形を直接比較するよりも、平均や期待値を通じて量を評価する際に有効である。特に、複雑な確率変数を単純な代表値で置き換える近似の理屈を支える。
2.1 確率変数への適用
確率変数 \(X\) に対し、凸関数を通した期待値は、しばしば計算しやすい上界として使われる。逆に凹関数では下界を得やすい。これは、乱れを含む量をひとまず平均にまとめてから評価する際の基本操作である。
2.1.1 極値・境界の評価
指数関数、対数関数、べき関数などに適用すると、確率変数のモーメントや情報量の境界が導ける。たとえば、平均だけから分散の影響をある程度見積もったり、変動の大きい量に対する安全側の評価を与えたりできる。
2.1.1.1 直接適用の手順
まず、対象となる関数が凸か凹かを確認する。次に、期待値が存在することを確かめ、必要なら関数の定義域に \(X\) が入るかをチェックする。そのうえで、\(f(\mathbb{E}[X])\) と \(\mathbb{E}[f(X)]\) のどちらが欲しい境界に対応するかを見極めると、自然に不等式を適用できる。
2.1.2 平均と関数の関係の読み替え
この不等式は、平均値の代表性を測る道具でもある。凸関数では、平均入力の評価は平均出力より小さいため、単純な代表値だけでは分布の広がりを過小評価しやすい。したがって、ばらつきが大きい場合ほど差が顕著になりやすい。
2.2 条件付き版の応用
条件付き期待値版は、情報が段階的に増える状況で特に役立つ。観測の途中段階での予測や、更新された信念のもとでの評価に自然に結びつく。
2.2.1 逐次推定・ベイズ的枠組みへの導入
逐次推定では、現在得られている情報を条件にして将来量を評価する。条件付きジェンセンの不等式は、こうした局所的な平均化に対して一貫した上界・下界を与える。ベイズ的な文脈でも、事後分布の下での評価に用いられることがある。
2.2.2 局所的な不等式の合成
各段階で得た条件付き評価を連結すると、全体としての評価式が構成できる。これは、複数の情報源や時間発展を含む系で、局所的な解析をまとめ上げる際に有効である。
2.3 代表的な例題
実際の計算では、特殊関数に適用して形を整える例が多い。とくに指数関数と対数関数は、確率論や情報理論で再三登場する。
2.3.1 指数関数・対数関数への適用
指数関数は凸なので、\(\exp(\mathbb{E}[X]) \le \mathbb{E}[\exp(X)]\) が得られる。対数関数は凹であるため、\(\log(\mathbb{E}[X]) \ge \mathbb{E}[\log X]\) の形が使える。後者は正値変数に対して有効で、平均と幾何平均の比較とも結びつく。
2.3.2 パワー関数（平均の評価）
\(x^p\) は \(p\) の値によって凸性が変わる。\(p\ge1\) では非負域で凸になり、モーメント評価に利用しやすい。\(0<p<1\) では凹となり、逆向きの見積もりが得られる。これにより、平均的な大きさと高次モーメントの関係が整理できる。
3 よく使われる導出・証明の考え方
証明法は複数あるが、最も基本的なのは接線によるものと、平均化の構造を直接使うものです。いずれも「凸なら局所線形近似が下支えになる」という性質を利用している。
3.1 支持直線（接線）による証明
凸関数は、各点での接線がグラフの下にある。これを利用すると、任意の点での関数値を一次式で下から押さえ、その後期待値を取るだけで不等式が出る。
3.1.1 凸性と接線の性質
微分可能な凸関数 \(f\) では、任意の \(a\) に対し \(f(x)\ge f(a)+f'(a)(x-a)\) が成立する。これは接線が下支えであることを表す標準形である。微分可能でなくても、支持線の概念で同様の議論が可能である。
3.1.2 期待値への移し替え
上の不等式に \(x=X\) を代入して期待値を取ると、 \(\mathbb{E}[f(X)]\ge f(a)+f'(a)(\mathbb{E}[X]-a)\) となる。ここで \(a=\mathbb{E}[X]\) とすれば、目的の形が得られる。計算としても簡潔で、最もよく用いられる導出の一つである。
3.2 極値原理・積分による定式化
離散的な平均から始めて、重み付き和や積分へと一般化する見方もある。これは、確率分布を重み付き平均と捉えると自然に理解できる。
3.2.1 測度論的な見通し
確率測度 \(\mu\) を用いれば、ジェンセンの不等式は \(f\!\left(\int x\,d\mu(x)\right)\le \int f(x)\,d\mu(x)\) と書ける。これにより、連続・離散を区別せずに統一的に扱える。積分として見れば、分布の違いは重みの違いに過ぎない。
3.2.2 離散分布から連続分布へ
有限個の点に重みを付けた場合にまず証明し、その後、極限操作で一般の分布に拡張する方法がある。密度関数を持つ場合も、リーマン和や単純関数を通じて同じ結論へ到達できる。
3.3 別証明（平均値の不等式としての見方）
不等式を「平均の比較」としてとらえると、直観的な理解が進む。特に、2点間の中間値に対する評価から、多点の平均へ一般化する流れが分かりやすい。
3.3.1 初等的な場合の整理
まず2点の重み付き平均で主張を示し、それを帰納的に多点へ拡張する。すると、有限和の形のジェンセン不等式が得られる。これは、確率論の前段階としても有用である。
3.3.2 確率分布一般への拡張
有限和の結果を、近似列や単純関数を使って一般の分布へ持ち上げる。こうした手順は、測度論に基づく厳密化と相性がよい。結果として、連続型・離散型を問わず同じ構造が成立する。
4 応用分野と関連概念
ジェンセンの不等式は単独で使われるだけでなく、他の理論の基礎にもなっている。評価の方向性を決める道具として、幅広い分野に浸透している。
4.1 情報理論での位置づけ
情報理論では、対数の凹性を利用した形が特に重要である。エントロピーや尤度の評価では、平均化の順序が不等式の形で現れ、基本的な限界式を生み出す。
4.1.1 エントロピー関連の不等式
エントロピーは対数を含むため、ジェンセンの不等式と自然に結びつく。確率分布の混合に対するエントロピーの振る舞いを評価する際、凹性が本質的な役割を担う。これにより、分布の混合が情報量に与える影響を整理できる。
4.1.2 交差エントロピー・尤度評価への波及
交差エントロピーや対数尤度でも、対数の凹性が上界・下界の形成に使われる。推定問題では、平均的な損失を直接扱いにくい場合に、代替的な評価式を作るための基盤になる。
4.2 統計推測・最適化
統計では、損失関数やリスクの評価に利用される。最適化では、凸目的関数の扱いと密接であり、近似の誤差を制御する道具にもなる。
4.2.1 損失関数の上界・下界
期待損失を直接計算できないとき、ジェンセンの不等式で簡単な式に置き換えることがある。これにより、推定量の比較や、リスクの保守的な見積もりが可能になる。理論解析では、証明の見通しをよくする役割も大きい。
4.2.2 近似（バウンド）での役割
厳密解が困難な問題では、凸性を使って近似値の妥当性を保証する。小さな揺らぎを平均化する場面では、関数の非線形性によるずれを見積もる手段として有用である。
4.3 関連する不等式
ジェンセンの不等式は、平均に関する他の不等式群と深く結びつく。特に、算術平均・幾何平均・調和平均の比較や、行列値の拡張と関連がある。
4.3.1 サンプル平均と凸性（他の平均不等式との関係）
サンプル平均に対する評価は、有限版のジェンセン不等式として理解できる。これを土台に、各種の平均不等式が整理される。平均との差を比較する観点は、統計的な要約の性質を理解する手掛かりになる。
4.3.2 ジャコビアンやスカラー化との連携
多変数や行列に拡張する際には、スカラー化された関数に対して凸性を確認することが多い。変数変換を行うと、ヤコビアン因子や定義域の変形が効いてくるため、単純な一変数の場合より注意が必要である。
4.4 実務的な注意点
適用自体は形式的に見えても、実際にはいくつかの前提確認が欠かせない。とくに、関数の形と期待値の有限性を誤ると、結論が使えなくなる。
4.4.1 凸性の確認方法
解析的には2階微分、幾何学的には弦とグラフの位置関係、代数的には傾きの単調性で確認できる。関数の定義域が区間でない場合は、部分領域ごとに性質を調べる必要がある。
4.4.2 期待値の存在条件（発散の回避）
\(\mathbb{E}[X]\) や \(\mathbb{E}[f(X)]\) が有限でなければ、不等式の意味が不明確になることがある。特に、重い尾をもつ分布では、対数や指数の適用前に可積分性を確認すべきである。
4.4.3 適用対象の変数変換と落とし穴
変数変換後の関数が元の領域で凸であるとは限らない。たとえば、単純な置換によって凹凸が反転することがあるため、直接適用の前に関数全体の形を見直す必要がある。また、条件付き期待値では、条件付ける情報の選び方で評価の意味が変わるため、その解釈を取り違えないことが重要である。